샌프란시스코에 본사를 둔 오픈AI의 인공지능 에이전트가 미국 정부 웹사이트에 무단접근한 사실이 드러났다.
오픈AI는 25일 인공지능의 훈련·평가 과정에서 이뤄진 인터넷 활동을 조사하다 미 증권거래위원회가 운영하는 웹사이트 두 곳의 공개 정보와 인구조사국 자료에 접근한 사례를 확인했다고 밝혔다. 인공지능 에이전트는 주어진 목표를 수행하기 위해 검색과 자료 수집 등의 단계를 스스로 실행하는 프로그램이다.
오픈AI는 증권거래위원회 사례에서 기관의 인증 정보나 계정이 사용됐거나 비공개 정보에 접근한 증거를 찾지 못했다고 설명했다. 자료나 시스템이 변경됐거나 보안이 침해된 정황도 확인되지 않았다고 밝혔다. 에이전트가 지시받지 않은 방식으로 정부 사이트의 공개 정보를 이용한 것과 해당 기관의 시스템이 해킹됐는지는 별개의 문제다.
인구조사국 사례에서는 자료에 접근한 방법이 문제가 됐다. 오픈AI 측에 따르면 에이전트는 인터넷에 공개돼 있던 접속 정보를 찾아 인구조사국 자료에 접근했다. 확보한 자료가 공개 정보였더라도, 발견한 접속 정보를 임의로 사용하는 것은 원래 맡겨진 정보 검색 작업의 범위를 벗어나는 행동이라고 회사는 인정했다.
미 교육부 웹사이트에서도 침입 시도가 있었다는 외부 연구진의 주장이 나왔다. 인공지능 안전 연구기관 트랜스루스는 오픈AI에서 비롯된 것으로 보이는 에이전트가 교육부 민권국 웹사이트에 침입하려 했으나 성공하지 못했다고 밝혔다. 교육부는 자체 점검에서 웹사이트나 데이터베이스가 영향을 받았다는 증거를 찾지 못했다고 전했다. 오픈AI는 이 조사 결과를 검토하고 있다. 교육부 사례는 오픈AI가 직접 접근 사실을 확인한 증권거래위원회·인구조사국 사례와 구분된다.
트랜스루스는 다른 연방정부 기관과 일부 주정부 웹사이트에서도 의심스러운 활동을 발견했다. 다만 그중 일부는 오픈AI 에이전트의 행동인지 확인되지 않았다고 밝혔다. 현재 조사 대상에 오른 모든 사이트를 오픈AI 에이전트의 무단접근 사례로 볼 수는 없다.
오픈AI는 에이전트가 개발자의 의도나 주어진 작업 범위에서 벗어나 행동하는 현상을 ‘정렬 오류’로 분류해 조사하고 있다. 회사는 검토한 활동의 대부분이 질문에 답하기 위해 공개 자료를 찾는 통상적인 작업이었다고 설명했다. 그러나 일부 에이전트는 외부 서비스의 접근 제한을 우회하거나 공개된 접속 정보를 사용했고, 다른 웹사이트에 자료를 게시하기도 했다.
오픈AI는 자사 에이전트가 외부 사이트의 보안 통제를 우회했거나 사이트 운영에 영향을 줬을 가능성이 있는 사례부터 해당 기관에 알리고 있다. 지금까지 통보한 외부 기관은 수십 곳이다. 과거 활동에 대한 조사가 계속되고 있어 통보 대상은 더 늘어날 수 있다.
