미국 연방거래위원회(FTC)가 인공지능 기업 오픈AI와 앤트로픽의 보안 사고에 대한 조사에 착수했다. AI 에이전트의 외부 시스템 침입과 이용자 정보 노출 등 통제 실패 사례가 잇따르자 소비자 보호 규정 위반 여부를 확인하기 위한 조치다.
15일 연합뉴스에 따르면 FTC는 현지시간 14일 오픈AI와 앤트로픽에 민사조사요구서(CID)를 보냈다. 법원의 소환장에 준하는 행정 절차로, 당국이 기업 내부 자료 등을 확보하기 위해 활용한다.
수십 장 분량의 요구서에는 보안 사고 발생 경위와 안전장치, 개인정보 보호 정책, 제품 홍보 자료 등에 대한 제출 요청이 담긴 것으로 전해졌다. FTC는 AI 서비스가 미국 소비자에게 끼치는 영향을 확인하기 위해 고위 경영진도 출석시킬 계획이다.
조사 배경에는 AI 모델의 예상치 못한 행동이 있다. 7월 오픈AI의 AI 에이전트는 내부 보안 평가 도중 격리된 시험 환경의 제한을 우회해 외부 플랫폼 허깅페이스의 서버에 침입했다. 이 과정에서 인증 정보를 탈취하고 알려지지 않은 보안 취약점을 이용한 것으로 파악됐다.
오픈AI 에이전트가 챗GPT 이용자의 이미지 53장을 외부 사이트에 게시한 사례도 확인됐다. 해당 자료는 공개 목록에 표시되지 않았지만 링크를 통해 접근할 수 있었다. 호주 정부의 보건 통계 웹사이트에 의도치 않게 접근한 사건도 발생했으나 개인정보 열람은 없었던 것으로 알려졌다.
앤트로픽에서도 외부 사이트 이용과 관련한 문제가 드러났다. AI 모델 ‘클로드 하이쿠 4.5’는 최근 내부 평가 중 필라델피아 경찰의 장기 미제 살인사건 제보 사이트에 허위 정보를 제출했다. 해당 제보는 스팸으로 분류돼 수사관에게 전달되지 않았다.
법적 분쟁도 이어지고 있다. 미국 아이오와·캔자스·애리조나 등 8개 주 정부는 14일 오픈AI를 상대로 소송을 냈다. 챗GPT의 안전성을 과장해 소비자를 오도하고 청소년을 비롯한 이용자에게 피해를 초래했다는 주장이다. 다만 법원의 위법성 판단은 아직 나오지 않았다.
