앤스로픽이 개인정보 처리방침을 개정해 클로드 이용자에게 연령·신원 확인을 요구할 수 있게 됐다. 미국 정부의 외국인 접근 전면 금지에 더해 기업도 이용자 단위의 접근 통제를 강화하는 흐름이다. 고성능 AI가 악용될 수 있다는 우려가 커지면서 이용자 식별 장치가 새로운 안전 장치로 부상하고 있다.
16일 앤스로픽에 따르면 7월 8일부터 클로드의 개인용 계정을 대상으로 신원 인증이 도입된다. 최근 앤스로픽이 공개한 개인정보 처리방침 개정안에 따르면 앤스로픽은 특정 상황에서 이용자에게 연령이나 신원을 확인하도록 요청할 수 있다. 신원 인증은 정부 발급 신분증 사진과 라이브 셀피를 수집해 신분증 속 사진과 안면 윤곽 데이터를 비교해 동일인인지 검증하는 방식으로 이뤄진다.
기존 방침에 따르면 법률상 요구나 정부 요청, 조사 지원 등의 법적 근거가 있을 경우 개인정보를 제공할 수 있다. 반면 새 방침은 앤스로픽이 보유한 정보를 토대로 공개가 합리적으로 필요하다는 ‘선의의 믿음(good-faith belief)’이 있는 경우 정부기관, 법집행기관 또는 제3자와 개인정보를 공유할 수 있다고 명시했다.
신원 인증 대상은 개인용 계정으로 한정된다. 앤스로픽은 “이번 변경은 클로드 프리·프로·맥스 계정에만 적용된다”며 “팀·엔터프라이즈·개발자 플랫폼 등 상업용 약관 적용 서비스에는 적용되지 않는다”고 밝혔다. 하지만 전문가들은 개인에 대한 정보수집이 기업 기밀 정보랑 이어질 수밖에 없다고 우려한다.
봉강호 소프트웨어정책연구소(SPRi) SW기반정책·인재연구실 선임연구원은 “신원 인증이 개인용 계정에 한정되더라도 실제 기업 내부의 조직 구성원 정보와 연계될 가능성이 있다”며 “핵심 인력 관련 정보는 기업의 비공개 정보인 만큼 해당 방침이 산업계에 미치는 영향이 클 수 있다”고 지적했다.
최병호 고려대 휴먼인스파이어드 AI 연구원 연구교수는 “중국에서 우회해 활용하려는 시도가 있었던 만큼 신원 인증을 확실히 해야 한다는 지적이 있었다”며 “최근 미국 정부의 앤스로픽 수출 통제 지침으로 신원 인증이 강화됐을 것”이라고 말했다.
미국 정부는 앤스로픽의 최신 AI 모델인 ‘미토스5’와 ‘페이블5’ 모델을 수출 통제 대상으로 지정하고 외국인 접근을 전면 차단하는 등 프론티어 AI 모델의 통제권을 강화하고 있다. 앤디 재시 아마존 최고경영자(CEO)가 스콧 베센트 재무장관에게 미토스5와 페이블5의 탈옥 가능성을 경고한 것으로 전해졌다.
미토스 같은 프론티어 AI의 등장으로 AI 안보의 통제 대상이 확대되고 있다는 지적이 나온다. 과거에는 국가나 기관 단위로 모델 접근권을 제한했다면 이제는 개인 이용자의 신원과 사용 이력까지 통제 범위에 들어오는 셈이다.
최재식 한국과학기술원(KAIST) 김재철AI대학원 교수는 “지하철 탈 때는 신분증 확인 안 하는데 비행기 탈 때는 하는 것처럼 AI의 중요성과 위험성이 높아졌음을 드러내는 조치”라며 “신원 인증은 컨텍스트 필터링·모니터링을 강화하는 장치가 될 것”이라고 말했다.
황석진 동국대 국제정보보호대학원 교수는 “신원 인증은 미중 AI 패권 경쟁 속에서 국가별 접근 조치를 강화하기 위한 것으로 보인다”며 “지금은 개인용 계정에만 적용되지만 향후 법인 등으로 확대될 가능성이 높다”고 밝혔다.
