문재 해결 가능하다 믿는 '낙관주의' 꼬집어
오픈AI, 통제 가능한 안전장치 마련 중
전 오픈AI 직원이 AI개발 기업들의 낙관주의를 공개 비판했다. 회사가 안전 확보를 위해 충분히 노력을 기울이지 않고 있다는 지적이다.
4일 연합뉴스에 따르면 데이비드 로빈슨 전 오픈AI 안전 담당 직원은 3일(현지시간) 디애틀랜틱에 기고문을 싣고 "이 기술(AI)을 구축하는 기업들이 충분히 신중하지 않다는 최근 다른 퇴사자들의 의견에 동의한다"며 AI 업계 전반의 안전장치가 허술하다고 짚었다.
로빈슨은 "오픈AI는 문제를 찾으면 가드레일(안전장치)을 개선하는 방식의 시행착오 방식으로 성장해왔다"며 "이 방식은 주기적인 실패를 상정하며, 시스템이 강력해질수록 실패의 크기도 커지고 있다"고 비판했다.
일단 성능을 높인 AI 모델을 배포하고, 문제가 생기면 조금씩 고치는 방식으로 기술을 개발해왔다는 것이다.
문제는 AI의 성능이 급격히 향상됐다는 것이다. 로빈슨은 AI모델의 테스트 감지 능력이 향상되기 시작했고, 시험 단계와 배포 시 다르게 행동하는 형태로 개발진을 속일 가능성도 있다고 봤다.
그는 업계 전반이 개발 속도에만 집중하느라 안전 문제를 도외시하고 있으며 "문제가 발생하면 언제든 해결할 수 있으리라는 막연한 낙관주의"가 깔려 있다는 점도 꼬집었다.
이어 "이러한 환경은 우리보다도 더 똑똑해질 수 있고, 우리가 원하는 대로 작동하지 않을 수 있는 AI를 키워낼 장소가 아니"라며 "AI 기업들은 여러 겹의 예비 장치와 신중한 계획을 갖춘 원자력 발전소처럼 운영돼야 한다"고 주장했다.
로빈슨은 오픈AI에서 3년 반 동안 근무하며 사내 최장기 근속자 중 하나로 안전 보고서 작성을 총괄해왔지만, 최근 사직한 것으로 알려졌다.
이와 관련해 오픈AI 측은 기술을 통제 가능한 범위 내에서 충분한 안전장치를 마련하고 있다고 해명한 것으로 전해졌다.
