RSI 가속화엔 통제 상실 경고
미국 오픈AI가 AI 안전성 확보를 위한 국제 협력과 기준의 틀 마련을 미국이 주도해야 한다는 제언을 내놨다. AI와 관련한 안보 문제를 각국 정부가 논의할 수 있는 장이 중요하다며 미국과 중국의 협력에도 기대를 나타냈다.
21일(현지시간) 로이터통신에 따르면 샘 올트먼 오픈AI 최고경영자(CEO)는 이날 유엔 안전보장이사회 회의에 참석할 예정이며 IA 안전성에 대한 국제적 협력을 촉구할 것으로 보인다. 24일 열리는 미·중 정상회담에서도 AI 분야의 협력이 의제로 다뤄질 예정이다.
AI 성능 발전이 가속화하는 한편 기업 간 미·중 간 개발 경쟁이 치열해지면서 AI를 통제하기 어려워질 위험이 커지고 있다. 오픈AI는 성명을 통해 AI를 안전하게 발전시키기 위해서는 국제 기준이 필요하다고 주장했다. AI 위험 평가 기법과 개발 방법, 사고 보고에 관한 규칙 제정을 미국이 주도해야 한다고 밝혔다.
기준 마련에 대해서는 각국의 AI 안전 기관 네트워크를 통해 논의할 것을 제안했다. 국제적인 안전 기준을 마련한 항공·금융 업계의 사례를 참고할 수 있다고 덧붙였다.
또 각국 정부가 AI와 관련된 안보상의 우려나 위협 정보, 안전 연구에 대해 정보를 교환할 수 있는 채널이 필요하다고 주장하며 “특히 AI 개발을 주도하는 미국과 중국의 대화가 긍정적인 한 걸음이 될 것”이라고 강조했다.
AI 모델의 개발 기법에 관해서는 모델 개선을 AI 스스로 자동화하는 재귀적 자기 개선(RSI)를 통해 성능 진화가 가속화할 것이라고 짚었다. 또 RSI가 주의 깊게 진행되지 않을 경우 “인간이 개발 과정을 이해·통제할 수 없게 돼 AI가 인간에게 위험한 존재가 될 가능성이 있다”고 경고했다.
미·중 정상회담을 앞두고 열린 20일 장관급 협의에서는 베센트 미국 재무장관이 AI 사고나 안보 위협이 발생했을 때 상호 통보하는 체계를 제안하는 등 대화가 시작되고 있다. 다리오 아모데이 앤스로픽 CEO는 최근 AI 안전성과 관련해 개발 속도 둔화를 촉구했다. 미국 기술 기업과 미국 정부 내에서 찬반을 둘러싼 논쟁이 격화하고 있다.
