“인공지능보다 인간 먼저”
트럼프 '속도조절론' 맹비난
마이크로소프트(MS)가 14일(현지시간) 자사 홈페이지를 통해 “AI는 ‘인간이 중요하다’는 단순한 전제에서 출발한다”는 내용을 골자로 한 행동 강령(Code of Conduct)을 공개했다고 미국 경제매체 CNBC방송이 보도했다.
구글 딥마인드, 오픈AI, 앤스로픽 최고경영자(CEO)들이 잇따라 ‘AI 개발 속도 조절’의 필요성을 강조한 가운데 MS 역시 유사한 취지의 자체 강령을 내놓았다는 점에 관심이 쏠렸다.
이날 MS는 “AI는 인간을 최우선으로 설계됐고 인간의 필요에 기반을 둔다”며 “인간의 지침에 따라 형성된 AI 모델을 훈련하고 배포하겠다는 게 회사의 의지”라고 밝혔다.
MS가 밝힌 행동 강령에 따르면 MS의 AI 모델은 인간의 지시에 따라 승인된 범위 내에서만 작동한다. 스스로 독립적인 목표를 설정하거나 부여된 권한 범위를 넘어서는 행동을 할 수 없다.
자신의 추론 과정 등을 조작하거나 은폐하는 행위, 신경망언어(neuralese)처럼 인간이 이해할 수 없는 언어로 AI끼리 상호 소통하는 행위도 금지된다.
MS는 또 “AI는 인간처럼 설계돼선 안 된다”며 “AI는 의식을 갖고 있지 않고 의식을 모방하도록 설계돼서도 안 된다”고 지적했다. 이에 따라 MS는 “우리는 AI 모델이 법인격 지위 획득을 추구하는 것이나, 모델이 복지를 누리거나 권리를 보유할 수 있다는 주장을 거부한다”고 강조했다.
CNBC는 MS의 무스타파 술레이만 AI CEO와 인터뷰를 전했다. 술레이만 CEO는 “AI가 항상 인간을 위해 일하고 인간을 대체하려 하지 않는다는 명확한 약속이 있었으면 좋겠다는 의견이 있었다”며 “AI가 인간에 대한 의존성을 창출하거나 아첨하지 않고 항상 인간의 판단과 자율성을 촉진하도록 해야 한다는 의견도 다수 확인했다”고 행동 강령의 취지를 설명했다.
MS는 이날 공개한 행동 강령 초안을 바탕으로 법학·윤리학·철학 등 전문가와 대중의 의견을 수렴해 연말께 최종안을 확정하고 내년에 개발·배포되는 차세대 AI 모델의 기본 규범으로 적용할 예정이다.
MS의 이번 행동강령 발표는 샘 올트먼 오픈AI CEO와 다리오 아모데이(Dario Amodei) 앤스로픽 CEO, 일론 머스크(Elon Musk) xAI 창업자 등이 AI 위험성을 경고하며 개발 속도를 늦춰야 한다고 강조한 데 따른 것으로 풀이된다.
AI 수장들이 잇따라 경고성 발언과 연구개발 속도조절을 강조한 반면, 도널드 트럼프 미국 대통령은 '속도조절론'에 반감을 표출하며 이 CEO들을 비난했다. 이들의 주장을 음모론과 사기극으로 치부하며 거듭 반감을 표출했다.
그는 트루스소셜 게시글에서 "AI와 데이터 센터를 겨냥한 역겨운 음모가 있으며, 이를 기뻐할 유일한 나라는 중국"이라고 적었다. 이어 "AI에서 이기는 자가 승리할 것이다. 우리는 중국과 모든 다른 나라들을 앞서고 있으며, 계속 그럴 것"이라며 "음모론자들, 반역자들, 배신자들, 정보유출자들, 조심하라"고 강조했다.
