정연섭 과학칼럼니스트/前 한국원자력학회 사무총장
행동은 말보다 어려운 이유는 있다. 처음 든 의문은 주인 명령대로 계좌 이체하려면 암호가 필요할 텐데 암호를 어떻게 공유할 수 있을까? 가족이라도 결코 암호를 공유할 수 없다. 살펴보면 오픈클로는 메일을 전송하고, 웹페이지에 접근할 수 있지만 금융 거래를 권하지 않는다. 나름대로 보안 조치를 했지만, 엄밀하지는 않다.
업무 자동화는 인간의 소망이지만 보안 탓에 제약이 늘 걸린다. 힘들게 개발한 후에 제품을 적용하려면 보안과 안전의 장벽이 나타난다. 사회에서뿐만 아니라 공장설비도 마찬가지다. 필자도 원자력 발전소의 모든 기기의 작동 방식을 통일시키고 자율 운전을 도입하고자 했지만 성공하지 못했다. 안전등급별로 기기의 운전방식이 다르기 때문이다. 기기의 등급 분류는 설계와 해석의 기본이며, 안전용 기기를 세심하게 조작해야 한다는 원칙도 자동 운전만큼 중요하다.
보안 문제 외에도 자동화는 상황인식을 저해한다. 각 개인은 모든 행위의 최고 결정권자이며 자동화시스템이 고장 날 경우에 최후 보루다. 상황인식은 적절한 단계에서 인간이 개입될(Man in the Loop) 때 향상된다. 단순한 마우스 클릭도 상황인식을 돕는다. 상황인식을 깎아 먹는 개인비서는 개인 첩자로 변질될 수 있다.
오픈클로 없이도 사람들은 AI를 활용하여 코딩했다. AI는 모든 함수를 꿰차고 있고 노안과 독수리 타법의 장애가 없으니 정확하고 빠르다. AI 생성 코딩은 깔끔하다. 이미 미국 스탠퍼드 대학 등은 AI지원 코딩을 권장한다. 유능한 개발자는 생성된 코딩을 검토하여 수용하므로 상황인식이 줄어들지 않는다.
오픈클로의 자동화는 자체 능력이 아니면 대형언어모델(LLM)에서 나온다. 오픈클로가 주인의 명령과 자신이 지닌 스킬을 LLM에게 전달하면 LLM은 알맞은 작업 순서를 제시하여 준다. 오픈클로는 지시된 작업 순서대로 실행하고 각 단계 결과를 LLM에게, 최종 실행결과는 주인에게 보고한다. 자산가가 금융 전문가의 전략을 받아 투자하는 것과 유사하다.
선풍적인 인기에도 불구하고 오픈클로는 LLM의 응용 기술로 보는 것이 정확하다. 오픈클로는 공짜지만 LLM의 뇌를 빌리려면 적잖은 구독료를 내야 한다. 구독 암호가 노출될 위험도 있다. 각종 LLM을 선택할 수 있는데 불행히도 국산 LLM은 없다. 오픈클로가 물어뜯으며 풍랑을 일으켜도 마냥 기뻐할 수 없는 이유이다.
소크라테스는 문자가 인간의 기억 능력을 떨어뜨린다고 했지만, 문자는 도입되었다. AI 에이전트인 개인비서도 보안을 침해하고 상황인식을 훼손하겠지만 서서히 도입될 것이다. 각 기업이 재빠르게 사업목적에 알맞은 AI 에이전트를 만들어 활용할 수도 있다. 그러나 표면적 성공에 현혹되면 안 된다. 해외 선도기업이 높은 연봉을 지급하면 LLM 개발자를 호출하는 데는 이유가 있다. 한국 반도체가 수입품에 만족하고 개발을 시도하지 않았다면 자금의 독보적 위치에 있지 못했다. 다양한 시나리오를 LLM이 검토한 이란 전쟁을 보더라도 LLM은 국가 안보에도 직결된다.
