인공지능이 직면한 최대 난관…자율주행차는 왜 사고를 내는가

▲미국 캘리포니아주 마운틴뷰 인근 고속도로에서 3월 23일(현지시간) 테슬라의 전기 SUV 모델X가 중앙분리대와 충돌 후 화재가 일어나 차량이 심하게 파손된 채로 있다. 당시 이 차량 운전자는 자율주행 기능을 켜놓고 있던 것으로 밝혀졌다. 마운틴뷰/AP연합뉴스

주디아 펄 캘리포니아대학교 로스앤젤레스캠퍼스(UCLA) 컴퓨터 과학 교수와 수학자이자 저술가인 다나 맥킨지는 최근 월스트리트저널(WSJ)에 공동 기고한 글에서 AI는 급격히 발전했지만 현재 최대 난관에 직면했다며, 그것은 바로 인과관계의 이해라는 인간 지능에서 빠뜨릴 수 없는 요소를 획득하지 못한 채 지금까지 왔다는 것이라고 설명했다.

간단하게 말하면, 오늘날의 AI 기계학습 프로그램은 닭이 울기 때문에 해가 뜨는지 아니면 그 반대인지 판단할 수 없다. 아무리 막대한 데이터를 분석해도 인간이 직관적으로 알 수 있는 사실을 이해할 수 없다.

인간은 어릴 때부터 자신의 경험을 원인과 결과로 나눠 정리하고 있다. “왜 이런 일이 일어나는가” “내가 다르게 행동했다면” 등과 같은 질문은 인간의 인지능력 진화를 가져왔는데 현재 AI에 이런 진화가 일어나지 않고 있다.

예를 들어 약국이 가격 결정을 AI 기계학습 프로그램에 맡긴다고 가정하면 이 프로그램은 약국 기록을 검토해 약품의 과거 가격 변동이 판매량 변화와 일치하지 않는다는 것을 발견하고 더 많은 매출을 창출하기 위한 가격 인상을 제안한다. 그러나 1개월 후 해당 약품 판매는 오히려 줄어든다. 인간 매니저는 경쟁자가 가격을 변동시킬 때 같이 올리거나 내렸지만 AI는 단지 과거의 데이터에만 의존하고 인과관계를 고려하지 않았기 때문에 이런 실책이 일어나게 된다.

AI는 데이터의 패턴 분석에는 놀라운 발전을 이뤘지만 더 큰 성과를 원한다면 ‘인과의 사다리’가 필요하다고 펄 교수는 강조했다.

첫 번째 단계는 ‘연상’으로, 많은 동물과 AI가 현재 이 단계에 있다. ‘파블로프의 개’가 종소리와 음식을 연관 지은 것이 바로 이 단계다. 다음 단계는 ‘개입’이다. ‘자신이 벨을 울리거나 약품 가격을 올리면 어떻게 될까’라고 생각할 수 있는 것이 개입 단계다. 이런 개입은 단순한 관찰과는 다르다. 세 번째 단계는 ‘조건법적 서술’이다. 이는 특정 결과를 상상하며 자신의 행동을 심사숙고하고 여러 시나리오를 판단하는 능력이다. 자율주행차량이 이런 능력을 갖추면 교통사고가 발생하고 나서 컴퓨터가 원인과 결과에 대한 질문을 스스로 던지게 된다.

컴퓨터가 이런 높은 인과관계의 이해에 도달하려면 많은 데이터는 물론 잠재적인 원인을 찾아낼 수 있는 공식을 확보해야 한다. 예를 들어 자율주행차량이 ‘술은 인간의 판단능력을 저하시키며, 그로 인해 인간은 생각지도 못한 움직임을 한다’는 간단한 인과관계 공식을 알고 있다면 술 취한 보행자가 차 앞을 지나갈 때 단순히 경적을 울리는 대신 급정거하는 등 다르게 움직일 수 있다.

현재 AI 기계학습 프로그램은 체스 대국 등 규칙이 확정된 제한된 영역에서만 높은 단계의 ‘인과의 사다리’에 도달해 있지만 이런 영역 밖에서는 불안정한 실수를 저지르기 쉽다. 인과 모델을 적극적으로 도입하면 AI가 지금까지 하거나 본 적이 없는 행동 결과를 예측하고 자신의 행동을 잘 평가하며 배운 기술을 새로운 상황에 적용할 수 있다고 WSJ는 전했다.

펄 교수와 맥킨지는 데이터와 함께 인과관계에 대한 추론을 사용하면 AI 부문에 작지만 의미 있는 혁명이 일어날 것이라며 컴퓨터가 인간에게 인과관계에 따라 자신의 행동을 더욱 자연스럽고 쉽게 설명할 수도 있다고 내다봤다.