이상문 교수의 ‘AI 시대 강점기반 경영’④
〈연재 순서〉
① AI 시대, 경영의 해답은 '사람의 강점'에 있다
② 끊임없는 격변, '미래지향적 스마트 기업'의 조건
③ 사람과 생태계, AI 시대 새로운 가치의 원천
④ 낙관과 두려움 사이, AI의 방향은 경영이 정한다
AI에 관한 대중의 논의는 흔히 두 극단 사이를 오간다. 한쪽 끝에는 '머스크토피아적(Musktopian)' 관점, 즉 테슬라와 스페이스X의 최고경영자(CEO) 일론 머스크가 보여 주는 유토피아적 낙관론이 있다. 이 관점은 지능형 기계가 위험하고, 지루하며, 반복적인 노동을 대신해 줄 것이라고 상상한다.
로봇은 광산, 용광로, 재난 지역, 전장에서 일할 수 있다. AI는 교육, 의료, 법률 조사, 그리고 여러 전문 서비스의 비용을 낮출 수 있다. 인간은 창의적이고 의미 있으며 더 높은 가치를 지닌 일을 할 시간을 확보하게 될 것이다. 생산성이 크게 높아져 지금은 풀기 어려워 보이는 문제들까지 해결할 수 있을 것이다.
이러한 가능성은 진지하게 검토할 가치가 있다. AI는 이미 연구, 진단, 수술, 설계, 분석, 의사소통을 보조하고 있다. AI의 예측과 인간의 판단을 결합한 시스템은 새로운 형태의 의사결정 지능(Decision Intelligence)을 가능하게 한다. 이를 통해 경영자들은 더 많은 대안을 검토하고, 약한 신호(Weak Signals)를 조기에 감지하며, 경험으로부터 더 빠르게 배울 수 있다. 올바르게 활용된다면 AI는 인간의 상상력을 좁히기보다 그 지평을 넓힐 수 있다.
디스토피아적 관점은 그에 못지않게 심각한 위험을 지적한다. 더 강력한 시스템은 편향을 증폭하고, 프라이버시를 침해하며, 정보를 조작하고, 부를 집중시키며, 책임성을 약화시킬 수 있다. 또 사이버 공격이나 생물학적 위협의 진입 장벽을 낮출 수도 있다.
자율 무기와 AI 기반 허위 정보는 갈등을 심화시킬 수 있다. 가장 극단적인 시나리오에서는 AI 시스템이 인간의 통제를 벗어나 인간의 가치와 어긋나는 자체 목표를 추구할 수도 있다. 이러한 위험은 흔히 AI가 인간 지능을 넘어서는 '특이점(Singularity)' 논의와 함께 거론된다.
무비판적 낙관주의도, 아무것도 못 하게 만드는 두려움도 경영 전략이 될 수는 없다. 중요한 질문은 AI가 본질적으로 선한지 악한지가 아니다. AI의 영향은 그 사용을 둘러싼 목표, 데이터, 인센티브, 통제 장치, 제도에 달려 있다. 경영진은 이러한 선택에 책임을 져야 한다. 책임을 알고리즘에 떠넘기거나, '우리가 하지 않았어도 경쟁사가 먼저 했을 것'이라는 논리로 예견할 수 있는 피해를 정당화해서는 안 된다.
미래지향적 기업은 단계적 자율성(Graduated Autonomy)을 도입해야 한다. 위험이 낮고 되돌릴 수 있는 업무에는 높은 수준의 자동화를 허용할 수 있다. 안전, 고용, 권리, 필수 서비스 이용, 또는 되돌릴 수 없는 약속에 영향을 미치는 결정에는 더 엄격한 인간의 감독이 필요하다.
조직은 시스템을 도입하기 전에 시험하고, 도입 후에는 작동을 모니터링하며, 누가 책임을 질 것인지를 문서화하고, 영향을 받는 사람들에게 중요한 결정에 이의를 제기할 수 있는 실질적인 방법을 제공해야 한다. 사람에게 미치는 영향이 큰 영역일수록 인간의 판단이 최종 권한을 가져야 한다.
AI의 영향력은 어느 한 기업이나 국가를 넘어선다. 데이터, 모델, 사이버 시스템, 금융 네트워크, 정보 플랫폼은 국경을 초월한다. 한 관할 구역에서 개발된 유해한 시스템은 전 세계 사람들에게 영향을 미칠 수 있다. 국가 차원의 규제는 여전히 필요하지만, 서로 호환되지 않는 국가별 규칙만으로는 글로벌 기술을 규율할 수 없다.
국제적인 노력은 이미 시작되었다. 경제협력개발기구(OECD)는 2024년 'AI 원칙'을 개정하여 신뢰할 수 있는 AI, 인권, 투명성, 안전, 책임성을 강조했다. 유엔은 2024년 디지털 협력 및 AI 거버넌스를 위한 틀로 '글로벌 디지털 콤팩트(Global Digital Compact)'를 채택하고, AI에 관한 독립적인 국제 과학 패널 설립과 글로벌 AI 거버넌스 대화를 촉구했다. 그 밖의 이니셔티브로는 유네스코의 'AI 윤리 권고', G7 히로시마 AI 프로세스, 유럽연합(EU)의 'AI 법(AI Act)', 유럽평의회(Council of Europe)의 'AI 기본협약' 등이 있다.
이러한 이니셔티브는 중요한 출발점이지만, 완성된 거버넌스 체계는 아니다. 지금 세계는 고위험 시스템 평가, 중대 사고 보고, 개인정보 및 지적 재산권 보호, 첨단(프런티어) 모델 보안, AI 생성 콘텐츠 식별, 자율 무기 통제, 그리고 AI가 생물학적·사이버 위협을 만드는 데 악용되는 것을 막기 위한 상호 호환 가능한 표준이 시급하다. 또한 표준은 AI 접근성 문제도 다루어야 한다. 소수의 국가와 기업이 AI의 혜택을 독점한다면 기존의 경제 격차와 디지털 격차는 더욱 심화될 것이다.
글로벌 거버넌스는 혁신을 억누르지 않으면서도 기술 변화에 발맞출 수 있어야 한다. 변화에 적응하지 못하는 규칙은 금세 낡은 것이 되기 때문이다. 더 나은 접근 방식은 공유된 원칙, 과학적 평가, 위험 기반 표준, 독립적인 감사, 그리고 지속적인 국제적 대화를 결합하는 것이다. 기업들은 정부가 행동하기를 기다리기보다 이 과정에 참여해야 한다. 기업의 기술 지식은 필수적이지만, 기업의 상업적 이익은 공적 책임의 원칙 아래 통제되어야 한다.
신뢰는 전략적 자산이 될 것이다. 고객, 직원, 투자자, 파트너들은 AI 시스템이 무엇을 할 수 있는지뿐만 아니라, 그 조직이 AI를 책임감 있게 쓸 수 있는지도 점점 더 따져 묻게 될 것이다. 혁신 과정에 거버넌스를 내재화한 기업은 규제에 더 잘 대비하고, 예방 가능한 실패를 줄이며, 생태계 전반에서 장기적인 관계를 더 잘 유지할 수 있을 것이다.
경영의 도구는 고대(Ancient)의 행정에서 산업 생산, 경영과학, 전략경영, 그리고 오늘날의 AI 기반 기업에 이르기까지 극적으로 변화해 왔다. 그러나 경영의 궁극적 목적은 변하지 않았다. 경영은 조직이 가치를 창출하고 인간의 웰빙을 높일 수 있도록 사람의 노력과 자원을 조율하기 위해 존재한다.
AI 시대에 경영자는 혁신의 리더, 인간-AI 협력의 촉진자, 지식의 통합자, 신뢰의 수호자, 그리고 생태계의 구축자가 되어야 한다. 경영자는 미래를 안다고 착각하지 않으면서도 조직이 변화를 예측하도록 도와야 한다. 또한 효율성과 회복탄력성, 기술 역량과 윤리적 책임 사이의 균형도 맞춰야 한다. 무엇보다도, 경영자는 AI의 지능(Intelligence)에 목적과 방향을 부여하는 인간의 재능을 인식하고 개발해야 한다.
미래지향적 기업은 AI를 가장 무분별하게 도입하거나 인력을 가장 공격적으로 줄이는 조직이 아니다. 가장 좋은 질문을 던지고, 인간과 AI를 현명하게 결합하며, 공유되고 지속 가능한 가치를 위해 생태계 전반에 걸쳐 혁신을 이끄는 조직이다. AI는 기업이 할 수 있는 일의 범위를 크게 확장할 수 있다. 그러나 기업이 무엇을 해야 할지는 인간의 지혜가 결정해야 한다.
오늘날의 격변은 이 책임을 더욱 시급한 과제로 만든다. 혁신은 경제 격차, 디지털 격차, 목표 격차를 해소하는 데 도움이 될 수도 있고, 오히려 그 격차를 심화시킬 수도 있다. 오토사피엔트 AI 시스템은 번영하는 미래를 창조하는 협력자가 될 수도 있고, 분열과 파괴의 도구가 될 수도 있다. 그 방향을 결정하는 것이 바로 경영이다. 경영진은 '살아 숨 쉬는 혁신 생태계'를 바탕으로 미래지향적 기업을 구축함으로써, 우리 시대 가장 강력한 기술을 사람들의 더 나은 삶이라는 변함없는 목적에 쓰이게 할 수 있다. 이것이 바로 인간 중심 경영의 역할이자 책임이다.
