‘개인정보보호’ 취할 경우 감경사유
활용 억제보다 관리 체계 마련하길

“고객의 정보를 분석해서 이번 캠페인에 대한 반응이 좋을 만한 고객 리스트를 뽑아줘.”
기업이 고객의 정보를 AI에 입력해서 업무 효율을 높이는 일은 이제 주변에서 흔히 볼 수 있는 상황이다. 그런데 그 과정에서 AI에게 고객의 정보를 전달하는 것이 법적으로 문제가 없는지, 이후 AI 사업자가 해킹을 당하는 등 고객의 정보가 유출되면 누가 책임을 지게 되는지 등에 대해서는 어느 정도까지 고민이 이루어지고 있는가. 최근 AI 서비스인 클로드에서 국내 기업용 계정 100여 개에 대한 정보가 외부에 유출되는 사건이 발생했다는 사실을 고려한다면, 위와 같은 내용은 기업이 AI를 활용함에 있어 반드시 검토해야 하는 이슈가 되고 있다.
우선적으로 살펴볼 것은 기업이 AI에게 고객의 정보를 제공하는 목적이다. 기업이 개인정보를 수집한 목적 범위 내에서 회사 업무 처리를 위해 AI에게 개인정보를 전달했다면 이는 개인정보 처리업무의 위탁으로 볼 수 있을 것이다. 이 경우에는 고객으로부터 별도의 동의를 받지 않더라도, 위·수탁 계약 등을 체결하고 이러한 사실을 개인정보 처리방침 등에 공개하는 형태로 AI에 정보를 제공할 수 있다.
반면 AI 사업자가 기업으로부터 전달받은 고객의 정보를 자신의 AI 모델 개선이나 학습에 활용한다면 이는 단순 위탁을 넘어 개인정보의 제3자 제공 또는 목적 외 이용·제공에 해당할 수 있다. 따라서 이 경우 고객의 동의 등 제공을 위한 적법한 절차를 갖추어야 한다.
나아가 AI 서비스가 해외에서 이루어지거나 AI 사업자가 제공받은 정보를 해외로 이전하는 경우에는 개인정보의 국외이전에 해당하게 되므로, 기업은 개인정보 국외이전에 따른 법적 요건 등도 준수해야 한다. 이와 관련하여 2025년 4월 AI 딥시크에 대한 개인정보보호위원회의 사전 실태점검 결과에 따르면 AI 서비스 제공 과정에서 이용자의 정보 등이 중국·미국 등 해외에 소재한 제3의 업체로 이전되었음이 확인되었는 바, 기업으로서는 이러한 AI 서비스의 개인정보 처리 구조를 사전에 확인하고 이에 대한 대비를 할 필요가 있다.
더구나 직원이 개인 계정의 AI 서비스에 고객정보를 입력하는 사례도 빈번히 발생하고 있고, 이 경우 위탁관계 자체가 존재하지 않게 되어 위탁으로서의 요건조차 갖추지 못한 채 개인정보가 외부로 이전되는 결과가 나타날 수 있다는 점은 특히 유의해야 한다.
다음으로는 적법하게 정보를 이전한 상황에서 AI 사업자가 해킹을 당한 경우 누가 책임을 부담하는지 여부다. 결론부터 말하면 기업이 아닌 AI 사업자가 해킹을 당했다고 하더라도 기업의 책임이 당연히 면제되는 것은 아니다. 업무를 위탁한 기업은 수탁자에 대해 관리·감독 의무를 부담하며, 이러한 의무를 제대로 수행하지 않은 경우에는 기업 또한 이에 대한 책임을 질 수밖에 없다. 특히 개인정보보호법에서는 수탁자가 위탁업무와 관련하여 개인정보를 처리하면서 법을 위반하여 발생한 손해배상책임에 대해서는 수탁자를 개인정보처리자의 소속 직원으로 보고 있다. 따라서 AI 사업자가 수탁자라고 한다면 정보를 위탁한 기업 또한 배상책임에서 자유롭기는 어렵다고 할 것이다.
다만 개인정보가 유출되었다는 사실만으로 기업에게 책임이 인정되는 것은 아니다. 2023년 3월께 오픈AI의 챗GPT 시스템 오류로 인해 이용자들의 개인정보가 유출된 사건에서 개인정보보호위원회는 오픈AI가 개인정보 보호조치를 소홀히 했다고 보기 어렵다는 이유로 안전조치 의무 위반에 대해서는 처분을 하지 않았다. 기업이 통상적으로 기대 가능한 보호조치를 수행하고 있었다고 한다면 이는 유출에 대한 책임을 면제 또는 감경받을 수 있는 사유로 판단될 가능성이 상당하다.
따라서 업무의 효율성을 높이기 위해 AI를 활용하는 것을 더 이상 미룰 수 없는 요즘, 기업으로서는 외부 AI 서비스의 도입을 고려함에 있어, AI 활용을 일률적으로 제한하기보다는, 업무에 필요한 범위 내에서 개인정보의 이전을 최소화하고, AI 서비스 이용 구조가 위·수탁에 해당하는지를 확인하여 그에 따른 적절한 관리체계를 마련하는 것이 무엇보다도 중요한 것이다.
나아가 AI 사업자와의 계약을 통해 AI가 고객 정보를 학습하지 않도록 통제하는 한편, AI 서비스상에서 모델 학습 활용을 배제하는 설정을 해야 할 것이다. 또한 임직원들에게 기업이 승인한 서비스와 계정만을 사용하도록 하고 개별적으로 AI를 사용할 때는 고객 정보가 입력되지 않도록 하는 교육 및 관리에도 신경써야 할 것이다.




