“AI 윤리성 제고는 세계적 흐름”…국내 전자업계도 동참 ‘열중’

입력 2023-10-30 16:24

  • 작게보기

  • 기본크기

  • 크게보기

(게티이미지뱅크)

인공지능(AI)이 갈수록 고도화하고 있다. 특히 챗GPT 등장 이후 생성형 AI 시장이 폭발적으로 커지고, 일상에 속으로 빠르게 파고들면서 여러 윤리적 문제들도 대두하고 있다. 이에 기업들은 AI 기술·제품 개발뿐만 아니라 안정성·윤리성 등 공익성 제고를 위한 노력에도 열중하고 있다.

30일 업계에 따르면 미국 반도체 기업 인텔은 26일부로 ML커먼스(MLCommons)의 ‘AI Safety(AIS) 워킹 그룹’에 합류한다고 발표했다. 2020년 설립된 ML커먼스는 공익을 목적으로 머신러닝 등 AI 기술을 개발하는 글로벌 산학 컨소시엄이다. 구글, 인텔, 엔비디아 등 글로벌 반도체 기업뿐 아니라 미국 버클리·스탠포드대, 캐나다 토론토대 등 대학 연구기관 등도 함께 협력하고 있다.

AIS 워킹 그룹은 AI 안전 테스트 개발을 지원하고, 이를 기반으로 업계 표준 AI 안전 기준을 만드는 것을 목표로 발족했다. 인텔은 이곳에서 AI 도구와 모델의 안전성과 위험 요소를 측정하는 기준 플랫폼을 만드는 데 도움을 공유하겠다는 계획이다.

디팩 패틸(Deepak Patil) 인텔 부사장은 “대규모언어모델(LLM)의 편재성과 보편성으로 AI 개발과 배포에 있어 안전 문제를 해결하기 위해 함께 협력하는 것이 매우 중요하다”며 “AI를 개선하기 위한 이번 모임에 합류하게 돼 기쁘다”고 말했다.

ML커먼스의 AIS 워킹 그룹에는 인텔뿐만 아니라 △앤트로픽(Anthropic) △코엑티브 AI(Coactive AI) △구글(Google) △인플렉션(Inflection) △메타(Meta) △마이크로소프트(Microsoft) △엔비디아(NVIDIA) △오픈AI(OpenAI) △퀄컴(Qualcomm Technologies) 등 유수의 글로벌 기업들과 아인트호벤 공과대, 스탠포드대, 시카고 대 등에서 다양한 분야의 AI 전문가들이 협력한다.

이처럼 오늘날 AI 기술의 발전 속도가 사회적 인식의 속도를 앞지르면서 정보 편향성, 투명성 부족, 인간의 사생활·존엄성 침해 등 여러 윤리적인 문제가 발생하고 있다. 이에 기업들은 기술 개발과 동시에 이러한 윤리적 문제 해결도 사회적 책임으로 인식해 앞장서고 있다.

▲AI 안전 정상회의가 다음달 1~2일 영국 버킹엄셔주 블레츨리 파크에서 개최된다. (영국 AI 정상회담 홈페이지)

국내 전자 기업들 역시 이러한 세계적 흐름에 적극적으로 동참해나가고 있다.

삼성전자는 다음 달 1~2일 영국 정부가 주최하는 ‘AI 안전 정상회의’에 공식적으로 초청받아 참여할 예정이다. 전경훈 DX(디바이스경험) 부문 최고기술책임자(CTO) 겸 삼성리서치장(사장)이 참석해 의견을 낸다.

영국 버킹엄셔주 블레츨리 파크에서 열리는 이번 행사에서는 경제협력개발기구(OECD), 유엔(UN), 주요 7개국(G7) 정부와 기업, 전문가 등이 참여한다. 이 자리에서 AI의 위험성을 공유하고, 안전한 AI 기술과 사용을 위해 규제 조치 등의 합의를 도출한다는 계획이다.

삼성전자 외에도 네이버, 마이크로소프트, 오픈AI 등 기업 관계자들이 참여하는 것으로 알려졌다.

▲LG AI 윤리원칙 (자료제공=LG)

LG 역시 지난해 ‘AI 윤리 점검 태스크포스(TF)’를 신설하고, AI 기술과 제품 개발에 있어 윤리원칙을 강조해오고 있다.

LG는 △인간의 권리를 침해하지 않아야 한다는 ‘인간존중’ △차별을 하지 않고 공정하게 작동해야 한다는 ‘공정성’ △안전 부분에 있어 검증 시스템을 항시 가동한다는 ‘안정성’ △LG 구성원이 주인 의식을 가지고 역할과 책임을 다해야 한다는 ‘책임성’ △AI가 내놓은 결과를 고객이 이해할 수 있도록 끊임없이 소통한다는 ‘투명성’ 등 5대 핵심 AI 윤리원칙을 발표했다.

주재걸 카이스트 AI대학원 교수는 “AI 자체로는 가치 중립적이지만 현재 인간이 컨트롤하기 어려울 정도의 규모로 데이터를 자동적으로 수집하고 있고, 그렇게 수집된 데이터들이 완벽하지 않은 필터링을 거쳐 학습되다 보니 여러 윤리적인 문제들이 발생하고 있다”며 “기업들은 기술 개발뿐만 아니라 AI 윤리성을 연구하고, 대응하는 별도의 팀을 운영하는 등의 노력도 병행해야 한다”고 말했다.

  • 좋아요0
  • 화나요0
  • 슬퍼요0
  • 추가취재 원해요0
주요뉴스
댓글
0 / 300
e스튜디오
많이 본 뉴스
뉴스발전소