유엔 사무총장이 인공지능(AI)을 감시할 유엔 기구를 구상 중이라고 밝혔다. 이 기구의 모델로는 유엔 산하 핵 감시 기구인 국제원자력기구(IAEA)를 제시해 AI가 핵 수준의 감시·규제 대상이 될 수 있음을 시사했다. 또 AI의 빠른 발전에 대응해 각국 정부, 관련 기업들에 공통적으로 적용되는 국제적인 행동을 촉구했다.  

AP, 로이터통신 등에 따르면 안토니우 구테흐스 유엔 사무총장은 12일(현지시간) 기자회견에서 "현재의 IAEA와 같은 새로운 AI 유엔 기구 설립 제안을 지지한다"고 말했다. 구테흐스 총장은 이런 구상 등을 포함해 국제적인 대응책을 구체화하기 위해 조만간 과학 자문위원회와 AI 자문위원회도 구성한다고 덧붙였다. 오는 9월 만들어 질 AI 자문위원회엔 AI 분야 외부 전문가들도 포함될 예정이다. 

앞서 생성형 AI 챗GPT 창시자인 오픈AI의 샘 올트먼 최고경영자(CEO)는 IAEA처럼 AI 문제를 감시·규제할 국제기구가 필요하다고 역설했는데, 유엔 사무총장이 실제 이런 기구의 탄생 가능성을 거론한 것이다. 구테흐스 총장은 "IAEA는 전문 지식을 기반으로 하며 제한적이지만 규제 기능도 있어 매우 좋은 모델이 될 수 있다"고 말했다. 1957년 설립된 IAEA는 핵확산금지조약(NPT) 등을 토대로 원자력의 무기화 등 비평화적 사용을 감시·규제한다.  

단, 구테흐스 총장은 유엔 기구 설립의 주체는 유엔 사무국이 아닌, 193개 회원국들이라며 이행엔 국제사회의 합의가 선행돼야 한다고 덧붙였다.  

구테흐스 총장의 이번 발언은 AI 기술 고도화로 이미지, 음성 등을 합성한 딥페이크에 대한 우려가 커져 범국가적인 해결책이 요구되는 가운데 나왔다. 


그는 전문가들의 말을 인용해 "AI가 핵전쟁과 동등한 수준으로 인류에 위협이 되고 있다"고 경고했다. 이어 "디지털 플랫폼에서 허위 정보와 증오의 확산, AI 발전에 따른 위협이 통제할 수 없는 '괴물'이 될 수 있다"며 "AI에 대한 경종을 심각하게 받아들여야 한다"고 강조했다.   

올트먼 CEO, 데미스 하사비스 구글 딥마인드 CEO 등을 포함해 AI 업계 주요 인사들과 과학자 350명은 AI로 인한 인류 멸종 위험을 경고하는 성명을 낸 바 있다. 이들은 성명에서 "AI 통제는 전염병이나 핵전쟁에 대비하듯 전 세계의 최우선 과제가 되어야 한다”고
촉구했다.  

구테흐스 총장은 이날 전 세계 각국 정부와 기업 등에 공통적으로 적용되는 AI와 디지털 플랫폼 관련 '유엔 행동 강령' 제정을 추진한다고도 밝혔다. 그는 이 강령에 대해 "어떤 목적으로든 허위 정보를 퍼뜨리거나 혐오 발언을 하지 않겠다는 약속이 포함된다"며 내년 9월 이전에 발표할 것이라고 전했다. 

구체적으로 디지털 플랫폼을 통제하는 기업들에는 허위 정보와 혐오 발언 대처 방식 등을 투명하게 공개하고, 규제를 할 땐 언어와 국가에 따라 이중잣대를 적용해선 안 된다는 원칙을 제안한다.  

또 정부에는 허위 정보, 혐오 발언 등에 대응할 땐 적법한 발언까지 차단하거나 매체 자체를 폐쇄하지 말고 독립적인 매체를 보호하는 원칙을 주문한다.  

다만, 각국 정부와 기업에 유엔 강령을 강제할 순 없어 그 효과엔 한계가 있을 수 있다는 지적이다. 비영리단체인 '혐오와 극단주의에 대항하는 글로벌 프로젝트'의 공동 설립자 하이디 베이리히는 AP통신에 "유엔이 국제적 해결책을 모색하는 건 긍정적으로 볼 조치이지만, 법적 강제성은 없어 강령만으론 허위, 혐오 정보의 홍수를 막기엔 충분하지 않을 것"이라고 말했다.  

이미 미국과 유럽연합(EU)는 챗GTP 등 AI 부작용을 막는 가이드라인인 '자발적 AI 행동강령' 마련에 착수했다. 각국이 관련 입법 절차를 하기까지 걸리는 시간을 감안해 임시 안전장치를 신속하게 마련한다는 취지다.  

영국 정부는 올 가을 AI 규제에 관한 세계 첫 정상회의를 개최할 예정이라고 지난 7일 밝혔다. 이 회의에선 AI의 가장 주요한 위험을 평가하고 안전 조치 합의에 나선다는 게 영국 정부의 설명이다.