중앙선거관리위원회는 6·3 대선 후보자와 관련한 딥페이크 영상을 제작·유포한 유튜버 등 3명을 공직선거법 위반 혐의로 29일 고발했다고 밝혔다.

관련 법규가 제정된 이래 선관위가 딥페이크물(인공지능 기술을 활용한 허위 사진·영상) 제작·유포자를 고발한 것은 이번이 처음이다.

선관위는 이날 보도자료에서 “선거가 임박한 시기에 후보자의 당선 또는 낙선 목적으로 인공지능(AI) 기술을 이용해 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상을 제작·게시한 유튜브 채널 운영자 3명을 선거법 위반 혐의로 수사기관에 고발했다”고 밝혔다.

중앙선관위에 따르면 피고발인들은 각각 ▶특정 인터넷 커뮤니티 게시판에 후보자가 죄수복을 입고 감옥 안에 수감된 이미지 등 총 35회 게시한 혐의 ▶다수가 구독하는 유튜브 채널에 AI로 구현한 여성 아나운서를 이용하여 뉴스 형식으로 후보자의 당선 또는 낙선을 도모하는 내용으로 제작한 10건의 영상을 게시한 혐의 ▶개인 SNS에 특정 후보자에 대한 부정적인 이미지를 주는 글과 영상을 딥페이크로 직접 제작하여 게시·유포한 혐의를 받고 있다.

해당 제작물은 주로 이재명 더불어민주당 대선 후보 또는 김문수 국민의힘 대선 후보와 관련한 내용으로 알려졌다.


2023년 12월 신설된 공직선거법 조항은 선거일 전 90일부터 선거일까지 선거운동을 위해 딥페이크를 제작·편집·유포·상영 또는 게시하는 행위를 금지한다. 이를 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다.

중앙선관위는 “제21대 대통령 선거가 일주일도 남지 않은 만큼 사이버상 위법행위 단속에 역량을 집중하고 있다”며 “유권자가 AI를 활용하여 영상이나 이미지를 제작하여 활용할 때 선거법에 위반되지 않도록 주의를 기울여 달라”고 당부했다.