[뉴스토마토 이효진 기자] 선거판도 AI(인공지능) 전성시대입니다. 지난 20대 대선에 'AI 후보'의 등장 이후 선거 홍보 방식에 새바람이 불었는데요. 법망은 오히려 퇴보했다는 지적이 나옵니다. 실제와 유사한 CG(컴퓨터그래픽스) 영상은 되지만 AI는 원천 봉쇄되는 등 허점도 드러납니다. 이에 <뉴스토마토>가 중앙선거관리위원회에 AI를 활용한 선거 홍보 예시 영상 유권해석을 의뢰해 현행 공직선거법상 실제 선거운동에 활용 가능한 AI 콘텐츠의 범위와 규제 기준을 직접 검증해 봤습니다.
AI 딥페이크 영상, 선거 90일 이내 '사용 불가'
24일 <뉴스토마토>가 AI를 활용한 선거 홍보 영상에 대해 선관위에 유권해석을 요청한 결과, 6개 영상 중 5개나 선거일 90일 내 '사용 불가' 판정을 받았습니다.
1번 영상은 지방선거 홍보물입니다. 딥페이크(AI를 활용한 인물 이미지 합성 기술)로 출마자의 움직임을 표현했고, 딥보이스(AI를 활용한 목소리 합성 기술)로 공약을 설명합니다. 출마자의 지역 전경과 조감도를 AI를 이용해 영상으로 만들었고, AI로 자막 그래픽을 넣었습니다.
2번 영상은 선거 슬로건(어구)이 담긴 짤막한 영상입니다. 자막을 제외하곤 AI가 아닌 CG를 이용한 배경 영상, 실제 작곡자가 있는 저작권 무료 음악 등이 쓰였습니다. 3번 영상은 비슷한 슬로건을 표현했지만, AI로 만든 배경 영상과 음악, 자막이 쓰였습니다.
마지막으로 4번과 5번, 6번 영상은 대선 후보의 사진을 바탕으로 제작된 딥페이크 홍보물입니다. 아나운서의 실제 내레이션이 들어갔지만 그 밖의 △배경 영상 △배경 음악 △인물 △자막은 모두 AI를 활용했습니다.
이 중 선거운동 기간 내내 사용할 수 있는 건 2번 영상뿐입니다. 공직선거법 제82조의8은 선거일 전 90일부터 선거일까지 선거운동을 위해 AI로 만든 '실제와 구분하기 어려운' 가상의 음향·이미지·영상 등의 제작·편집·유포·상영 등을 금지합니다. 구체적으로 △딥페이크 △딥보이스 △AI 활용 각종 그래픽 영상·이미지 △AI 활용 배경 음악 등을 의미합니다. 제재 기간 이전에 생성한 홍보물이더라도 해당 기간 이전에 삭제 또는 숨김 처리를 해야 합니다.
자막을 활용한 그래픽의 경우 AI로 생성해도 규제 대상이 아닙니다. CG를 활용한 홍보물은 '실제와 구분하기 어려운' 정도라도 허위사실이 아닌 이상 기간 제한 없이 선거운동에 사용할 수 있습니다. 다만 포토샵 등 그래픽 프로그램 내 AI 기능을 활용할 경우 공직선거법상 제재 대상입니다.
다만 딥페이크·딥보이스 등을 활용한 홍보물도 선거일 전 90일이 아니라면 선거운동에 활용할 수 있습니다. 유의할 점은 AI 영상임을 표시하지 않는 경우 허위사실공표죄에 해당합니다. 다만 AI 영상임을 표시하더라도 특정 후보자의 당선·낙선을 목적으로 한 허위사실이 담겼을 경우 최대 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금에 처할 수 있습니다.
지난 20대 대선에서 당시 국민의힘 후보였던 윤석열씨가 'AI윤석열'을 선거운동에 적극 활용했다. (사진=국민의힘TV 유튜브)
"의도치 않은 범법자 양성 우려"
선거운동 과정에서 AI 활용의 포괄적 금지가 기술 발전 속도에 비춰봤을 때 실정에 맞지 않는다는 지적이 나옵니다. 공직선거법 개정 논의가 있던 지난 2023년은 대화형 AI 메신저 챗GPT가 등장한 지 1년이 된 해로, 지금처럼 AI가 일상에 스며들기 전입니다. 이에 전문가들은 AI 활용 차단은 정답이 아니라고 말합니다. 광범위한 규제 대신 영상물의 내용이 선거에 끼치는 영향 등 세분된 가이드라인이 필요하다는 것입니다.
최경진 가천대학교 법학과 교수는 <뉴스토마토>와 통화에서 "법이 제정될 당시엔 AI의 부작용이나 가능성을 잘 모르기 때문에 원천적으로 규제한 측면이 있었다"면서 "애초 법 취지처럼 허위의 사실을 만들어 오해를 불러일으키는 경우를 규제하는 방식으로 나아가야 한다. AI 배경음악 사용 등 목적에 맞지 않는 규제는 과도하다"고 설명했습니다.
관련해 법 개정 움직임도 보입니다. 장철민 민주당 의원은 지난달 9일일 가상의 내용을 실제와 혼동시킬 목적의 허위 영상은 상시 금지하되, 선거운동 홍보물 제작 전반에는 AI 사용을 허용하는 공직선거법 개정안을 발의했습니다. 차지호 민주당 의원도 지난달 14일 AI 규제 방식을 '전면 금지'에서 '투명성 확보와 유통 관리' 중심으로 전환하는 내용의 개정안을 내놨습니다.
6·3 지방선거가 100일 안쪽으로 다가왔지만 논의는 안갯속입니다. 공직선거법 개정 논의는 국회 정치개혁특별위원회 소관입니다. 현행 AI 관련 규제도 지난 2023년 정개특위에서 확정된 바 있습니다. 하지만 올해 정개특위는 역대 가장 늦은 지난달 13일에 구성되며 지난해 12월 끝내야 했을 선거구 획정조차 못 한 상황입니다.
공직선거법 개정안을 발의한 장철민 의원실 관계자는 <뉴스토마토>에 "(현행 공직선거법은) 청년과 정치 신인들의 선거운동 자유를 심각하게 침해한다"며 "AI가 일상적으로 쓰이는 상황에서 의도치 않은 범법자를 양산할 수도 있다"고 우려를 나타냈습니다.
이효진 기자 dawnj789@etomato.com
이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 최신형 정치정책부장이 최종 확인·수정했습니다.
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지