[사설] 선거에 악용되는 ‘딥 페이크’ 영상 철저히 단속해야

최근 ‘딥페이크’ 기술로 생성된 미국 팝스타 테일러 스위프트의 외설적인 사진이 온라인에서 확산되어 논란이 야기되었다. 즉각 삭제되었지만 이미 4천700만 회나 조회된 것으로 알려지고 있다. ‘딥페이크’란 인공지능이 다량의 데이터에 대한 반복 학습을 통해 처리 능력을 향상시키는 기술을 말하는 ‘딥 러닝(deep learning)’과 가짜를 의미하는 ‘페이크(fake)’를 합쳐 만든 조어이다. 이 기술은 소비자의 편의를 위한 용도로 패션이나 의류업계에서 활용되기 시작하여, 영상예술의 한 장르로 주목받았지만, 정치적 음해나 조롱 및 포르노 등 불법 영상물의 제작에 악용됨으로써 사회적 문제로 등장하고 있다.

이런 가운데 최근 총선을 앞두고 온라인 공간에는 최근 ‘딥페이크’ 기술을 악용한 선거용 조작 영상이 등장하고 있어, 여론을 호도할 수 있다는 우려가 제기되고 있다. 조작 영상을 통해서라도 ‘일단 당선되고 보자’는 행위가 극심해져 조작 영상이 범람하면 유권자들은 진위 여부 판단 자체를 포기할 수 있고, 이는 민주주의의 근간을 흔드는 것이 될 수도 있는 것이다.

일례로 최근 미국의 뉴햄프셔 경선 직전 바이든 대통령을 모방한 가짜 목소리로 전화를 걸어 투표 거부를 독려하는 사건이 벌어진 것이 좋은 예이다. ‘딥페이크물’은 삭제한다고 끝나는 것이 아니다. 왜냐하면 영상은 사라져도 그걸 본 사람들의 머릿속에서까지 지워지지 않는 ‘수면자 효과(sleeper effect)’때문이다. 비록 그 내용이 가짜라는 것을 알더라도 영향력은 계속 발휘되기 때문에 네거티브 선거운동에 악용될 가능성은 매우 농후하다는 것이다.

이러한 부작용을 우려하여 선거관리위원회에서는 이번 총선에서 딥페이크 영상을 활용한 선거운동을 금지하고 있다. 그러나 딥페이크에 이용되는 AI 기술이 갈수록 정교해지고, 제작 도구가 모든 사람이 접근할 수 있는 오픈소스로 공개되어 있으며, ‘다크웹’이라는 암시장에서 거래가 되는 경우도 있어, 전문 지식이 없는 사람들도 딥페이크 영상물을 만드는 것이 쉬워졌고, 외국 IP로 접속해 영상을 제작하거나 퍼뜨리면 단속이 쉽지 않다.

그러나 이 기술을 악용한 영상물이 선거에 영향을 미쳐 유권자들의 판단을 호도할 수 있는 가능성이 많은 만큼 이의 단속에 만전을 기하여야 한다.