〈정책 노트〉 딥페이크 피해를 줄이는 세 가지 안전망¶

“딥페이크에 가짜뉴스까지 정말 괜찮은 걸까요?”

이 질문에 대한 정부의 답은 세 가지 안전망으로 정리할 수 있습니다. 청소년의 일상을 지키는 안전망, 민주주의를 지키는 안전망, 금융 사기를 막는 안전망입니다. 여기에 AI 생성물 표시 제도와 국제 협력이 더해지면서 책임 있는 AI 생태계를 만들어 가고 있습니다.

청소년을 지키는 네 부처의 협력

2026년 봄 서대문구의 한 청소년센터에서 과학기술정보통신부, 교육부, 성평등가족부, 방송미디어통신위원회가 함께 청소년 디지털 안전 강화를 위한 업무협약을 체결했습니다. 딥페이크 피해는 어느 한 부처만의 노력으로 해결하기 어렵습니다. 학교에서 발생한 합성물 피해는 교육 현장의 대응과 사이버 수사가 함께 이루어져야 하고, 그 후에는 디지털 미디어 교육과 가정의 보호 체계가 뒷받침되어야 합니다. 그래야 비로소 학생의 일상이 회복될 수 있습니다.

제도적 기반도 강화되고 있습니다. 성폭력처벌법 개정을 통해 합성·편집된 성적 영상물에 대한 처벌 기준이 보다 명확해졌습니다. 그와 함께 방송통신심의위원회의 시정 요구 건수는도 2020년 473건에서 2024년 2만 3,107건으로 4년간 약 50배 늘었습니다(방송통신심의위원회 연도별 집계). 이는 법 집행과 피해 구제가 함께 작동하며 피해자를 보호하는 체계가 점점 확대되고 있음을 보여줍니다. 네 부처의 협력 역시 이러한 보호 체계를 학교와 가정, 지역사회까지 연결하기 위한 일환입니다.

선거 90일 전부터 막는 가짜 영상

2024년 1월에 시행된 개정 공직선거법은 선거일 전 90일부터 선거운동 목적의 딥페이크 영상을 제작 및 유포하는 행위를 처벌 대상으로 규정했습니다. 후보자가 하지 않은 말을 한 것처럼 꾸미거나 존재하지 않는 장면을 만들어 유권자의 판단을 흐리는 행위를 막기 위해 법이 직접 나서기 시작한 것입니다.

중앙선거관리위원회는 90일 동안 관련 콘텐츠를 상시 모니터링하며 삭제 요청과 고발 조치를 수행하고 있습니다. 특히 제21대 대통령선거 과정에서는 삭제를 요청한 딥페이크 콘텐츠가 1만 건 이상이었습니다(중앙선거관리위원회 집계).

딥페이크는 몇 분 만에 제작되고 몇 시간 만에 수백 곳으로 수백 곳으로 확산될 수 있습니다. 법과 모니터링 체계는 이러한 확산 속도를 조금이라도 늦추고 유권자의 판단을 보호하는 최소한의 안전장치라고 할 수 있습니다.

보이스피싱과 신종 스캠을 막는 금융 안전망

딥페이크 음성과 영상은 보이스피싱이나 신종 스캠(사기) 범죄에도 활용될 수 있습니다. 이에 정부는 2025년 8월 보이스피싱 근절 종합대책 이후 전기통신금융사기 통합대응단 출범, 범죄 이용 전화번호·문자·악성앱 차단, 삼성·이동통신 3사 전화 앱의 보이스피싱 탐지 등 통합 대응 체계를 확대하고 있습니다.

그 결과 2025년 10월부터 2026년 4월까지 보이스피싱 피해는 감소 추세를 보이고 있습니다. 다만 범죄 수법이 전화에서 SNS와 메신저로 이동하고 있습니다. 투자리딩방 사기, 로맨스 스캠, 노쇼 사기처럼 새로운 범죄 유형이 나타나고 있습니다. 이에 경찰청과 금융위원회는 의심거래 탐지와 계좌 거래정지 등 대응 체계를 확대하고 있습니다.

결국 가장 중요한 것은 ‘확인하는 습관’입니다. 회사의 거액 송금이든 가정에서의 긴급 송금 요청이든 음성만 믿지 말고 다른 방법으로 한 번 더 확인하는 것입니다.

AI 생성물 표시가 붙는 자리

앞에서 살펴본 것처럼 최근 딥페이크 대응은 사후 탐지에서 사전 표시로 무게 중심이 이동하고 있습니다. 이러한 방향은 AI 기본법 제31조의 투명성 확보 의무와 관련이 있습니다. AI 기본법은 AI에 의해 생성된 결과물이 AI에 의해 만들어졌다는 사실을 표시하도록 규정하고 있습니다. 특히 딥페이크 생성물에는 이용자가 쉽게 인식할 수 있는 가시적 워터마크를 적용하도록 명시했습니다. 2026년 1월부터 관련 의무가 시행되었으며 스타트업과 중소기업의 준비 기간을 고려해 1년 이상의 계도기간이 적용되고 있습니다.