AI 발전으로 악용범죄 늘면서 콘텐츠 탐지기술 개선책 모색

[강민지 제작] 일러스트

(서울=연합뉴스) 이동환 기자 = 경찰이 딥페이크(허위 영상물)를 활용한 허위 조작 콘텐츠를 판별하기 위한 시스템 개발에 착수했다.

2일 경찰청에 따르면 경찰은 딥페이크, 딥보이스, 가짜뉴스 탐지를 위한 기술 개발 등에 연구비 91억원을 지원하는 사업 계획을 공고했다.

연구 기간은 올해 4월부터 2027년 12월까지 약 3년이다.

현재 수사 인력은 실제 인물처럼 영상을 만드는 딥페이크, 소리를 복제하거나 가짜 음성을 생성하는 딥보이스 등 콘텐츠를 일일이 들여다보며 수사 중이다. 이에 따라 급격한 기술 발전에 발맞춰 다양화하는 신종 범죄에 대응력을 키워야 한다는 목소리가 제기돼왔다.

이번 사업은 최근 인공지능(AI)의 급격한 발전으로 악용 범죄가 증가하면서 콘텐츠 판별에 오랜 시간이 투입되는 문제를 해결하기 위한 것이라고 경찰청은 설명했다.

멀티모달(복합정보처리) 형태의 탐지 알고리즘을 개발해 딥페이크 영상을 탐지하겠다는 게 경찰청의 계획이다.

아울러 노이즈·잡음 전처리, 음성 주파수, 시간분석 등을 활용해 딥보이스를 정교하게 분석하는 것을 목표로 삼고 있다.

가짜뉴스에는 생성형 AI를 동원해 에코 체임버(유사한 정보나 뉴스가 증폭돼 나타나는 현상)를 분석해 원천 게시물을 추적할 계획이다.

이를 통해 '퍼나르기식' 가짜 뉴스에도 조기 대응하겠다는 방침이다.

경찰은 지난해 1월∼10월 딥페이크 성범죄 사건 1천94건을 접수·수사해 피의자 573명을 검거했다. 집중단속에 나선 시점(8월 28일)을 기준으로 단속 후 하루 평균 신고 건수는 6.98건으로 집계됐다. 이는 집중 단속 전의 약 3.7배 규모다.

지난 1월에는 '자경단'이라는 이름으로 텔레그램에서 미성년자 159명을 포함해 남녀 234명을 성착취한 일당이 경찰에 덜미를 잡히기도 했다.

지인의 딥페이크 성착취물을 만들어 제공하는 등 자경단에 포섭돼 사이버 성폭력에 가담한 73명도 특정돼 40명이 검거됐다.

dhlee@yna.co.kr