선거범죄·합성성착취물 적극 대처
‘탐지율 약 80%’ 참고 자료 활용
딥페이크를 이용한 이용한 다양한 범죄가 발생하면서 경찰이 이를 단속하기 위한 탐지 소프트웨어를 활용해 단속에 나선다.
이를 통해 딥페이크 합성 성착취물 범죄는 물론 제22대 총선을 앞두고 딥페이크와 관련한 허위정보 유포, 여론조작 범죄 수사에도 도움이 될 것으로 예상된다.
지난 1월29일 시행된 개정된 공직선거법 제82조 8항에 따르면 선거일 전 90일부터 선거일까지 딥페이크 영상 등을 이용한 선거운동을 금지하고 있다.
특히 지난 2020년 6월 전국을 충격에 빠뜨렸던 N번방 사건 이후 딥페이크 처벌법이 시행되면서 범죄 피해 대상은 연예인을 넘어 일반인까지 확대되고 있다.
실제 최근 3년간 전국 딥페이크 범죄 건수는 매년 평균 152건으로 꾸준하게 발생하고 있다.
지난해 2월 딥페이크 기술을 이용해 불법 허위성영상물을 제작·유포한 A(20대)씨가 구속되기도 했다.
A씨는 2020년 2월부터 아동성착취물·불법 촬영물 등을 140여 점을 다운로드 받아 소지 및 시청해 소년성보호법과 성폭력처벌법 위반 등 혐의로 구속됐다.
그는 또 해외 SNS 계정을 개설해 피해자들의 허위성영상물과 성적 모욕글을 상습적으로 제작·게시했으며 해외 메신저를 통해 불특정 다수에게 수십여 차례에 걸쳐 유포한 혐의를 받고 있다.
이에 6일 경찰청은 인공지능(AI) 기술의 급격한 발달과 함께 딥페이크 이용 범죄의 위협이 증대되고 있는 만큼 딥페이크 탐지 소프트웨어를 본격 활용할 방침이다.
기존에 만들어진 딥페이크 탐지 모델은 해외에서 제작돼 서양인 위주의 데이터로 구성된 것이 대부분이었다.
이에 한국인을 대상으로 합성된 영상에 대해서는 탐지율이 떨어지는 문제점이 있었다.
반면 이번에 개발한 딥페이크 탐지 소프트웨어는 한국을 포함한 아시아인 인물 5400명의 데이터 520만 점 등 한국인과 관련한 다양한 데이터 학습이 이뤄졌다.
기존에 학습된 데이터가 아닌 새로운 형태의 합성 영상이 발견되더라도 대응할 수 있도록 최신 인공지능(AI) 모델을 적용했다.
또 페이스 스왑(Face Swap) 등 딥페이크 영상으로 의심되는 영상을 시스템에 업로드하면 5분~10분 내에 분석 작업을 완료해 진짜 영상인지 판별하고 완료됨과 동시에 결과보고서를 즉각 창출해 수사에 곧바로 활용할 수 있다.
해당 소프트웨어의 진위 여부 탐지율은 약 80%에 달하며, 탐지율이 100%가 아닌 점을 감안해 증거자료보다는 수사 방향을 설정하는 자료로 활용될 예정이다.
경찰은 딥페이크와 관련한 새로운 기술이 끊임없이 개발·전파되고 있는 만큼, 딥페이크 영상 선거범죄에 대해서는 학계, 기업 등 인공지능(AI) 전문가로 구성된 민간 자문위원의 교차 검증을 거쳐 소프트웨어의 오탐지 가능성도 최소화하겠다는 방침이다.
전북경찰청 관계자는 "해당 프로그램을 사용해 적극적인 수사를 진행하고 빠르게 확인이 가능할 것으로 기대된다"며 "현재까지 도내에서는 관련 범죄가 발생하지 않았지만, 발생 시 다양한 범죄에 능동적으로 대처할 수 있을 것으로 보인다"고 밝혔다.
이정은기자
