한국인공지능윤리협회(이사장 전창배)가 지난 6일 “나쁜 AI 딥페이크 추방 캠페인” 성명서를 냈다.
협회 관계자는 “오는 4월 총선을 맞이해 잘못 사용될 경우 커다란 사회적 문제가 제기 될 수 있고, 유명인의 야동에 잘 못 사용해 큰 충격을 주기도 했던 사례가 있다”며 크게 우려를 했다.
이 협회 전창배 이사장은 “인간이 손수 해야 했던 과정을 대신해 시간과 비용을 아끼 게 해주는 인공지능(AI)의 장점 중 하나가 '선한 AI'이다”라며, “좋은 일에 선용하면 좋을 텐데 AI로 남의 얼굴을 합성하는 기술인 '딥페이크'를 최근 '나쁜 AI'의 악용사례로 꼽아 이러한 문제를 추방하고 예방하기 위해 발 벗고 나섰다”고 말했다.
인공지능의 이러한 양면성으로 기술 이상의 윤리적 고찰이 필요하다는 기치 아래 세계 주요국에서 AI 윤리 기준 제정이 줄을 잇는 가운데 우리나라도 '한국인공지능윤리협회'가 국내 최초로 '딥페이크' 추방 운동 성명서를 발표하고, 온라인 릴레이 서명 캠페인을 진행 중이다.
지난해 3월 '인공지능 윤리' 분야 학계 및 산업계, 언론, 법률계 주요 전문가들이 모여 창립한 협회는 10월 '인공지능 윤리 헌장'을 선포한데 이어 이번 캠페인 실시로 국내 대표 관련 단체로서 AI 윤리의 중요성에 대한 대중적 인식을 확산하겠다는 계획이다.
지난해 네덜란드의 보안 연구 회사 '딥트레이스'는 딥페이크 음란동영상의 피해자 중 25%가 한국 여자 연예인이라고 보고서를 통해 밝혔으며, 영국에서는 가짜 음성 딥페이크에 속아 한 기업인이 3억여원을 편취 당한 사건도 발생했다. 특히 협회 측은 국내 총선과 미국 대선이 치러지는 올해를 악의적 딥페이크가 급증할 수 있는 시기로 예상했다.
이 협회 전창배 이사장(아이오냅 대표)은 "최근 전세계적으로 딥페이크가 심각한 AI이슈로 부각되고 있다. 악의적 딥페이크를 방지하고, 인공지능을 선하고 바른 목적으로 사용해야 한다는 'Good AI’의 전파를 위해 금번 캠페인을 기획했다"며 "올바른 AI의 활용은 결국 성숙한 시민의식 속에서 가능하기에 본 캠페인의 서명 운동에 많은 동참을 바란다"고 전했다.
향후 협회는 딥페이크 관련 사례를 지속적으로 연구해 교육에 활용할 수 있도록 하는 한편, 딥페이크를 구별하고 방지하는 원천기술의 개발에도 적극 나설 계획이라고 밝혔다.
이와 같은 내용을 담아 발표한 협회의 '딥페이크 추방 성명서’는 한국인공지능윤리협회 홈페이지에서 전문을 살펴볼 수 있으며, 성명서 하단에 댓글 형태로 관심 있는 누구나 서명 캠페인에 참여할 수 있다.
서울 = 이민영 기자
