한국인공지능윤리협회(KAIEA, 회장 이청호)는 AI 알고리즘의 편향성을 검증하는 중립적 기구의 도입을 촉구하는 성명서를 14일 발표했다.
이 협회는 성명에서 최근 국회에서 주요 정당 대표 연설 기사의 포털서비스 노출 관련하여 뉴스 편집 AI 알고리즘의 중립성과 편향성에 대한 논란이 있었다는 점을 상기시켰다.
이 문제는 정치적 문제로만 볼 것이 아니며 최근 국내외 인터넷과 모바일 기업에서 무분별하게 도입하고 있는 AI 자동화 알고리즘에 대한 근본적인 문제를 살펴봐야 한다고 주장했다.
또한 AI 알고리즘을 활용하지 않는 것도 문제지만, AI 알고리즘을 과도하게 신뢰하며 모든 역할과 책임을 AI에게 돌리는 것도 문제이다는 점도 지적했다.
이런 상황에서 이 협회는 이번 AI의 편향성 논란의 핵심이 무엇이고 그 해결방안은 무엇인지에 대한 의견을 제시했다.
이 협회는 AI 알고리즘은 현재 기술 단계에서는 중립적일 수가 없다. 현재 기술 수준에서 AI 알고리즘은 편향된 데이터를 토대로 학습하여 구현될 가능성이 높으며 따라서 AI 알고리즘 자체도 편향될 수 밖에 없다며, AI 알고리즘을 설계하는 것은 결국 인간이기 때문에 인간의 편향된 생각이 AI 알고리즘에 그대로 반영될 수 있다고 인식했다.
또한 이러한 상황에서 AI 자동화 알고리즘에 얼마든지 윤리적 문제가 제기될 수 있음에도 불구하고, 아무런 검증 없이 과도하게 신뢰하거나 무분별하게 활용하는 것은 문제가 된다고 했다.
결국 AI 알고리즘을 사전과 사후에 검증하는 체계적인 시스템이 필요하다. AI 알고리즘의 중립성을 판단하고 검증할 수 있는 시스템을 도입해야 하고, AI 알고리즘의 편향성을 검증하고 올바르게 가이드 할 수 있는 중립적 기구의 설치가 반드시 필요하다. 여기에는 정부와 각 기업들의 협력과 협조가 필수적이다고 밝혔다.
그러면서 이 협회는 AI 기술은 아직 발전 중에 있는 기술로서 현재 윤리적으로 지켜야 할 명확한 개발 가이드라인과 지침이 매우 부족하다. 따라서 정부, 기업, 학계, 연구계, 유관단체 등 모든 관련 주체들은 이러한 AI 윤리 가이드라인을 만들고 적용하는데 적극적으로 협력할 것을 촉구한다고 했다.
전창배 한국인공지능윤리협회 이사장은 “AI 알고리즘의 중립성은 정부가 판단하면 규제가 될수 있고, 기업이 스스로를 판단하면 그 자체로 중립적일 수 없다는 문제가 생긴다” 며, “AI 알고리즘의 편향성의 검증과 판단은 모든 관련 주체가 논의하되 비영리 단체와 같은 중립적인 기구가 맡는 것이 맞다” 며 협회의 역할을 강조했다.
서울 = 이민영 기자
