[법률방송뉴스]
경찰청 국가수사가 딥페이크 탐지 소프트웨어를 개발하고 딥페이크를 이용한 범죄 단속을 위해 본격적으로 활용할 예정입니다.
오늘(5일) 경찰에 따르면 인공지능(AI) 기술의 급격한 발달과 함께 딥페이크 이용 범죄의 위협이 증대되고 있으며, 특히 제22대 총선을 앞두고 딥페이크 영상을 이용한 허위정보 유포 또는 여론조작에 대한 우려가 심화되고 있습니다.
딥페이크는 딥러닝(Deep learning)과 '가짜'를 의미하는 단어인 페이크(Fake)의 합성어로, 기존 영상을 다른 영상에 겹쳐서 만들어 내는 AI 기술을 기반으로 한 이미지 합성기술을 말합니다.
경찰이 개발한 소프트웨어는 페이스 스왑(Face Swap) 등 딥페이크 영상으로 의심되는 영상을 시스템에 업로드하면 통상 5분~10분 내에 분석 작업을 완료해 가짜 영상인지 진짜 영상인지 판별합니다.
또한 판별이 완료됨과 동시에 결과보고서를 즉각 창출해 수사에 곧바로 활용할 수 있도록 했습니다.
기존에 만들어진 딥페이크 탐지 모델은 해외에서 제작돼 서양인 위주의 데이터로 구성된 것이 대부분이라 한국인을 대상으로 합성된 영상에 대해서는 탐지율이 떨어지는 문제점이 있었습니다.
그러나 이번에 개발한 ‘딥페이크 탐지 소프트웨어’는 인물 5,400명의 데이터 520만점(한국인 데이터 100만점 및 아시아 계열 인종 데이터 13만점 포함) 등 한국인과 관련한 다양한 데이터 학습이 이루어졌습니다.
또한 기존에 학습된 데이터가 아닌 새로운 형태의 합성 영상이 발견되더라도 대응할 수 있도록 최신 AI 모델을 적용했습니다.
해당 소프트웨어의 진위 여부 탐지율은 약 80%에 달하지만, 경찰은 탐지율이 100%가 아닌 점을 고려해 증거자료보다는 수사 방향을 설정하는 자료로 활용할 예정입니다.