[피앤피뉴스=마성배 기자] 경찰청이 생성형 AI 확산 속에 기승을 부리는 가짜 콘텐츠에 맞서, 국내외 연구진과 함께 진위 판별 시스템 개발에 본격 착수했다.
경찰청(청장 직무대행 이호영)은 5월 26일 오전 10시 서울 서대문구 경찰청 어울림마당에서 ‘허위조작 콘텐츠 진위여부 판별 시스템 개발’ 착수보고회를 열고, 국내외 연구진과 함께 2025년부터 2027년까지 3년간 본격적인 연구를 추진한다고 밝혔다.
이번 프로젝트는 경찰청이 독일 노르트라인베스트팔렌주(NRW주)와 체결한 과학치안 협력 기반 위에서 추진되는 첫 국제 공동 연구로, 2025년부터 2027년까지 3년간 진행된다. 핵심 목표는 생성형 AI 기반으로 만들어지는 ▲딥페이크 영상 ▲딥보이스 ▲조작된 가짜뉴스 등을 식별할 수 있는 탐지 데이터셋을 구축하고, 이를 기반으로 통합 진위 판별 시스템을 개발·운영하는 것이다.
이날 착수보고회에는 최주원 경찰청 미래치안정책국장과 과학치안진흥센터(KIPoT)의 최귀원 소장을 비롯해, 국내 연구책임자인 숭실대 정수환 교수와 성균관대 우사이먼성일 교수, 공동연구기관인 독일 부퍼탈 대학의 토비아스 마이젠 교수가 참석해 각 분야별 추진 계획을 공유했다.
이번 연구는 경찰청이 공모와 평가를 거쳐 숭실대를 주관연구기관으로 선정하고, 성균관대·연세대·한컴위드 등으로 구성된 국내 연구 컨소시엄을 구축했으며, 독일 측에서는 NRW주 범죄수사청(LKA)의 추천과 현장실사를 통해 부퍼탈 대학을 공동연구기관으로 확정했다.
첫해인 올해는 딥페이크, 딥보이스, 허위정보 탐지에 활용될 데이터셋을 구축하고, 탐지 알고리즘의 성능을 높이기 위한 모델 고도화 작업이 이뤄진다. 이후 2026년부터는 머신러닝 기반 시스템의 전 과정(MLOps, Machine Learning Operations) 자동화 체계를 구축하고, 최종적으로는 현장 적용을 위한 실증 테스트까지 실시한다.
특히 이번 연구는 AI 조작 콘텐츠로 인한 사회적 혼란과 치안 위협이 갈수록 커지는 상황에서, 국가 간 과학기술 협력을 통해 실질적인 대응 역량을 강화하는 이정표로 주목받고 있다.
최주원 미래치안정책국장은 “이번 공동연구는 양국의 과학치안 기술을 결집해 미래 치안 위협에 공동 대응하는 첫 시도이자, 향후 다국적 협력으로 확장할 수 있는 기반이 될 것”이라며 “공정한 알고리즘과 다양성에 기반한 데이터셋으로 신뢰 가능한 허위조작 콘텐츠 탐지체계를 만들어가겠다”고 밝혔다.
피앤피뉴스 / 마성배 기자 gosiweek@gmail.com
[저작권자ⓒ 피앤피뉴스. 무단전재-재배포 금지]
