딥페이크 범죄 피의자 419명 검거…17명 구속
경찰이 인공지능을 이용해 만들어진 허위영상물, 이른바 ‘딥페이크’ 범죄에 AI 기술을 활용한 수사체계로 대응하고 있다.
경찰청 국가수사본부에 따르면 2026년 1월부터 7월까지 허위영상물 범죄로 검거된 피의자는 총 419명이다. 이 가운데 17명은 구속됐다.
경찰은 딥페이크 기술이 발전하면서 허위영상물을 육안만으로 판별하기 어려워지는 상황에 대응하기 위해 3단계 분석체계를 구축했다.
첫 단계는 경찰청의 ‘딥페이크 탐지 소프트웨어’를 이용한 판별이다. 이후 추가 분석이 필요한 영상은 과학수사 영상분석관이 전문 프로그램을 이용해 위·변조 여부를 검증한다.
여기에 디지털포렌식 단계에서는 ‘인공지능(AI) 포렌식 기법’을 활용해 영상이 어떤 프로그램으로 만들어졌는지, 어느 부분이 변경됐는지 등을 분석한다.
얼굴 교체부터 눈 깜빡임·혈류 변화까지 분석
경찰이 사용하는 딥페이크 탐지 소프트웨어는 한 가지 특징만을 보고 영상의 합성 여부를 판단하는 방식이 아니다.
얼굴이 생성되거나 교체됐는지 확인하고, 눈 깜빡임이나 혈류 변화 등 생물학적인 특징도 분석한다. 영상 파일에 담긴 메타데이터 구조 역시 판별에 활용한다.
경찰은 국내 허위영상물 탐지에 특화하도록 훈련된 AI 모델을 탑재하는 등 탐지 성능을 지속해서 고도화하고 있다고 설명했다.
해당 소프트웨어는 개발 이후 현재까지 총 1,636건의 분석에 활용됐다.
특히 올해에는 딥페이크 성범죄뿐 아니라 선거범죄 등 다른 수사 분야에서도 72건 활용되는 등 적용 범위가 확대되고 있다.
해외 성인사이트에 합성사진 유포…AI 분석으로 피의자 추적
실제 수사에도 딥페이크 탐지 기술이 활용되고 있다.
경찰에 따르면 지난 3월 경찰청 사이버범죄신고시스템에 해외 성인사이트에 자신의 사진을 합성한 성적 허위영상물이 게시됐다는 피해 신고가 잇따라 접수됐다.
경찰은 4개 시·도경찰청에 접수된 사건의 관련 증거를 확보하고, 해당 사이트를 대상으로 범행에 사용된 계정과 게시물을 삭제하도록 조치했다.
이어 딥페이크 탐지 소프트웨어로 유포된 영상물을 분석한 결과 동일한 특징이 있다는 점을 확인했다.
사이버수사대는 여러 영상이 동일인에 의해 만들어졌을 가능성에 무게를 두고 수사를 진행했고, 20대 남성 피의자를 검거해 구속 송치했다.
AI 포렌식으로 ‘어떤 프로그램으로 만들었는지’ 추적
또 다른 사건에서는 SNS 계정을 이용해 성착취 허위영상물을 제작·판매한 20대 남성이 검거돼 구속 송치됐다.
경찰은 이후 제작 의뢰자에 대한 수사를 진행하던 중 기존에 확인된 영상과 다른 패턴의 허위영상물을 발견했다.
딥페이크 탐지 소프트웨어로 1차 판별한 뒤 AI 디지털포렌식 기법을 적용한 결과, 영상 제작에 사용된 생성형 AI 프로그램과 편집 전 원본 사진까지 추가로 확보했다. 경찰은 이를 토대로 의뢰자의 제작 혐의에 대해서도 수사를 진행하고 있다고 밝혔다.
경찰이 개발한 AI 포렌식 기법은 딥페이크 제작에 악용되는 상용 AI 프로그램의 특성을 분석하는 방식이다.
전문분석관은 피의자가 어떤 프로그램으로 영상을 조작했는지, 영상의 어느 부분을 변경했는지 등을 분석해 제작부터 유포까지 범행 과정을 기술적으로 재구성한다.
경찰은 이러한 분석 결과를 추가 범죄를 확인하거나 범행의 고의성을 입증하는 핵심 증거로 활용하고 있다고 설명했다.
딥페이크 넘어 허위정보·전기통신금융사기까지 확대
경찰은 AI 분석 기술의 활용 범위를 디지털 성범죄에 한정하지 않을 방침이다.
허위정보 유포와 전기통신금융사기 등 인공지능 기술을 악용하는 다양한 범죄로 수사기술 적용 범위를 확대할 계획이다.
경찰청 국가수사본부는 관련 시스템을 지속해서 고도화하는 한편 집중단속을 통해 허위영상물 범죄에 강력하게 대응하겠다는 방침을 밝혔다.
AI 기술이 정교해지면서 범죄에 악용되는 방식 역시 빠르게 변화하는 만큼, 경찰 수사에서도 AI로 생성된 결과물을 판별하는 단계를 넘어 제작 과정과 사용 프로그램까지 추적하는 기술적 대응의 중요성이 커지고 있다.
[알아두면 좋은 정보]
경찰의 딥페이크 범죄 대응은 크게 세 단계로 이뤄진다.
① ‘딥페이크 탐지 소프트웨어’를 통한 1차 판별
② 과학수사 영상분석관의 전문 프로그램을 통한 위·변조 검증
③ ‘AI 포렌식 기법’을 이용한 제작 프로그램·변경 부분 등 범행 과정 분석
경찰청이 공개한 자료에 따르면 2026년 1~7월 허위영상물 범죄 피의자 419명이 검거됐고 이 가운데 17명이 구속됐다. 딥페이크 탐지 소프트웨어는 개발 이후 총 1,636건에 활용됐으며, 올해 선거범죄 등 기타 수사 분야에서도 72건 사용됐다.