경찰청이 인공지능(AI) 기술을 악용한 허위영상물(딥페이크) 성범죄에 대응하기 위해 지난해 8월부터 올해 3월까지 7개월간 집중단속을 벌인 결과,  963명을 검거하고 이 중 59명을 구속했다고 밝혔다.(자료: 경찰청)

평범한 고등학생 A양은 어느 날 낯선 계정으로부터 메시지 한 통을 받았다. 첨부파일에는 자신의 얼굴이 나체 사진과 정교하게 합성된 영상이 담겨 있었다. 소셜 미디어에 올렸던 증명사진이 범죄의 도구가 된 것이다. 가해자는 같은 반 친구였다. 그 친구는 "심심해서 재미로 만들어봤다"며 대수롭지 않게 말했지만, A양의 일상은 그날로 무너졌다.(상황 예시)

인공지능(AI) 기술이 가져온 편리함 뒤에 '디지털 살인'이라 불리는 딥페이크 성범죄가 독버섯처럼 번지고 있다. 경찰청이 지난해 8월 말부터 올해 3월까지 7개월 동안 딥페이크 기술을 이용한 성범죄를 집중 단속해 963명을 붙잡고 그중 59명을 구속했다.

260% 폭증한 검거 인원…텔레그램 자경단까지 잡았다

경찰의 이번 단속 결과는 충격적이다. 집중 단속 전과 비교해 검거 인원은 260% 늘었고, 구속자는 637.5%나 급증했다. 

특히 그동안 수사의 사각지대로 꼽혔던 메신저 '텔레그램'과의 협력 체계를 구축한 것이 결정적이었다. 경찰은 지난해 10월 텔레그램 측과 공조 관계를 맺고, 올해 1월에는 피해자를 돕는 척하며 성착취물을 공유하던 이른바 '자경단' 조직의 총책을 붙잡는 성과를 거두었다.

서울경찰청은 피해자를 오랫동안 심리적으로 지배하며 성착취물을 만든 일당 54명을 검거했고, 인천에서는 대학생들의 신상 정보를 담은 영상을 유포한 15명을, 경기북부에서는 아이돌 가수의 영상을 대량으로 퍼뜨린 4명을 각각 붙잡았다. 피해 영상물 1만여 건은 방송통신심의위원회 등과 협력해 즉시 삭제하거나 차단했다.

경찰청이 인공지능(AI) 기술을 악용한 허위영상물(딥페이크) 성범죄에 대응하기 위해 지난해 8월부터 올해 3월까지 7개월간 집중단속을 벌인 결과,  963명을 검거하고 이 중 59명을 구속했다고 밝혔다.(자료: 경찰청) 

10대 가해자가 70%…장난이 범죄가 되는 교실

검거된 이들의 면면을 살펴보면 사태의 심각성이 더 뚜렷해진다. 전체 검거자 중 10대가 669명으로 69.5%를 차지했기 때문이다. 여기에는 형사처벌을 받지 않는 만 14세 미만 촉법소년 72명도 포함돼 있다. 20대까지 범위를 넓히면 전체의 93.1%나 된다.

청소년들은 인공지능 앱이나 봇을 이용해 누구나 쉽게 영상을 만들 수 있다는 점을 악용하고 있다. 이들에게 딥페이크는 범죄가 아닌 일종의 '상황극'이나 '놀이'로 인식되는 경향이 크다. "친해서 그랬다"거나 "그냥 합성일 뿐이다"라는 생각이 타인의 인격을 말살하는 행위로 이어지고 있는 것이다.

디지털 공간에서의 윤리 의식이 기술의 발전 속도를 따라잡지 못하는 것으로, 교실 안팎이 범죄의 온상이 되고 있다. 가해자가 만 14세 이상이라면 학생이라도 형사 처벌을 피할 수 없으며, 촉법소년 역시 소년원 송치 등 보호 처분을 받게 된다.

소지만 해도 징역형…위장수사로 끝까지 쫓는다

법의 심판은 더욱 엄격해질 예정이다. 6월 4일 개정된 '성폭력처벌법'이 시행되면, 지금까지는 아동이나 청소년 대상 범죄에만 허용됐던 경찰의 '위장수사'가 성인 피해자 사건까지 확대되기 때문이다. 경찰이 신분을 숨기거나 위장해 범죄 조직에 침투할 수 있게 된 만큼 수사 효율성은 더 높아질 전망이다.

처벌 수위도 대폭 강화된다. 10월 16일부터는 딥페이크 성범죄 영상을 단순히 가지고 있거나 보기만 해도 최대 징역 3년 또는 3000만 원 이하의 벌금형에 처해지는 것이다. 제작자뿐 아니라 유통하는 사람, 그리고 이를 소비하는 사람까지 모두 범죄자로 간주한다.

딥페이크 성범죄가 무서운 이유는 복제와 유포가 순식간에 일어나기 때문이다. 게다가 피해자가 자신의 피해 사실을 모르는 경우가 많다.