디지털 기술을 이용해 원본을 조작한 가짜 사진이나 영상을 뜻하는 '딥페이크'가 사회문제로 떠올랐다. 특히 인공지능(AI)이나 그래픽 소프트웨어로 지인 사진을 성폭력 이미지로 바꾸는 딥페이크가 확산되면서 많은 사람을 불안하게 만들고 있다.

딥페이크(Deep Fake)란 딥러닝(deep learning)과 가짜(fake)의 합성어로 AI(인공지능)의 기술을 이용한 이미지 합성 기술을 말한다. 주로 사진과 영상 제작에 이용된다. 자신이 직접 한 말도 아닌, AI이 흉내 낸 자신의 얼굴과 목소리가 버젓이 사실처럼 플랫폼에 노출되고 있어서다.

그것도 자신의 뜻과는 전혀 다른 궤변을 쏟아내는 파렴치범으로 만들어 놓은 영상이 전 세계로 삽시간에 번지고 있다. 해당 영상과 목소리를 접하는 전 세계 인류는 영상이 진짜 혹은 가짜인지를 분석해야 하는 피로감에 휩싸인다.

소위 딥페이크 영상은 정치인만이 타깃이 아니라는 사실에 충격을 주고 있다. 팬들의 인기를 먹고 사는 유명 연예인은 물론 자신의 일상을 불특정 다수에게 공개하기를 꺼리는 일반인에게도 소리없이 침투한다.

그중에서도 우리가 살고 있는 대한민국이 가장 위험한 국가 중 한 곳으로 평가받는다. 그럼 딥페이크란 무엇인가? 가짜를 의미하는 페이크와 생성형 인공지능이 만나면서 만들어진 딥페이크의 파급효과는 예상치 못한 수준에 이르고 있다.

딥페이크는 가짜뉴스에 그치는 것이 아니라, 가공의 인물을 생성하여 인터뷰도 하고 연설도 한다. AI 기술의 발전으로 누구든 마음만 먹으면 손쉽게 딥페이크물을 만들 수 있다. 딥페이크는 6,500원을 내면 10초 만에 간단한 영상을 만들어 주는 애플리케이션까지 나와 있다.

메신저를 통해 전문업체에 의뢰할 수 있도록 상업화도 됐다. 최근 딥페이크를 활용한 디지털 기술로 특정인의 얼굴과 나체 사진을 합성한 딥페이크 성 착취물이 인터넷상에 광범위하게 유포되고 있다. 대학가뿐만 아니라 심지어는 중·고등학교까지 번지고 있어 사회적 문제가 심각하다.

피해의 진위나 규모 등이 확인되지 않았지만 학생들은 공포와 불안감에 휩싸여 있다. 그래서 학교와 교육청도 비상이 걸렸다. 각종 온라인 커뮤니티에 ‘텔레그램 딥페이크 피해지역 및 학교 목록’까지 나돌고 있을 정도다.

딥페이크 성착취물은 인스타그램이나 카카오톡 등 SNS에 올린 얼굴 사진을 도용해 나체와 합성해 유포하고 있기도 하다. 1,300여 명이 참여한 한 텔레그램 채널의 경우, 전국 70개 대학의 개별 대화방을 열어 지인 신상을 확보하고 불법 합성물을 제작, 게시하는 방식으로 범죄가 이뤄지고 있다.

인물 사진을 전송하면 5~7초 만에 불법 합성물을 만들어주는 텔레그램 방도 활성화되고 있다. 제작부터 유포까지 쉽게 디지털 성범죄에 가담할 수 있는 구조다. 미성년자인 중•고생을 대상으로 삼은 텔레그램 채널에도 2,300여 명이 참여한 것으로 나타나 충격을 주고 있다.

딥페이크 기술은 신종 학교폭력으로도 악용되고 있다. 중·고등학교까지 덮친 딥페이크 성착취물에 대해 강력 대처할 방안을 시급히 강구돼야 한다. 불법 음란 합성물의 제작·유포 행위는 피해자들에게 돌이킬 수 없는 피해를 주는 중범죄이다.

딥페이크 성착취물 유포는 보안 수준이 높아 경찰 수사망을 피하기 쉬운 텔레그램을 통해 주로 이뤄지고 있어 국내 기관이 삭제를 요청할 권한이 현재는 없다. 딥페이크 성범죄 관련 판결은 그동안 국내에서 71건을 처리했는데 35건이 집행유예를 선고받았다.

현행법상 딥페이크 성범죄는 “성폭력처벌법에 따라 5년 이하 징역 또는 5,000만 이하의 벌금에 처하게 돼 있어 양형기준을 대폭 상향할 필요가 있다”는 주장이다. 당국은 이런 범죄가 알려지면 온갖 대책을 내놓겠다고 호들갑을 떨었지만, 그때뿐이다.

솜방망이 처벌이 딥페이크 성범죄를 부추기는 현실이 직시되고 있다. 잠자고 있는 ‘딥페이크 방지법’으로 불리는 인공지능 산업육성 및 신뢰 확보에 관한 법률안의 처리부터 서둘러야 한다. 텔레그램에 개설된 단체 채팅방을 통해 불법 음란물을 생성하고 거래·유포한 디지털 성범죄 ‘N번방’ 사건이 터진 게 벌써 5년 전이다.

사이버 성범죄는 일반 범죄와 달리 순식간에 불특정 다수에게 확산한다는 점에서 문제의 심각성은 더욱 크다. 디지털 기술의 발달이 범죄의 저연령화로 이어지고 있는 것도 문제다. 이런 범죄를 막지 못하면 불길처럼 번져 사회 불안이 커질 수 밖에 없다.

지금은 생성형 AI로 딥페이크 사진과 영상을 너무나 손쉽게 만들 수 있는 시대로 변해 가고 있다. 사이버 성범죄의 방치는 사회적 재난을 부를 수 있다. 신속하고 강력한 대책이 전방위로 보강돼야 한다. 특히 정치권의 입법 보완이 무엇보다 절실하다.

평상시 가족이나 친구 사이에 암호나 약속을 정해두는 게 좋다. 급하게 돈을 요구하거나 프로그램 설치 등을 권할 때는 먼저 의심부터 해보자. 이제 눈으로 보는 것도 믿지 마라. 딥페이크 범죄 예방은 우리의 기본 자세화 됐다.