불법 합성 영상물 '딥페이크'... 96% 음란물... 처벌 규정 강화(feat.그것이알고싶다)

 

 

딥페이크는 인공지능(AI) 기술을 활용해 이미지와 사진을 자동으로 합성하는 이미지 처리 기술입니다.

실제로 드라마나 홍보 영상 등 딥페이크 영상을 유튜브에서 쉽게 볼 수 있습니다.

컴퓨터 비전 연구에 사용되는 인공지능 네트워크 기술은 반복 학습을 통해 '진짜 같은 이미지'를 만들어냅니다.

주로 컴퓨터 그래픽스(CG) 작업에 사용됩니다.

이 기술은 사망한 거북이 터틀맨의 목소리, 이미지 등 최신곡 '이태원클래스' OST 무대를 지난해 엠넷에서 실현하는 데도 활용됐습니다.

문제는 딥 페이크 비디오 기술이 악의적 목적으로 악용되고 있고 사례도 늘고 있다는 점입니다.

인지도가 높은 스타 연예인들의 얼굴 이미지 표절과 음란물 제작이 대표적입니다.

AI 알고리즘 기술이 진화하면서 불법 합성 수준이 더욱 정교해졌습니다.

취재진이 20일 확인한 다크웹 이미지에서는 육안으로 합성 가능 여부를 구분하기 어려울 정도로 정교한 걸그룹의 딥페이크 이미지가 수십 개 발견됐습니다.

인스타그램, 틱톡 등 SNS 사이트에 올라온 일반인들의 사진과 동영상도 딥페이크 범죄의 대상입니다.

 

 

 

 

 

 

 

네덜란드 AI 연구소 센스시티(옛 딥 트레이스)가 발간한 보고서에 따르면 지난해 7월까지 전보에서 전 세계 10만4852명의 여성이 '딥페이크 봇'에 걸려 얼굴이 나체로 합성됐다고 합니다.

딥페이크봇은 사람의 이미지가 올라오면 자동으로 사람의 얼굴과 여자의 벗은 몸을 결합하는 프로그램입니다.

이 중 70%가 연예인이 아닌 일반인의 SNS에서 불법 수집한 이미지와 동영상이었습니다.

일반 여성을 겨냥한 불법 심층 짝퉁 화합물이 빠른 속도로 확산되고 있습니다.

연구소가 2019년 조사한 바에 따르면 같은 해 제작한 깊이 있는 딥페이크 1만4600여 개 중 96%가 음란물이었으며, 25%가 한국 여성 연예인들의 얼굴로 구성됐다고 합니다.

 

 

 

 

 

딥페이크 영상으로 인한 피해 사례가 많아 국민들의 분노가 높아지고 있습니다.

23일 발간된 청와대 국민청원에는 37만 명이 몰려서 정부가 조치를 취했습니다.

과학기술정보통신부는 지난해 N번방 사태가 불거진 뒤 국가연구과제(R&D)로 불법 심층 가짜 이미지를 차단하는 기술 개발을 제안했습니다.

머니브레인, 알앤딥 등 AI 기업들이 시장에 뛰어들었습니다.

하지만 탐지 기술로 딥페이크 이미지를 제거하는 것은 쉽지 않았습니다.

불법 영상물 제작과 유통이 교묘하게 탐지 기술을 탈취하고 있기 때문입니다.

전문가들은 불법 딥페이크 영상 탐지 기술도 중요하지만 타인의 동의 없이 딥페이크 합성이 범죄라는 사회적 인식을 확산시키는 것이 더 중요하다고 지적합니다.

지난해 성폭력처벌특별조치법 개정으로 '딥페이크' 처벌 규정이 강화됐습니다.

대상자의 의사에 반해 성욕이나 수치심을 불러일으키는 영상·음성 등을 편집·합성·유포할 경우 5년 이하의 징역 또는 5000만원 이하의 벌금에 처해집니다.

불법 영상물을 제작하거나 유포한 혐의로 돈을 받으면 징역 7년 이상의 실형이 선고됩니다.

 

 

 

 

 

 

 

성적 수치심을 유발하지 않고 복합물체의 얼굴을 변형시키고 모욕감을 느끼게 하는 등의 행위도 명예훼손이나 초상권 침해 등의 범죄에 해당할 수 있습니다.

사이버 괴롭힘과 악의적인 비방을 위해 딥 페이크를 남용할 여지가 충분히 있습니다.

선의로 딥페이크를 만들더라도 당사자의 직접적인 동의 없이 적정한지 아닌지에 대한 사회적 합의가 이뤄져야 한다는 제안도 나옵니다.

최근에는 흔히 소설이나 동성의 아이돌 멤버들의 연애를 그린 그림으로 알려진 'ALFES'(RPS)도 비슷한 논란에 휩싸였습니다.

온라인에서는 이를 '팬픽'과 '픽션'의 연장선상에 있는 팬 문화로 봐야 하는지, 범죄로 판단해야 하는지에 대한 논의가 진행 중입니다.

윤덕경 한국여성정책연구원 연구위원은 "딥페이크를 이용한 성폭행이 징벌적 범죄라는 인식을 확산시킬 필요가 있다"고 말했습니다.

나아가 "수사·피해자 보호 현장에서 딥페이크 영상을 탐지·삭제할 수 있는 기술 개발과 도입에 더욱 적극 나서야 한다"고도 말했습니다.