2024년 텔레그램 딥페이크 음란물 유포 사건

1. 개요

2. 유형

3. 전개

3.1. 8월 19일 ~ 22일

3.2. 8월 26일

3.3. 8월 27일

3.4. 8월 28일

• 강도현 차관은 "피해자 입장에서 여러 제도적 보완과 정책적 지원에 대한 문제를 논의하고자 오늘 (디성센터를) 찾았다"라고 밝혔다. 이어 " 방송통신위원회, 방송통신심의위원회, 경찰 등 사법 기관과의 협조를 통해 그간 (대응을 위해) 준비된 부분을 조속히 시행하고 제도적 보완 측면도 강력하고 과감하게 진행할 계획"이라면서 여가부와도 "성폭력 방지법 개정안과 딥페이크 성범죄 영상물 탐지 시스템 구축 방안을 구체화해 나가는 것으로 알고 있다"라고 전했다.

• 신영숙 차관은 "(성 착취물을) 빠르게 탐지할 수 있는 삭제 시스템의 고도화와 피해 지원 현장에서 개선이 필요한 사항을 중심으로 협력 방안을 잘 논의해 볼 것"이라고 밝혔다.

• 신보라 원장은 "아동·청소년 신상 정보를 포함한 불법 합성 피해 모니터링 집중 기간을 운영해 텔레그램 피해 촬영물이 게시된 URL 및 계정 등 증거 자료를 수집해 수사에 적극 협조하겠다"라면서 "디지털 성범죄 특성상 영구적 삭제가 불가능한 경우도 많지만, 피해자의 고통을 덜기 위해 보다 신속하고 완전한 삭제를 목표로 다양한 기술적 방법을 모색해 왔다"라고 강조했다.

3.5. 8월 29일

3.6. 8월 30일

3.7. 9월 1일

3.8. 9월 2일

3.9. 9월 3일

3.10. 9월 4일

3.11. 9월 5일

• 김태규 위원장 직무대행은 모두발언에서 "최근 딥페이크 성범죄 문제 관련해 많은 관심이 있고 포털 뉴스 공정성 다양한 문제점들이 이야기 되고 있다"라며 "그래서 통신정책에 대해 국민 관심이 이만큼 높구나. 플랫폼의 중요성에 대해 우리가 다시 한번 더 관심 갖고 이 부분에 대해 한번 알아봐야겠다 생각했다"라고 네이버에 방문한 배경을 설명했다. 그리고 플랫폼의 중요성이 커지고 있다고 평가하며, 네이버에 포털 뉴스 공정성의 중요성을 강조했다.

• 유봉석 네이버 정책 대표는 "방통위의 첫 방문이 네이버라는 소식을 들었다"라며 "그만큼 네이버에 대한 관심도 많고 직무대행을 하시면서 한편으로 우려도 많아 첫번째 대상이 된 것 같다"라고 밝혔다.

• 이소은 국립부경대학교 미디어커뮤니케이션학부 교수는 "플랫폼 책무 부과가 산업계에 미치는 부작용을 고려할 필요가 있다"며 밝혔다.

• 최진응 국회입법조사처 입법조사관은 호주 '온라인안전법'을 사례로 들며 "유튜브, 소셜미디어 플랫폼뿐만 아니라 메신저 앱까지 포함해 규제한다. 불법 정보 삭제 조치하지 않을 때 정부가 시정명령 내리고, 따르지 않으면 벌금을 부과한다. 벌금 부과 후에도 지속적 위반 시 접속 차단 조치한다"며 "(우리도) 접속 차단할 수 있는 법적 근거를 두는 방안에 대해 국회에서 논의가 필요하다"고 주장했다.

• 허욱 메타코리아 대외정책 부사장은 "190개국 이상에서 서비스를 제공하는 사업자로서 현지 국가 법률을 준수하면서 서비스를 제공하기 위해 노력하고 있다"면서도 "사업자 책무 같은 경우 완벽한 대책이 있을 거라 생각하지 않는다. 사업자, 이용자, 정부, 국회 사회 등에서 장기적으로 여러 가지 필요한 개선 방안을 논의하면 좋을 거라 생각한다"고 밝혔다.

3.12. 9월 6일

3.13. 9월 8일

3.14. 9월 9일

3.15. 9월 21일

3.16. 9월 26일

3.17. 9월 30일

3.18. 10월 16일

3.19. 10월 18일

3.20. 10월 21일

4. 반응

4.1. 정부

• 윤석열 대통령은 이번 딥페이크 사건은 명백한 범죄 행위라며 이러한 디지털 성범죄를 꼭 뿌리 뽑아달라는 입장을 표명했다. #

• 한덕수 국무총리는 "디지털 기술, 인공지능(AI), 이런 것들이 잘못 활용되면 우리 사회 전체를 망가뜨릴 수 있는 위험이 있는 것에 대해서도 경고를 해야 한다"고 강조하며 "마약과 같은 수준의 단속부터 시작돼야 한다"고 말했다. #

• 임종인 대통령비서실 사이버특별보좌관은 '표현의 자유'를 저해하지 않으면서도 '딥페이크 성범죄'라는 타깃을 명확히 한 실효적 규제법이 조속히 마련돼야 한다고 강조했다. #

• 고학수 개인정보보호위원회 위원장이 정부서울청사에서 정례브리핑을 열어 '딥페이크 성범죄' 관련 개인정보위의 대응이 미흡하다는 지적에 대해서 "관련 부처들과 태스크포스(TF) 작업에 참여하면서 위원회가 할 수 있는 역할을 하고 있다"며 "큰 틀에서는 개인정보를 보호해야 하는 근본적인 이념과 맞닿은 문제를 정리할 것인지, 이를 반영해 법 개정을 어떻게 할 것인지 정리하는 과정에 있다"고 밝혔다. #

• 방송통신심의위원회는 최근 텔레그램을 통해 확산된 딥페이크 성적 허위영상물에 대해 강력히 대응하겠다고 밝혔다. 방심위는 관련 영상물을 중점적으로 모니터링하고, 24시간 내에 시정 요구를 하며, 악성 유포자는 수사를 의뢰하겠다고 밝혔다. 또한 초동대처의 중요성을 강조하며 이용자들의 적극적인 신고를 당부했다.[14]

• 여성가족부는 경찰에 피해자 연계를 요청했다고 밝혔다. 피해가 접수될 경우 디지털성범죄피해자지원센터를 통해 영상물 삭제 등을 지원할 계획이다. 또한 딥페이크 등 허위 영상물과 관련한 입법 미비 사항에 대해 인식하고 있으며, 과학기술정보통신부와 협력해 법제도 개선과 정책 연구를 진행 중이라고 밝혔다. 경찰청 등 범부처 합동 대응체계 강화 방안을 세우고 있고, 허위 영상물 탐지 시스템을 강화하기 위한 예산도 확보하려고 노력 중이라고 강조했다.[15]
• 신영숙 여성가족부차관이 딥페이크 성범죄 실태와 관련해 "디성센터에 접수된 허위 영상물 피해는 2019년 144건에서 지난해 423건으로 약 3배로 늘었고 올해 6월까지 726건"이라며 "이미 전년도 한 해 동안의 피해 지원 수를 훨씬 넘었다"고 밝히며 "디성센터 내 딥페이크 성범죄 전담 대응팀을 운영해 피해 접수, 상담 등을 신속하게 지원하고 특히 아동청소년 성착취물은 발견 시 선제적으로 삭제 지원하겠다"고 약속했다. #

• 국방부 대변인실은 군인을 대상으로 한 텔레그램 대화방과 관련해 "경찰 수사 결과에 따라 필요한 절차를 하겠다"면서 "지금 단계에서 우리가 할 수 있는 것은 없는 것 같다"고 입장을 표명했다.[16]
• 전하규 대변인이 정례 브리핑에서 관련 질의에 "국방부는 사안의 심각성을 충분히 인지하고 있다"라며 "재발 방지를 위한 교육, 다양한 예방대책 등을 병행해 갈 것"이라며 "경찰에서 수사 중인 사안에 국방부가 필요한 부분을 적극 협조하고 있다"라고 밝혔다. #

• 교육부는 26일 전국 17개 시도교육청에 딥페이크 피·가해 현황을 파악해 달라는 공문을 보냈다고 밝혔다. 또한 각급 학교를 통해 디지털 성범죄 대응 및 예방을 위한 교육에 나서 달라고 협조를 요청했다. 교육계 퍼지는 '딥페이크' 공포…교육부도 전교조도 실태조사 - 뉴시스

• 국무조정실은 김종문 1차장 주재로 TF가 설치된다고 밝혔다. #

• 8월 30일, 딥페이크 성범죄 영상물을 소지, 구입, 시청 시 법적 처벌을 할 수 있도록 법률안을 개정하겠다고 발표했다. #

• 국가안보실이 딥페이크와 인공지능(AI)을 포함해 신기술을 활용해 이뤄지는 사이버공격에 대응하기 위한 범정부 종합대책을 발표했다. #
  

4.2. 정당

4.2.1. 국민의힘

• 한동훈 대표는 "AI를 악용하는 것도 사람이지만, 예방하고 제한할 수 있는 것도 사람"이라며 "'N번방 방지법'이 21대 국회에서 통과됐지만, AI의 부작용을 막기 위한 제도와 정책은 신속히 보완돼야 한다"며, 국민의힘이 디지털 성범죄 근절 대책 마련에 앞장서겠음을 밝혔다. #

• 한동훈 대표 주재로 8월 29일 실무진 당정협의회 차원의 긴급 현안 간담회를 진행할 것을 밝혔다. #

• 국민의힘은 딥페이크나 사이버범죄 경력이 있는 사람을 향후 공천에서 원천적으로 배제하기로 결정하였다. #

• 오세훈 서울특별시장은 딥페이크(AI 기반 이미지 합성 기술)불법 합성물 삭제 지원의 주체가 국가에서 지방자치단체(지자체로) 확대하도록 법령 개정을 촉구했다. #

• 탈북민 출신인 박충권 의원은 인공지능(AI) 기술을 이용한 딥페이크(Deepfake) 허위 영상물을 피해자의 의사에 반해 유통할 시 엄중히 처벌하는 '정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안'을 대표 발의했다고 밝혔다. #

• 국민의힘은 법사위, 과방위, 교육위, 행안위 등 관련 상임위와 의원들이 참여하는 TF를 구성하기로 했다. # TF 위원장직으로 안철수 의원을 유력한 후보로 검토 중이라고 한다. 안철수 역시 추경호 원내대표와 위원장직에 대한 이야기를 나눴다고 밝혔다. #

• 서범수 의원은 딥페이크 성범죄 사태와 관련한 현안질의에서 "각 부처의 역할도 있지만 각자 역할을 총괄하고 피드백을 해줘야 시너지 효과가 난다"며 딥페이크 주무 부처인 여성가족부가 '컨트롤타워' 역할을 해달라고 주문했다. #

• 한지아 의원은 딥페이크 성범죄 사태와 관련한 현안질의에서 디지털성범죄피해자지원센터 인력이 줄어든 반면, 업무량은 2배가량 늘어난 점을 지적하며 "피해자 지원 업무에 공백이 생기지 않도록 각별히 신경 써달라"고 주문했다. #

• 이인선 여성가족위원회 위원장은 딥페이크 성범죄 사태와 관련한 현안질의에서 "여야 위원들이 문제의 중요성에 깊이 공감하고 정쟁을 떠나 협치의 정신으로 함께 노력하기로 했다"며 "여가부가 관계부처 합동으로 대응안을 신속하게 논의해달라. 사후약방문처럼 시간 지나서 하는 것은 아무런 소용이 없다"고 당부했다. #

• 윤상현 의원은 "딥페이크·마약과의 전쟁을 선포하고 관련 범죄자들을 반드시 발본색원해야 한다"고 촉구했다. #

• 안철수 특위 위원장은 첫 회의에서 "딥페이크 범죄 처벌과 재발 방지를 위한 규정을 신설하는 일을 하겠다"고 밝혔다. #

4.2.2. 더불어민주당

• 민주당은 여성가족위원회를 중심으로 과방위, 법사위 등 관련 상임위와 의원들이 참여하는 TF를 구성하기로 했다.

• 이재명 대표는 딥페이크 범죄 근절을 위한 국회 차원의 대책을 마련하라고 지시했는데, 특히 피해자 보호 방안과 딥페이크 제작·배포자에 대한 강력한 처벌 규정을 강구할 것을 당부했다.

• 박지현 전 비상대책위원장은 자신의 페이스북을 통해 최근 딥페이크 음란물 유포 문제를 '국가적 재난 상황'으로 선포해야 한다고 주장했다. 이어 "정말 진정한 'N번방 방지법'을 만들었다면 2024년에 이런 일이 벌어졌을까"라며, 현 상황이 "4년 전에도 매일 같이 일어났던 일"이라고 비판했다. 박 전 위원장은 SNS 사진 삭제와 같은 임시방편적인 대응은 해결책이 될 수 없다며, 텔레그램의 일시적 접속 차단, 상담 기구 설치 등 정부와 입법부의 역할을 강조했다.[17]

• 김부겸 전 국무총리는 정부·여당에 합동대책본부 구성을 촉구했다. SNS에 "익명의 다수가 저지른 성범죄는 사회적 테러라 봐도 무방하다"며 "과학기술정보통신부, 행정안전부, 경찰청을 필두로 한 합동대책본부를 구성해야 한다. 끝까지 추척해 발본색원해야 한다"고 주장했다.

• 김동연 경기도지사는 최근 SNS상에 '딥페이크' 불법 영상물이 확산됨에 따라 도민 피해를 예방하기 위해 초기 대응을 지시했다. #

• 이수진 의원이 '딥페이크' 범죄가 오가는 통로가 된 텔레그램 등 메신저 플랫폼에 대해 불법 촬영물을 유통한 이용자의 정보를 보존하는 내용의 '딥페이크 방지법'을 발의했다.

• 김한규 의원도 김종배의 시선집중에서 "인식 개선을 위해 '딥페이크 성범죄' 처벌 범위를 확대하는 법안을 발의했다고" 밝혔다. #

• 문재인 정부에서 국가정보원장을 지낸 박지원 의원은 페이스북에 딥페이크 성범죄 확산과 관련해 " 소 잃고 외양간이라도 고쳐야 한다"며 정부에 대책을 강구했다. #

• 조인철 의원은 유상임 과학기술정보통신부장관에 대해 "지금 전과자를 사회에서 관리해야 한다고 했을 때, 어떻게 재발을 방지할 수 있겠나"라고 우려를 표하며 "사이버상에서 그런 범죄(디지털 성범죄)를 저지른 사람에게 전자팔찌가 효력이 있겠나"라고 강조했다. #

• 서영교 최고위원은 딥페이크 성범죄 사태와 관련한 현안질의에서 "피해자들이 경찰에서 '(텔레그램) 서버가 해외에 있어서 어떻게 할 수 없다'는 말을 들으면 목숨 끊는 것밖에 방법이 없다고 생각하지 않겠나"라며 경찰에 적극적인 피의자 추적·단속을 촉구했다. #

• 백승아 의원은 딥페이크 성범죄 사태와 관련한 현안질의에서 일부 학교가 피해 예방 명목으로 여학생들에게만 소셜미디어(SNS)에서 사진을 내리도록 하거나, 피해자 익명성을 보장하지 않은 채 현황을 조사하는 점을 지적하며 "피해자들이 겁내지 않고 피해 사실을 밝힐 수 있도록 안내하는 게 중요하다"고 강조했다. #

• 김남희 의원은 딥페이크 성범죄 사태와 관련한 현안질의에서 "경찰이 딥페이크 대책이라며 성인까지 위장수사를 확대하겠다고 했는데 지금 아동·청소년 딥페이크 성착취 범죄에 대해 위장수사 안 되는 거 알고 있냐"며 "딥페이크 성범죄는 위장수사 대상도 아닌데, 경찰이 대책을 발표하면서 성인까지 대상을 확대하겠다고 한 걸 보면 뭘 할 수 있는지 뭘 할 수 없는지 파악을 하지 못하고 있다"고 지적했다. #

• 노성철 전 서울시당 청년위원장은 자신의 SNS를 통해 "주동자는 강력하게 처벌하여 두 번 다시 이러한 범죄 행위가 발생하지 않도록 일벌백계 하여야 한다"라면서도 "몇몇 SNS 이용자는 확인되지 않은 가해자 명단을 유포하여, 이로 인해 가해자가 아닌 학생이 가해자로 몰려 정신적인 피해를 호소하고 있다"며, "혼란스러운 틈을 타 거짓된 제보를 통해 무고한 사람을 가해자로 만든다면, 이는 피해자의 보호에 쏟아야 할 사회적 노력을 방해하게 될지도 모른다"고 강조했다. #

4.2.3. 조국혁신당

• 강미정 대변인이 논평에서 “윤석열 정권은 2019년 ‘n번방 사태’ 이후 법무부에 설치된 ‘디지털 성범죄 TF’를 사실상 해체했다”라며 “2022년 윤 대통령이 취임하자마자, 한동훈 법무장관이 취임하기 직전에, 임기가 남은 디지털 성범죄 TF 책임자였던 서지현 검사를 다른 부서로 인사하는 바람에 TF 자체가 흐지부지되고 말았다”고 지적했다. 이어 “윤 대통령과 한동훈 국민의힘 대표는 관계 당국의 철저한 실태 파악과 수사를 당부하기 전에 반성부터 해야 한다”고 지적했다. #

• 김선민 최고위원은 딥페이크 성범죄 사태와 관련한 현안질의에서 한상형 법무부 형사법제과장에게 "(2020년 n번방 사건을 계기로 만들어진 법무부의) 딥페이크 범죄 TF가 제대로 일을 했더라면 오늘과 같은 사태가 과연 발생했을지 의문"이라며 비판했다. #

• 박은정 의원이 본 사테를 계기로 '딥페이크 차단 6법(서지현법)'을 대표 발의했다.

• 9월 2일, 기자회견에서 딥페이크 성범죄 사태와 관련해 윤석열 정부가 취임 직후 디지털성범죄대응전문위원회를 강제 해산시켰다며 혁신당 차원에서 입법을 준비하고 있다고 밝혔다. #

4.2.4. 개혁신당

• 허은아 대표는 딥페이크 사건의 본질은 범죄이고, "이를 이용해 젠더갈등과 혐오를 조장할 때가 아니라 대안을 모색할 때"라고 주장했다. #

• 이준석 의원은 강도현 과학기술정보통신부 제2차관에 대해 "텔레그램 차단 외에 현실적인 방법이 있나"라고 물으며 기술적으로 말이 되는 제안이 나와야 할 것 같다"고 강조했다. #
• 또한 김태규 방송통신위원회 위원장 직무대행에 대해 "해당 텔레그램방은 해외 개발자가 만든 봇이라 국내 이용자가 아닌 해외 이용자 수가 22만 명이라는 것"이라며 "방통위에서 불안이 실제보다 과장되지 않도록 신경써달라"고 하였다. #
• 이후 페이스북을 통해 2020년 'N번방 방지법' 당시 "텔레그램이라는 매개에는 어떤 제약도 추가 되지 않고 오히려 카카오톡과 커뮤니티 사이트 등에 검열서버를 두는 것을 강제하는 결론이 났다","범죄의 매개인 텔레그램을 손대지 못하고 결국 국민들에 대한 검열만 강화된 것"이라고 언급하며 "실효적 조치로 할 수 있는 것은 텔레그램의 인증서버 등에 대해 완전 차단을 하는 것이지만, 어차피 매개에 불과한 텔레그램은 어차피 또 대체재가 만들어질 것이고, 그래서 그 조치가 무의미한 것"이라고 주장했다. "이번에도 규제를 통해 국민에 대한 국산 메신저 검열만 강화되는 결과로 귀결되지 않았으면 좋겠다"라고 밝혔다.

• 천하람 원내대표는 이데일리와의 인터뷰에서 '자유주의적 실용정당'이 무엇이냐는 질문에 본 사태와 n번방 성착취물 제작 및 유포 사건을 언급해 "n번방 사건이 발생한 외국기업 텔레그램은 정작 규제하지 못하고 정작 카카오만 엄청난 규제를 떠안았다"며 "범죄자는 당연히 잡아야겠지만, 정치권이 위험을 크게 해석하고 실용적이지도 않은 무의미한 규제를 만드는 것은 자유주의적 관점에서 배척해야 한다"고 주장했다. #

4.2.5. 진보당

• 8월 27일, 손솔[18]과 홍희진[19]을 공동단장으로 한 진보당 딥페이크 성범죄 대응 TF를 꾸려 경찰청 앞에서 기자회견을 열어 최근 논란이 되는 텔레그램 딥페이크 성범죄에 대해 경찰이 적극적으로 수사하라고 촉구했다. #

• 8월 31일, 종로에서 '딥페이크 불법 합성물' 규탄 집회를 개최해 경찰에 강력수사를 촉구했다. #

4.2.6. 사회민주당

• 임명희 대변인이 이번 사태가 n번방 사건처럼 후속조치가 미흡하지 않도록 관련 논의를 국회와 정부가 적극적으로 열어줄 것을 요청한다며, 수습을 넘어 향후 얼마든지 더 큰 규모로 발생할 수 있는 디지털 범죄를 국가적 재난으로 여기고 대응하는 시스템 구축과 인력확보를 강력하게 요구한다고 했다. #

4.2.7. 기본소득당

• 용혜인 대표는 본 사태에 대해 "경찰은 텔레그램 협조 없이는 가해자 특정이 어렵다며 책임을 회피하고 있다. 비극적인 현실이다. 10월 국정감사에서 디지털성폭력에 대한 경찰의 미온적 대응을 확실하게 짚겠다."고 밝혔다. #

4.2.8. 원외정당

• 정의당
• 성명문에서"딥페이크 범죄의 가장 큰 문제는 일상을 위협하는 불안감"이라며 정부에 전방위적인 특별수사를 촉구했다. #
• 장혜영 의원은 토론회에서 "한 사람의 정치인으로서, 우리 사회의 어른으로서 더 나은 사회를 만드는 게 가능하다고 믿고 살아온 모든 시민분들에게 이런 사회를 마주하게 해 죄송하다"며 먼저 고개를 숙였고, 딥페이크 성범죄 가해자 중 다수가 10대는 통계를 언급하며 "가해 청소년들이 타인을 존중할 수 있는 인간으로 성장할 수 있는 환경을 만들지 못한 건 어른들의 책임이고 정치인들의 책임"이라고 밝혔다. #
• 본 사태와 관련해 "위협이 과대평가되고 있는 게 사실"이라고 주장한 이준석 의원에 대해서도 "딥페이크 성폭력으로 인한 공포는 정치를 포함한 공적인 영역에서 존중돼야 마땅하다"며 "(위협이) 과장됐다며 평가절하하는 건 그 어떤 경우에도 용납될 수 없다. 정치는 엄연한 현실을 이름 붙이고 존중할 책무가 있다"고 강도 높게 비꼬았다.

• 노동당
• 성명문에서 딥페이크 성범죄의 책임이 여성을 대상으로 일어난 범죄를 방조하고 부추긴 윤석열 정부에게 있다면서 비난했다. #

• 녹색당
• 성명문을 통해 이번 사태에 대해 경악을 금치 못한다며, 우리 사회의 여성에 대한 인식이 얼마나 처참한 수준인지를 뼈아프게 돌아봐야 한다고 주장했다. #

• 여성의당
• X(트위터)에 국가가 엄정한 수사와 처벌을 통해 성착취 범죄 근절 및 예방에 힘써야 하고, 성착취물의 신속한 삭제 및 피해자 보호조치를 통해 피해자가 일상으로 복귀할 수 있도록 필요한 모든 조치를 강구해야 할 책임이 있다고 했다. #

• 새로운미래
• 신재용 책임위원은 모두 발언에서 딥페이크 악용에 대해 "딥페이크 성착취물을 유포해야만 처벌 받는 것이 아니라 이를 제작, 소지하거나 시청하는 행위도 엄중히 처벌할 수 있도록 법을 강화해야 한다.", "딥페이크 성범죄를 경미한 사안으로 여기는 풍조를 근절해야 한다."고 밝혔다. #

4.3. 연예계

• NewJeans
• 소속사인 ADOR는 불법 딥페이크 영상물 확산에 대해 법적 대응을 예고했다. #

• 권은비
• 소속사인 울림엔터테인먼트 역시 불법 딥페이크 영상물 확산에 대해 법적 대응을 예고했다. #

• ARTMS, tripleS
• 소속사인 모드하우스가 공식 디스코드를 통해 아티스트 보호에 최선을 다하겠다고 밝혔다.[20]

• TWICE
• 소속사인 JYP엔터테인먼트가 불법 딥페이크 영상물 확산에 대해 법적 대응을 예고했다. #[21]

• 아일리원
• 소속사인 FCENM도 불법 딥페이크 영상물 확산에 대해 법적 대응을 예고했다. #

• 츄
• 소속사인 ATRP도 불법 딥페이크 영상물 확산에 대해 법적 대응을 예고했다. #

• Loossemble
• 소속사인 CTDENM도 불법 딥페이크 영상물 확산에 대해 법적 대응을 예고했다. #

• BLACKPINK, BABYMONSTER
• 소속사인 YG엔터테인먼트도 불법 딥페이크 영상물 확산에 대해 법적 대응을 예고했다. #

• (여자)아이들, NOWADAYS
• 소속사인 큐브엔터테인먼트가 불법 딥페이크 영상물 확산에 대해 법적 대응을 예고했다. #

• 박규영
• 소속사인 사람엔터테인먼트가 불법 딥페이크 영상물 확산에 대해 법적 대응을 예고했다. #

• XG
• 소속사인 XGALX가 불법 딥페이크 영상물 확산에 대해 법적 대응을 예고했다. #

• 태민, VIVIZ
• 소속사인 빅플래닛메이드엔터가 불법 딥페이크 영상물 확산에 대해 법적 대응을 예고했다. #

• 박명수
• 박명수의 라디오쇼에서 키워드로 '딥페이크'가 거론되자 "심각하다"며 분노한 모습을 보였고, 국회를 향해 "입법 기관 의원님들도 문제다. 이런 일로 피해를 입고 목숨을 잃는 경우도 있다. 이걸 빠르게 입법화해서 미연에 방지를 해줘야 한다"며 비판했으나, 관련 법안이 발의된 상태라는 소식을 듣고 "빨리 처리해 달라. 가장 중요한 건 국민의 생명"이라고 강조했다. #

• STAYC
• 소속사인 하이업엔터테인먼트도 불법 딥페이크 영상물 확산에 대해 법적 대응을 예고했다. #

• LE SSERAFIM
• 소속사인 HYBE가 불법 딥페이크 영상물 확산에 대해 법적 대응을 예고했다. #

4.4. 사회 각계

• 노동계
• 8월 26일, 교사노동조합연맹은 “최근 텔레그램 딥페이크 제보방이 만들어지면서 피해 학교 200개 이상이 공개됐다. 학교로 딥페이크 피해 제보와 신고가 이어지고 있다”며 “학생과 교사 피해자를 위한 긴급 심리 지원을 제공하라”고 촉구했다. 또한 인공지능(AI)과 딥페이크 기술에 대한 청소년의 접근 제한에 대해 논의하고 담당할 부서를 편성하라고도 했다. 이들은 “일부 청소년들은 디지털 성범죄의 결과물을 경제적 가치로 교환하는 것을 학습하고 있는 상황”이라며 “학교의 예방 교육, 연수 늘리기만으로는 이런 문제를 해결할 수 없다”고 했다. 초·중·고로 확산되는 딥페이크 피해···교사노조 “수사 전담팀 마련하라”
• 8월 26일, 전국교직원노동조합은 성명문을 내고 당국의 조속한 대응을 촉구했다. 교원노조들은 피해 학생 및 교사를 위한 긴급 심리 상담, 국가 차원의 수사 전담팀 마련 등을 촉구했다. 또한 "각 학교로 공문이 도달한 시점은 오늘(27일) 오전 10시께였으나 교육부는 낮 12시까지 현황을 제출할 것을 요구했다"며 "형식적이고 급박한 조사만으로는 정확한 실태를 파악하는 것도 불가능하다"고 교육 당국의 대응도 지적했다. #
• 27일, SNS에서 돌고 있는 '딥페이크 성범죄 피해학교 명단'에 포함된 전국 초·중·고교를 대상으로 점검한 결과 최소 40곳의 중·고교에서 실제 피해가 있는 것으로 파악됐다고 밝혔다. #
• 29일, 정부서울청사 앞에서 기자회견을 열어 지난 27일부터 이틀 간 진행된 딥페이크 실태조사에 접수된 피해 건수가 2492건에 달했다고 밝혔다. #
• 8월 28일, 실천교육교사모임도 성명문을 내고 "딥페이크 범죄와 'N번방' 등 음란물 범죄의 온상이 되고 있는 텔레그램에 강력한 조처를 하라"며 "정보기술 전문가 등으로 대책반을 구성하고 범죄 행위에 대한 증거를 확보해 모든 가해자가 법적인 처벌을 피하는 일이 없도록 해 달라"고 촉구했다. 또한 "이미 오래전부터 음란물 피해에 대한 경종이 울려 왔는데, 교육 당국의 대처는 늑장과 방치 그 자체였다"며 교사의 행사 사진이나 졸업 앨범 사진을 활용한 유사 사례가 과거에도 많았다고 정부의 늦장 대처를 꼬집었다. #
• 8월 29일, 한국교원단체총연합회는 보도자료를 통해 "학생이 교사 합성 사진을 만들어 갖고 있는 일이 많은데, 현행법으론 '유포(’널리 퍼뜨린다’는 뜻)' 목적이 아니면 처벌할 수 없다니 납득하기 어렵다"면서 "딥페이크 범죄에서 학생, 교사를 보호할 대책을 마련해달라"고 밝혔다. #
• 9월 3일, 전국민주노동조합총연맹은 정부서울청사 앞에서 기자회견을 열어 "여성에 대한 혐오와 성폭력이 일상이 된 국가재난 상황의 가장 큰 책임이 윤석열 대통령과 정부에 있다"고 밝혔다. #

• 경제계
• 8월 28일, 네이버가 고객센터 공지사항을 통해 "만약 딥페이크 기술을 사용해 성폭력처벌법 등 관련 법령을 위반하거나 제3자의 권리를 침해하는 이미지나 영상을 발견하셨다면 아래의 신고 채널을 통해 접수해 주시기 바란다"며 관련 링크를 안내했다. #
• 8월 29일, 카카오도 고객센터와 카카오톡 공지사항을 통해 "카카오 서비스 내에서 딥페이크 영상물, 이미지 등 관련 콘텐츠를 발견하신 경우 즉시 신고해 주시기를 바란다"며 관련 링크를 안내했다. #
• 8월 30일, 딥브레인AI가 딥페이크의 진위를 판별할 수 있는 설루션[22]을 각급 학교와 관공서, B2B(기업간거래) 기업 등에 1개월 무료로 지원하기로 했다고 전했다. #
• 9월 2일, SOOP은 공식 홈페이지 소통창을 통해 음란물 및 불법촬영물 방송은 허용되지 않다면서 이에 대한 모니터링 및 엄격한 단속, 규제를 시행해 서비스 제한 조치뿐 아니라 관련자에 대한 형사고발조치를 통해 법적 조치까지 진행하며 강력대응하겠다고 밝혔다. #
• 9월 3일, 피자스쿨이 서울도봉경찰서와 업무협약을 맺고 피자 박스에 딥페이크 성범죄 경고문구를 삽입한다고 밝혔다.
• 9월 6일, 유튜브가 인공지능(AI)을 활용한 딥페이크 콘텐츠를 감지할 수 있는 기술을 개발했다고 발표했다. 2025년 초에 관련 기술이 담긴 프로그램을 시범 출시할 예정이다. #
• 9월 8일, SK텔레콤이 경찰청과 캠페인을 통해 딥페이크 범죄에 대한 예방 방안과 주의사항 등이 담긴 문자를 청소년과 학부모들에게 이번달 발송할 예정이라고 밝혔다. #

• 법조계
• 서혜진 여성변호사회 아동·청소년 특별위원장은 연합뉴스와의 인터뷰에서 본 사태에 대해 "타인의 얼굴 사진을 성 착취물과 합성한 '딥페이크' 피해가 커지고 있는 주요 원인으로 텔레그램이 꼽히고 있죠. 그게 문제는 맞지만, 피해자가 계속 늘고 있다는 사실은 수사당국의 시스템에도 개선할 점이 있다는 방증입니다." 이라며 "여가부가 나서서 모든 부처와 지자체, 시민단체 등 사회 각 분야에 의제를 던져야 하고, 사태 해결의 선두에 나서야 한다"고 당부했다. #
• 검찰청 내부 성추문 사건을 폭로하여 미투 운동을 촉발시켰던 서지현 전직 검사도 본 사태에 대해 "디지털 성범죄의 지옥문이 열렸다고 대책 시행을 촉구한 지 2년이 넘었는데, 그동안 국가는 무엇을 했나"라며 비판했다. #
• 성폭력 전문 변호사인 이은의는 "문제 의식을 가진 이들이 '과잉 반응한다'는 안일한 인식이야말로 디지털 성폭력을 법으로 규제하지 못하게 하는 걸림돌"이라고 밝혔다. #

• 학계
• 범죄심리 전문가인 이수정 경기대학교 사회과학대학 교수는 '딥페이크 디지털성범죄 예방과 대응책 마련을 위한 정책 토론회'에 발제자로 참석해 "'n번방' 가해자 몇 명을 엄벌하는 것으로 수사를 마무리한 게 실수였다"고 밝혔다. #

• 시민단체
• 8월 26일, 한국여성민우회는 성명문을 내고 "지인의 사진을 보내면 5초 만에 유료로 나체를 합성해주는 텔레그램 채널 가입자는 무려 22만 7천여명"이라며 "특정 개인들에 국한된 문제가 아님을 보여주고도 남는 숫자"라고 지적했다. 이어 "여성들은 반복되는 디지털성범죄, 강간, 여성살해, 교제폭력 뉴스를 보면서 여성 멸시를 방조하는 사회, 망가진 시민을 길러내는 붕괴된 사회에 대한 절망과 분노 속에 지쳐가고 있다"고 주장했다. #
• 8월 27일, 군인권센터는 "국방부는 책임지고 여군을 능욕하는 딥페이크 관련자를 발본색원하라"고 요구했다. 이어 "문제의 텔레그램 단체 채팅방(이하 여군능욕방)은 한국 사회에 만연한 여성에 대한 차별과 혐오가 군에서 여군에 대한 차별과 혐오로 나타난 것"이라며 "(가해자들은) 여군을 군수품, 물질로 치환하고 오로지 성적인 존재로 취급하기 위해 군복 입은 여군들의 사진을 이용했다"고 지적했다. 아울러 "이러한 행위는 과거 일본군 성노예 범죄와 맥이 닿아 있다. 당시 일본군은 위안부 피해자들을 군수품으로 취급했다"고 강조했다. #
• 9월 3일, 9월 30일까지 '여군 딥페이크 피해' 집중 신고기간을 운영한다고 밝혔다. #
• 8월 29일, 한국여성단체연합, 한국사이버성폭력대응센터, 한국성폭력상담소 등 여성단체들이 공동성명을 발표해 윤석열 정부의 여성가족부 폐지 공약 및 예산 삭감을 비판하며 "삭제지원의 안정화를 위한 성찰과 대책은 빠져 있다", "피해 이미지에 가슴이나 성기 부위 노출이 없다는 이유로 피해자가 삭제지원에서 탈락하기도 하고, 스무 명도 안 되는 삭제지원자 확충과 고용안정화도 시급하다", "텔레그램 등 해외 플랫폼과 '핫라인' 개설은 방심위가 진작에 했어야 할 일이고 온라인 플랫폼 규제에 책임이 있는 방통위는 침묵하고 있다"며 "디지털성범죄피해자지원센터(디성센터)의 삭제 지원, 방통심의 심의와 피해구제는 사후책일 뿐이다. 디지털성범죄 생성과 유통 예방을 한번도 진지하게 고려한 적이 있느냐", "경찰은 향후 7개월 간 불법합성 성범죄물 특별 집중단속을 선포했는데, '텔레그램이라 잡기 어렵다', '탈퇴계정이라 잡기 어렵다', '우회IP라 잡기 어렵다', '가해자가 미성년자라서, 학생이라서 압수수색이 어렵다' 등 피해자들을 숱하게 좌절시키던 경찰의 태도가 떠오른다"는 등 윤석열 정부와 경찰의 대응을 꼬집었다. #

4.5. 외신

• 
  [[싱가포르|
  파일:싱가포르 국기.svg

  싱가포르
  ]][[틀:국기|
  파일: 특별행정구기.svg

  행정구
  ]][[틀:국기|
  파일: 기.svg

  속령
  ]]
• ‘Many victims are minors’: S. Korea President calls for eradication of deepfake porn crimes - 더 스트레이츠 타임즈

• 
  [[영국|
  파일:영국 국기.svg

  영국
  ]][[틀:국기|
  파일: 특별행정구기.svg

  행정구
  ]][[틀:국기|
  파일: 기.svg

  속령
  ]]
• South Korea faces deepfake porn 'emergency' - BBC
• South Korea battles surge of deepfake pornography after thousands found to be spreading images - 더 가디언
• South Korea vows tougher stance after outcry over sexual deepfakes in Telegram chatrooms - 로이터

• 
  [[미국|
  파일:미국 국기.svg

  미국
  ]][[틀:국기|
  파일: 특별행정구기.svg

  행정구
  ]][[틀:국기|
  파일: 기.svg

  속령
  ]]
• ‘Anyone Can Be a Victim’: Sprawling AI Fake Nudes Crisis Hits South Korea - 월스트리트 저널
• South Korean authorities have launched a crackdown on deepfake porn - NPR
• South Korea Is Facing Deepfake Porn Crisis - 블룸버그

• 
  [[인도|
  파일:인도 국기.svg

  인도
  ]][[틀:국기|
  파일: 특별행정구기.svg

  행정구
  ]][[틀:국기|
  파일: 기.svg

  속령
  ]]
• South Korea Urges Telegram To Help Combat Digital Sex Crimes - NDTV

• 
  [[홍콩|
  파일:홍콩 국기.svg

  홍콩
  ]][[틀:국기|
  파일: 특별행정구기.svg

  행정구
  ]][[틀:국기|
  파일: 기.svg

  속령
  ]]
• South Korea vows tougher stance after outcry over sexual deepfakes in Telegram chat rooms - 사우스 차이나 모닝 포스트

• 
  [[프랑스|
  파일:프랑스 국기.svg

  프랑스
  ]][[틀:국기|
  파일: 특별행정구기.svg

  행정구
  ]][[틀:국기|
  파일: 기.svg

  속령
  ]]
• En Corée du Sud, ouverture d’une enquête contre Telegram pour diffusion de deepfakes pornographiques impliquant des mineurs - 르 몽드

5. 논란 및 사건 사고

5.1. 가해자 수 왜곡 보도 논란

5.1.1. 한겨레

• [단독] 딥페이크 텔레방에 22만명…입장하니 "좋아하는 여자 사진 보내라" - 한겨레
• With a click, 220,000+ member Telegram room generates illegal deepfake porn - 한겨레(영문)[수정]

5.1.2. 뉴시스

5.2. 검증되지 않은 피해 학교 명단 공개

5.3. 가해자 헛지목 문제

5.4. 아카라이브를 타겟으로 한 허위사실 유포

6. 대처

• 딥페이크 불법 영상물을 발견할 시 먼저 합성물 속 인물이 본인인지 확인하고 간접피해나 2차 피해를 막기 위해 자신의 누리소통망(SNS)을 비공개 계정으로 전환할 것.

• 개인정보 파악이 가능한 사진(교복, 건물, 위치태그) 등을 삭제하거나 비공개로 전환할 것. 이어서 제작·유포(제보) 정황을 캡처하고, 추후 모니터링 지원을 받을 수 있도록 딥페이크 불법 영상물에 사용된 원본 사진이 자신에게 있는지 유무를 확인.

• 지인의 제보를 받은 경우에는 합성물이 제작·유포된 플랫폼과 피해 영상물의 유포 수준을 대략적으로 파악할 것.

• 모르는 사람에게서 DM이나 메시지로 제보를 받았을 때는 캡처 후 연락을 차단할 것.

• 제보할 때 공유받은 링크는 클릭하지 않고 무리하게 텔레그램 방에 접속하지 않을 것. 링크를 클릭할 경우 악성 프로그램이 설치되어 피해를 입을 수 있으며, 직접 잠입해서 잡겠다는 위험한 생각으로 텔레그램 대화방에 들어갔다가는 2차 가해를 당하거나 수사에 혼선을 줄 수 있음.

• 신고 필요 시 대응단 경기도 디지털성범죄피해자원스톱지원센터(1544-9112)나 수사기관에 연락해 피해 정황을 전달할 것.

7. 여담

• 학습데이터가 많으면 많을수록 더 정확해지는 딥러닝 특성 상, 여러 사람의 얼굴을 뒤섞어서 학습하면 어떤 사람이 나와도 걸릴 수 있다.라는 맹점이 존재한다. 의외로 얼굴이 비슷한 사람은 이 세상에 상당히 많다.[27] 오히려 사진에 워터마크나 가짜눈, 가짜입, 가짜얼굴 등을 섞어 학습 자체를 교란하는 것이 더 이 문제를 방어하는데 효과적이다. 링크 링크(피부에 워터마크가 변형된 채로 찍혀 나오기 때문에 학습된 데이터의 여부를 쉽게 알아낼 수 있다.) 대부분의 딥페이크 범죄자들은 특정인을 지목해서 음란물을 만드는 경우 학습시간을 넉넉하게 줘서 자연스러워 질 때까지 계속 학습 처리를 하지 않고 즉각즉각 내놓으므로,[28] 화질이 열악하거나 하는 오류가 있는데, 워터마크를 적용하는 것으로 불쾌한 골짜기를 더 강하게 할 수 있다. 그러한 사유로 이건 신고가 필요한 친고죄가 될 수밖에 없다. SNS에서 사진을 지인들하고만 공유하도록 권한설정을 하는 방법도 예방책으로 사용할 수 있다.

• 위에 설명했듯 이현령비현령이 되는 경우, 잡아갈 사람들이 너무 많다. # # "알고 봤다"의 기준이 사실상 없기때문에 마음대로 유관해석이 가능한 사항이다. 사실상 불특정 다수에 대한 합법적인 테러도구로 사용될 수도 있다.

• 인스타그램을 중심으로 계정을 해킹한다는 등의 소문이 돌고 있다. 유형은 비공개 계정의 비공개 설정 무력화나 로그인 위치가 실제 위치와 다르다는 것 등인데 인스타그램을 관리하는 Meta는 초거대 IT기업인 만큼 높은 수준의 보안을 유지하고 있어 해킹이 쉽지 않다.[29] 이러한 높은 수준의 보안을 뛰어넘는 해커가 고작 딥페이크에 쓸 사진을 목적으로 일반인의 계정에 접근한다는 것은 상식적으로 생각하기 어렵고 효용도 떨어지기 때문이다. 또한 로그인 위치는 원래 자신의 실제 위치와 다를 수밖에 없고[30] 텔레그램에서 인스타그램 해킹 봇을 이용한다면 비공개 계정을 해킹할 수 있다고 하나, 봇들은 가짜이며, 실제로 되지도 않는다. 그러므로 이러한 해킹 루머는 말 그대로 루머에 불과하다. 만일 그래도 개인정보 유출이 불안하다면 털린 내 정보 찾기 서비스를 사용하는 방법도 있다. 물론 이 방법도 유출 내역을 100% 확인할 수는 없다.

• 실제 딥페이크 성범죄 가해자들 중 일부를 수사에 넘겨 재판을 진행 중인 피해자 루마(필명)씨는 26일 오후 <오마이뉴스>에 " 계속 텔레그램 계정을 갈아엎으면서 흔적을 철저하게 지웠던 가해자 역시 잡혀서 재판받고 있지 않나. 대화 내용을 삭제해도 (텔레그램 대화를 나눈) 상대방의 기록으로 잡혀 발등을 찍힌 것"이라고 말했다.[31]

• 한겨레의 보도 중 "2023년 딥페이크 생성물의 53%가 한국인을 대상으로 이루어졌다"는 대목이 호도되어, 딥페이크 음란물의 53%가 한국에서 제작되거나, 한국인의 53%가 피해를 입었다는 오해가 퍼졌다. # # 오마이뉴스 기사 그러나 실제 기사에서 인용한 시큐리티히어로의 보고서는 100여 곳의 음란물 사이트를 조사한 결과 해당 사이트들에 있는 딥페이크 음란물 중 한국인을 활용해 만든 비율이 53%라고 나와 있을 뿐이며, 여기서 지칭하는 피해자들은 대체로 한국의 가수 및 배우, 즉 연예인들이었다.[32] 물론 이러한 통계가 본 사건의 시의성을 흐리지는 않으며, 보고서에서도 제도적 미비점의 보완을 강조하고 있다. SBS의 기사에서는 딥페이크 영상물 중 96%가 포르노 영상이었고 그 영상의 피해자 중 25%가 한국 연예인인 것으로 드러났다고 하며, 피해 유형으로는 영국 배우가 가장 많았고 다음으로 한국 K-POP 가수가 많았다고 한다. 즉 딥페이크 피해자 국적은 조사기관이나, 조사대상에 따라 달라질 수 있다.

• 8월 28일, 사건에 관련하여 '딥페이크 피해학교 지도'가 공개되었는데, 중학생 제작이라 화제가 되었다. 그러나 지도의 피해학교에 대한 좌표들은 이메일 등으로 받은 제보 등을 토대로 지도에 반영되고 텔레그램과 SNS 소셜미디어에서 수집한 정보에 의한 것으로서, 거짓 정보에 대한 필터링이나 정확성은 많이 떨어진다. 애초에 증거에 대한 최소한의 간접적 게시도 아닌 제보된 위치만 게시되기에 좌표에 대한 신빙성도 없는 상태이다. #

• 한 학교에서 딥페이크 관련으로 학생들을 대상으로 텔레그램을 사용하는지 안 하는지 설문조사를 부적절하게 하여 빈축을 사기도 했다.[33]

• 공교롭게도 MBC의 첫 보도로부터 일주일 뒤인 8월 26일 텔레그램의 CEO인 파벨 두로프가 프랑스에서 체포되었다. 파벨 두로프는 이전부터 익명성과 자유라는 이름 아래 텔레그램에서 강력범죄들까지 암암리에 허용했던 것은 물론 대화 내역 또한 각국 정부와 수사기관에도 공유하지 않으며 텔레그램이 범죄의 온상으로 악용되는 것과 관련해 악명이 높았는데, 사건 발생 시점과 맞물려 CEO가 체포됨에 따라 프랑스 검경과의 공조 또한 필요할 것으로 보는 시각이 있었고, 8월 29일 방송통신심의위원회에서 파벨 두로프를 수사 중인 프랑스 당국에 텔레그램 딥페이크 성범죄영상물 대응과 관련해 긴급 공조 요청을 보냈다고 밝혔다. # 경찰청은 프랑스 당국에 텔레그램 수사를 위해 국제형사사법공조를 요청했다. #

• 중국에서도 딥페이크 범죄가 발생하였던 사실이 베이징 인민검찰원에 의해 밝혀졌다. "옷 벗기는 데 300원"...중국도 '딥페이크 N번방' 기승

8. 관련 정보

8.1. 관련 문서

• 텔레그램
• 파벨 두로프[34]
• 그림 인공지능/논란 및 사건 사고
• 딥페이크

8.2. 관련 미디어

• 궁금한 이야기 Y - 699회
• PD수첩 - 1436회

8.3. 관련 청원

• 국민동의청원
• 텔레그램 딥페이크성착취물 제작 및 유포 사건 가해자들의 강력처벌 및 신상공개 요청에 관한 청원 (2024-08-30 ~ 2024-09-29)
• 딥페이크 및 성착취물 유포자 형량 강화 및 성착취물이나 디지털 성범죄에 관한 미디어물 유포하는 방에 참가한 방조자 처벌 요청에 관한 청원 (2024-08-29 ~ 2024-09-29)
• 무분별한 생성 AI 개발과 남용을 방지하고, 윤리적인 생성 AI 개발과 사용을 위한 규제에 관한 청원 (2024-09-13 ~ 2024-10-13)

8.4. 관련 사건

• 서울대학교 허위 음란물 제작 유포 사건 - 해당 사건과 가장 유사한 사건이다. 딥페이크로 제작된 허위 영상이 공유되어서 문제가 되었다.
• n번방 성착취물 제작 및 유포 사건 - 같은 텔레그램에서 일어난 사건이며 아동 청소년 피해자가 있다는 것이 공통점이다.
• 여성시대 남성 성착취물 공유 사건

9. 둘러보기