딥페이크 삭제율↑! 서울시·방심위 협력 소식 공개
딥페이크 음란물 삭제 지원 업무협약
오세훈 서울특별시장과 류희림 방송통신심의위원장이 2023년 9월 28일에 서울시청에서 '딥페이크 음란물 영상 삭제지원' 업무협약을 체결하였습니다. 이번 협약의 주된 목표는 신종 성범죄로 부각된 딥페이크 음란물의 빠른 삭제 및 차단을 지원하기 위한 것입니다. 딥페이크 음란물 발견 시, 기존의 복잡한 절차를 간소화하여 24시간 이내에 해당 영상을 삭제할 수 있는 '핫라인'을 운영하고 있습니다. 이는 피해자를 보호하기 위한 강력한 조치로, 서울시는 이와 같은 수단뿐만 아니라 AI 기술을 활용한 모니터링 시스템도 구축할 예정입니다.
영상 삭제 절차 간소화
이 협약을 통해 서울시는 방심위에 보다 신속하게 영상 삭제 요청을 할 수 있게 되었습니다. 기존의 절차는 서울시 디지털성범죄 안심지원센터에서 방심위로 각종 증빙 자료를 제출해야 했습니다. 그러나 이제는 대량의 건수를 한 번에 처리할 수 있어 프로세스가 대폭 간소화됩니다. 이로 인해 딥페이크 영상물의 삭제 및 차단 요청을 보다 효율적으로 진행할 수 있습니다.
- 딥페이크 영상물의 신속한 삭제
- AI 기반 자동 신고 시스템 구축
- 전담 상담창구 개설 및 지원 강화
- 관계기관과의 협력 체계 구축
- 피해자 인식 개선을 위한 교육 필요
피해자 지원 시스템
| 상담 및 신고 | 법률 지원 | 모니터링 |
| 딥페이크 SOS 전담 상담창구 운영 | 피해자 법률 지원을 위한 시스템 구축 | AI 모니터링 시스템 도입 |
| 피해 신고 및 채증 방법 안내 | 서울디지털성범죄 안심지원센터 연결 | 24시간 피해 상황 모니터링 |
| 피해 지원관 2명 배치 | 신속한 법적 대응 체계 마련 | 문제 영상 자동 신고 |
특히, 서울시는 올 연말까지 피해 상황을 24시간 동안 모니터링하며 문제의 영상을 자동으로 신고하는 시스템을 구축할 계획입니다. 이 모니터링 시스템은 AI 기술을 활용하여 피해 영상물에 대한 신고 및 삭제 작업을 자동화하는 데 중점을 두고 있습니다. 서울시는 이러한 조치를 통해 피해자들이 더 이상 홀로 고통받지 않도록 지원할 계획입니다.
장기적인 예방과 교육
오세훈 시장은 이번 협약을 통해 "서울시는 2022년부터 서울디지털성범죄안심지원센터를 운영하며 피해자 보호 시스템을 구축해왔다"면서 이번 딥페이크 사건에 대한 조치를 시급히 취할 필요성을 강조했습니다. 그는 "딥페이크 영상물 제작 및 유포가 명백한 범죄행위라는 인식을 사회 전반에 확고히 심어야 한다"며 예방 교육과 인식 개선에 대한 중요성을 강조했습니다. 또한, 경찰과 교육청 등 관계기관과 긴밀히 협력할 것이라고 내비쳤습니다.
