딥페이크 성범죄 예방 토론회…"플랫폼 책임 강화해야

3일(화) 조은희 의원 '딥페이크 디지털성범죄 예방 토론회' 주최

인공지능 생성물 워터마크 의무화, 성착취물 삭제 등 플랫폼 책임 강화 필요

허위영상물을 실제 성착취물과 동일한 수준으로 처벌하도록 형량 높여야

위장수사를 성인 성착취물로 확대하고 딥페이크 예방 교육 실시할 것 제안

지자체가 디지털성범죄피해자지원센터 설치·운영해 피해자 원스톱 지원 필요

조은희 의원 "위장수사 대상 확대하고 지원센터 법적 근거 마련할 것“

정책 토론회' 참석자들이 기념촬영을 하고 있다.(사진=김진우 기자)

인공지능(AI) 기반 이미지 합성 기술인 딥페이크 디지털성범죄를 예방하기 위해

온라인 플랫폼의 책임을 강화하는 등 법·제도 개선이 시급하다는 지적이 나왔다.

3일(화) 국회의원회관 제8간담회실에서 국회 행정안전위원회 국민의힘 간사인

조은희 의원 주최로 열린 '딥페이크 디지털성범죄 예방과 대응책 마련을 위한

정책 토론회'에서다.

발제를 맡은 이수정 경기대 범죄심리학과 교수는

"다수의 해외 사례처럼 인터넷 플랫폼을 규제해 딥페이크 허위영상물을

예방할 필요가 있다"며 이같이 밝혔다.

미국은 지난해 10월 인공지능 생성물임을 인식할 수 있도록

워터마크(식별표시)를 의무화하는 내용의 행정명령을 발표했다.

유럽연합은 지난 2월 시행한 「디지털 서비스법(Digital Services Act)」에서

인공지능 생성 콘텐츠에 라벨을 부착하고,

딥페이크 탐지 방법 교육을 제공하도록 명시했다.

이를 위반할 경우 최대 6%의 과징금을 부과할 수 있다.

이 교수는 플랫폼 책임을 강화하는 방안으로

▲인공지능 워터마크를 의무화하고 이를 위반할 경우 즉시 삭제하도록 할 것

▲프로필 등 인물사진 캡처(갈무리) 차단 및 알림 기능을 제공하도록 할 것

▲자발적인 성착취물 삭제를 의무화하고 이를 위반할 경우 과징금 부과,

서비스 정지 등을 할 것

▲불법 콘텐츠 유통을 방치해 얻은 수익을 몰수할 것

▲성착취물 수사 협조를 의무화할 것을 제시했다.

이 교수는 허위영상물을 실제 성착취물과 동일한 수준으로

형량을 강화해야 한다고 강조했다.

「성폭력범죄의 처벌 등에 관한 특례법」 제14조의2에 따라

허위영상물 편집·합성·가공은 5년 이하의 징역 또는 5천만원 이하의

벌금, 허위영상물 유포는 5년 이하의 징역 또는 5천만원 이하의 벌금에 처한다.

허위영상물을 시청하거나 소지한 경우에는 처벌할 수 있는 조항이 없다.

그는 "허위영상물을 실제 성착취물처럼 형량을 강화하고,

다수 피해자가 있거나 재범인 경우에는 벌금형을 금지하는 등

법을 개정해야 한다"며

"허위영상물을 실제 성착취물과 동일하게 소지·구입·저장·시청한 경우에도

처벌하도록 해야 할 것"이라고 말했다.

이와 함께 ▲피해 발생 시 별도의 신청 없이도 국가에서 피해자 영상을 삭제할 것

▲아동·청소년 성착취물 등 미성년자 대상 디지털성범죄에만 허용되는

위장수사를 성인 성착취물로 확대할 것

▲학교 현장에서 딥페이크 예방 교육을 실시할 것 등을 제안했다.

박성혜 한국여성인권진흥원 디지털성범죄피해자지원센터(디성센터) 팀장은

"지방자치단체에 디성센터를 설치·운영할 수 있는

법적 근거를 마련해야 한다"고 강조했다.

디지털성범죄피해자지원센터는 2018년 4월 여성가족부

산하 한국여성인권진흥원 내 설립돼 피해자 365일 상담 서비스,

피해영상물 삭제 지원, 수사·법률·의료 지원 등을 제공하고 있다.

박 팀장은 "법적·제도적 접근만으로는 한계가 있다"며

"딥페이크 기술로 성적 영상물을 제작하는 행위가 명백한 성범죄임을 알리는

교육과 인식 개선도 필수적"이라고 덧붙였다.

정책 토론회'에서 인사말

토론회를 주최한 조은희 의원은 "디지털성범죄 위장수사 범위를

성인 성착취물로 확대하는 「성폭력범죄의 처벌 등에 관한 특례법」을

여야가 함께 발의했다"며

"디지털성범죄피해자지원센터는 법적 근거가 있어야

예산을 안정적으로 확보할 수 있다.

법 개정을 위해 최선을 다하겠다"고 말했다.(차복원기자)