1. 불법합성 영상물 일명 '딥페이크' 음란영상 성범죄가 잇따르고 있다. 주로 학생들이 피해자인 경우가 많아서 더욱 안타깝다. 이러한 디지털 성범죄에 대한 대책은 뭔가?
현재는 마땅한 대응책이 없다고 본다. 많은 학교와 학부모들이 불안감을 느끼고 있지만, 뚜렷한 해결책은 찾아보기 어렵다.
딥페이크 가해자에 대한 신상을 공개하며 보복하자는 페이지도 등장했습니다.
2. 연예인･지인 등의 얼굴을 딥페이크 기술로 합성하는 허위음란물 범죄가 빠르게 증가하고 있으며, 딥페이크 이미지로 가짜 신분증을 만들거나 가짜 음성으로 전화하여 다른 사람을 사칭하는 신분 사기(identity fraud)도 발생하고 있다. 기술 발달과 함께 그 피해는 더욱 커질 것으로 예상된다.
우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에서 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다.
전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 검토해 볼 만하다”고 했다.
3. 인공지능으로 만든 가상 정보와 실제 사실을 구분하는 수단을 새롭게 마련하여 이용자의 혼란을 방지하고, 궁극적으로는 신뢰할 수 있는 인공지능 및 인터넷 이용 환경을 조성하고자 지난 2023년 12월 22일에 ｢정보통신망 이용촉진 및 정보보호 등에 관한 법률｣ 개정안(의안번호 2126048)이 발의되었다.
국회입법조사처에서는 이 법률안에 대한 입법영향분석 보고서를 냈다.
4. 입법 내용의 핵심은 2가지다. 인공지능 기술을 이용해 만든 정보임을 표시해야 한다는 것과 정보통신서비스제공자는 인공지능을 이용해 만든 것이라는 것을 표시하지 않으면 지체 없이 삭제해야 한다는 것이다.
○ (제43조의2) 인공지능으로 만든 가상 정보 중 대통령령으로 정하는 정보를 제공하려는 정보제공자는 그 정보가 인공지능 기술을 이용하여 만든 가상의 정보임을 표시하여야 함
※ 적법한 표시를 하지 아니한 정보제공자에게는 1천만 원 이하의 과태료를 부과함
○ (제44조의2제3항제3호) 정보제공자가 해당 표시 방법을 지키지 아니하고 인공지능으로 만든 가상 정보를 유통하는 경우 정보통신서비스제공자는 지체 없이 그 가상 정보를 삭제하여야 함
5. 법률안대로 시행되더라도 예상되는 문제점은 다양하다.
기술적 조작을 통해 가상 정보에서 표시를 제거하면 외관상으로는 마치 실제 사실처럼 인식되고 유통될 수 있기 때문에, 아이러니하게도 표시 제도가 가상 정보에 진실성을 부여하는 결과를 초래하는 문제가 발생한다.
본 법률안은 인공지능으로 만든 정보임을 표시하지 않는 것만 처벌하고, 실제 사실에 인공지능으로 만든 가상 정보라는 표시를 붙이는 ‘거짓 표시’에 대한 대응이 마련되어 있지 않아서 진실에 대한 조작･부정을 방지하지 못하는 문제가 있음
- 참고로, 농수산물의 원산지 표시를 의무화한 ｢농수산물의 원산지 표시 등에 관한 법률｣ 등 일부 법률에서는 적법한 표시 의무를 부과함과 동시에 거짓 표시를 금지하고 처벌하는 규정도 함께 포함하고 있음
6. 인공지능으로 만든 가상 정보임을 표시하지 아니한 정보제공자에게는 1천만 원 이하의 과태료가 부과되는데, 이를 위해 정부가 인터넷 게시물을 점검해야 하는 행정비용이 발생함
기업 스스로 적합한 표시 방식을 개발하여 적용할 수 있음에도 불구하고 대통령령으로 표시 방법을 결정함으로써 기업의 경영 자율성을 침해하는 결과를 초래할 수 있음
7. 이해 관계자 의견은 아래와 같다.
8. 인공지능 기술은 참으로 편리하지만, 예상치 못한 문제점도 많다. 법률만으로 해결하기에는 부족한 점이 있는 것 같다.
사회 구성원 모두가 지혜를 모아야 할 때이다.