국민의힘 김상훈 의원이 딥페이크 성착취물 피해를 예방하고 AI 조작 허위·과장 광고를 근절하기 위한 「정보통신망법」 개정안을 대표 발의했다.

[사진=김상훈 의원]

최근 인공지능(AI) 기술이 빠르게 발전하면서 우리 삶의 많은 부분을 편리하게 하고 있다고 했습니다. 하지만 이와 함께 딥페이크(Deepfake) 기술을 악용한 성착취물 제작 및 유포 문제, 그리고 AI로 조작된 허위·과장 광고로 인한 소비자 피해 사례가 급증하고 있어 우려의 목소리가 높았다.

이미 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」과 「공직선거법」에서는 AI 생성물에 대한 'AI 생성 표시' 의무를 규정하며 AI 기술 오용에 대한 기본적인 규율을 마련했다고 했다. 하지만 정보통신망을 통해 유통되는 수많은 정보에 대한 근거 법률인 「정보통신망 이용촉진 및 정보보호 등에 관한 법률」(이하 정보통신망법)에는 온라인상 '정보를 제공하는 자'에게 AI 생성물 표시를 의무화하거나 불법 유통을 금지하는 내용이 미비한 상황이라고 했다.

이러한 법적 공백을 틈타 온라인, 특히 소셜 미디어(SNS) 등에서 딥페이크 성착취물이 유포되거나, AI로 조작된 영상 등을 이용해 제품 효과를 허위·과장하는 불법 광고가 기승을 부렸다.

실제로 방송통신심의위원회(방심위) 자료에 따르면, 지난해 X(옛 트위터), 인스타그램, 페이스북, 유튜브, 틱톡 등 5개 SNS에서 적발된 허위 불법 광고는 무려 59,021건에 달했으며, 이 중 식·의약품 관련 불법 광고가 7,773건에 달했다. 더 나아가 AI로 생성한 광고물이나 댓글을 마치 실제 사용 후기인 것처럼 게시하고, 정작 소비자의 솔직한 댓글은 막는 등 기만적인 행위도 보고되었다

.

이번 개정안의 핵심 내용은 

김상훈 의원은 "최근 생성형 AI 사용량이 폭증함에 따라 AI 조작 생성물 또한 증가할 것으로 예상되는 바 선제적인 대응책 마련이 필요하다"며, 이번 법 개정을 통해 "AI 조작 성범죄 및 사기 판매 행위를 근절하고, 허위 정보 및 가짜 뉴스의 확산도 방지할 수 있을 것으로 기대한다"고 밝혔다.

개정안이 국회를 통과하게 되면, 온라인 공간에서의 AI 기술 오용에 대한 규율이 한층 강화될 것으로 보인다. 이는 딥페이크 성범죄 피해를 줄이고, AI 조작 광고로부터 소비자를 보호하며, 인터넷상의 허위 정보 확산을 막는 중요한 발판이 될 것이라고 했다. 앞으로 온라인 정보 환경의 신뢰도를 높이고 더욱 안전한 디지털 환경을 조성하는 데 기여할 수 있기를 기대해 본다.