제안이유 최근 인공지능 기술의 급속한 발전에 따라 특정인의 얼굴, 신체, 음성 등을 실제와 구별하기 어려운 수준으로 합성한 이른바 ‘딥페이크’ 영상물이 정보통신망을 통해 광범위하게 유포되고 있으며, 이로 인한 성적 수치심 유발, 명예훼손 등의 피해가 심각한 사회적 문제로 대두되고 있음.

현행법상 불법정보의 유형에는 인공지능 기술을 활용한 합성영상물에 대한 명시적 규정이 없어, 딥페이크 합성물의 유통에 대한 플랫폼 사업자의 기술적 차단 의무 및 긴급 대응 의무의 적용에 법적 공백이 발생하고 있음.

이에 인공지능 합성영상등을 불법정보 유형에 명시적으로 편입시켜 플랫폼의 기술적ㆍ관리적 조치 의무가 딥페이크에도 적용되도록 하고, 피해자 신고 시 긴급 임시조치 의무를 강화하며, 해외 사업자의 국내대리인을 통한 이행 의무 범위를 확대함으로써, 딥페이크 피해에 대한 신속한 구제 및 실효적 규제 체계를 마련하려는 것임.

주요내용 가.

국내에 주소가 없는 해외 정보통신서비스 제공자가 지정한 국내대리인의 대리 범위에 긴급 임시조치 및 기술적ㆍ관리적 조치 의무 이행에 관한 사항을 포함하도록 함(안 제32조의5제1항제1호 및 제2호 신설).

나.

정보통신서비스 제공자가 불법정보 및 허위조작정보 유통에 대한 신고를 접수한 경우 긴급 임시조치를 하도록 의무를 부과하고, 긴급 임시조치에 관한 구체적 사항은 대통령령으로 정하도록 함(안 제44조의3제2항 신설).

다.

합성영상등으로서 특정인을 식별할 수 있는 형태로 성적 수치심을 유발하거나 타인의 명예를 훼손하는 내용의 정보를 불법정보의 유형에 추가하고, 방송미디어통신위원회의 심의 대상 불법정보에 포함시켜 해당 정보에 대한 처리 거부정지제한 명령의 근거를 마련함(안 제44조의7제1항제2호의3 신설 및 제44조의7제3항).