법안 설명
제안이유 최근 인공지능기술의 급속한 발전으로 딥페이크를 활용한 허위ㆍ과장 광고와 가짜 정보가 SNS 등 정보통신망을 통해 무분별하게 유통되고 있음.
특히 의사 등 전문가를 사칭하거나 체험기를 조작하여 소비자를 현혹하는 사례가 빈번하여 국민의 생명과 재산에 심각한 피해가 우려되는 상황임.
아울러, 실제와 구별이 어려운 인공지능 생성물의 특성으로 인해 아동ㆍ청소년 등 디지털 취약계층의 피해 또한 확대되고 있음.
그러나 현행법상 정보통신망을 통해 유통되는 인공지능 생성물에 대해 게시자의 명시적인 표시 의무가 없어 이용자가 해당 정보의 진위를 파악하기 어렵고, 불법 정보가 유통될 경우에도 심의 및 차단에 상당한 시일이 소요되어 신속한 피해 예방과 구제에 한계가 있음.
이에 정보통신망을 통해 유통되는 인공지능 생성물에 대해 표시 의무를 부과하여 이용자의 알 권리를 보장하고, 국민의 생명ㆍ재산에 명백한 피해가 우려되는 경우 관계 기관의 요청에 따라 신속하게 임시조치를 취할 수 있는 절차를 마련함으로써 건전한 정보통신망 환경을 조성하고 이용자 보호를 강화하려는 것임.
주요내용 가.
인공지능시스템을 이용하여 생성한 실제와 구분하기 어려운 가상의 음향ㆍ이미지 또는 영상 등의 정보(이하 “인공지능 생성물”이라 함)를 직접 제작ㆍ편집하여 제공하려는 자로 하여금 해당 사실을 이용자가 명확하게 인식할 수 있도록 고지 또는 표시(표시등)할 의무를 부과함(안 제43조의2제1항 신설).
나.
누구든지 인공지능 생성물의 유통 시 표시등을 훼손하거나 위조ㆍ변조하는 행위를 금지하고, 정보통신서비스 제공자로 하여금 자신이 운영ㆍ관리하는 서비스에서 표시등의 지원 및 훼손ㆍ위조ㆍ변조를 방지하기 위한 기술적ㆍ관리적 조치를 하도록 함(안 제43조의2제2항 및 제3항 신설).
나.
인공지능 생성물로서 표시 의무를 이행하지 아니하거나, 표시 등을 훼손ㆍ위조ㆍ변조하여 제공하는 정보를 정보통신망에서 유통이 금지되는 불법정보로 규정함(안 제44조의7제1항제5호의2 신설).
다.
관계 중앙행정기관의 장이 표시 의무를 위반한 인공지능 생성물로 인해 국민의 생명ㆍ재산에 대한 피해가 발생할 우려가 있어 삭제를 요청하는 경우 방송미디어통신위원회가 정보통신서비스 제공자에게 임시조치를 요청하고, 심의위원회의 심의를 거쳐 해당 정보의 처리를 거부ㆍ정지ㆍ제한하도록 명하도록 함(안 제44조의7제5항 신설).
AI 요약
요약
이 법안은 인공지능 생성물의 표시 의무를 부과하여 이용자의 알 권리를 보장하고, 국민의 생명ㆍ재산에 명백한 피해가 우려되는 경우 관계 기관의 요청에 따라 신속하게 임시조치를 취할 수 있는 절차를 마련함으로써 건전한 정보통신망 환경을 조성하고 이용자 보호를 강화하려는 것임.
장점
- • 인공지능 생성물의 표시 의무가 부과되어 이용자의 알 권리를 보장하여 국민의 생명ㆍ재산에 대한 피해를 예방할 수 있습니다.
- • 관계 기관의 요청에 따라 신속하게 임시조치를 취할 수 있는 절차를 마련함으로써 건전한 정보통신망 환경을 조성할 수 있습니다.
- • 인공지능 생성물의 표시 의무가 부과되어 정보통신서비스 제공자에게 책임감을 갖게 할 수 있습니다.
- • 국민의 생명ㆍ재산에 대한 피해를 예방하여 안전하고 건강한 정보통신망 환경을 조성할 수 있습니다.
우려되는 점
- • 인공지능 생성물의 표시 의무가 부과되어 과다한 행정 절차가 추가로 발생할 수 있습니다.
- • 관계 기관의 요청에 따라 신속하게 임시조치를 취할 경우 실제로는 문제가 없는 정보를 삭제ㆍ정지ㆍ제한하는 등의 문제가 발생할 수 있습니다.
- • 인공지능 생성물의 표시 의무가 부과되어 정보통신서비스 제공자에게 과다한 책임감을 갖게 할 수 있습니다.
- • 국민의 생명ㆍ재산에 대한 피해를 예방하기 위해 과다한 행정 절차가 추가로 발생할 수 있습니다.
* AI 생성 요약 / 법적 효력은 없으며 참고용 정보입니다.
최신 의견
아직 등록된 의견이 없습니다. 첫 의견을 남겨주세요.
의견을 작성하려면 로그인이 필요합니다.