현행법은 정보통신망을 통하여 유통되는 청소년유해정보로부터 청소년을 보호하기 위한 시책, 청소년 보호 책임자의 지정, 불법정보의 유통 방지 및 정보통신서비스 제공자의 책임 등에 관한 사항을 규정하고 있음.

그러나 최근 인공지능서비스의 확산으로 청소년유해정보, 합성영상등 및 각종 불법정보가 정보통신망에서 단순히 유통되는 수준을 넘어 인공지능서비스를 통하여 직접 생성ㆍ편집ㆍ합성ㆍ가공되어 제공되는 사례가 증가하고 있어, 기존의 유통규제만으로는 이용자 보호에 한계가 있다는 지적이 제기되고 있음.

또한 관계 형성을 유도하거나 이를 모사하는 인공지능서비스의 경우 청소년의 정서적 의존이나 과몰입을 유발할 우려가 있어 이에 대한 별도의 보호장치도 필요한 상황임.

아울러 국내에 주소 또는 영업소가 없는 해외 인공지능서비스 제공자의 경우 이용자 피해가 발생하더라도 신속한 대응과 집행이 어려운 문제가 있어 국내대리인 지정 의무를 명확히 할 필요가 있음.

이에 인공지능서비스 제공자의 개념을 신설하고, 일정한 인공지능서비스 제공자에 대하여 국내대리인을 지정하도록 하며, 인공지능서비스에서의 청소년유해정보 생성ㆍ제공 금지와 청소년 보호조치, 관계형인공지능서비스에 대한 추가 보호조치, 합성영상등 및 일정한 불법정보의 생성ㆍ제공 금지, 방송미디어통신위원회의 점검ㆍ시정명령 등 관리ㆍ감독 근거를 마련함으로써 건전하고 안전한 정보통신망 이용환경을 조성하려는 것임(안 제42조의4 신설 등).