현행법은 인공지능에 관한 기본적인 사항을 규정하고 있으나, 서비스 이용자의 권익을 보호하기 위한 구체적인 권리와 절차, 피해구제 방안 등에 관한 세부적인 규정이 미흡한 실정임.

인공지능기술이 급속히 발전하고 사회 전반에 확산됨에 따라 알고리즘의 불투명성, 학습데이터의 편향성 등으로 인해 이용자 피해가 발생할 것으로 예상되나, 피해 원인을 파악하거나 분쟁을 해결할 수 있는 제도적 장치가 부재하여 이용자들이 적절한 보호를 받지 못할 우려가 있음.

이에 고영향 인공지능에 대해서도 이용자의 설명요구권과 이용자 보호 업무에 대한 평가 제도를 별도 규정하고, 인공지능 분쟁조정위원회를 신설하여 인공지능 제품 또는 서비스 이용 시 발생할 수 있는 분쟁을 조기에 해결할 수 있도록 함으로써, 인공지능 제품 또는 서비스의 이용자를 보다 두텁게 보호하려는 것임(안 제34조의2, 제35조의2, 제36조의2부터 제36조의11까지 신설 등).