현행법은 해외 정보통신서비스 제공자의 국내대리인의 업무 범위를 자료의 제출로 한정하고 있고, 인공지능시스템을 이용하여 생성된 정보에 대한 표시 의무를 규정하고 있지 않음.

그런데 최근 해외 정보통신서비스 제공자가 제공하는 인공지능 서비스는 환각현상(Hallucination)으로 인하여 부정확한 답변을 생성할 수 있어, 특히 법률ㆍ의료 등 전문분야에서 이용자 피해가 발생할 우려가 있음.

그러나 현행법상 국내대리인의 업무 범위에 이용자 피해 구제가 포함되지 않아 해외 사업자에 대한 책임 추궁이 어려움.

이에 국내대리인의 업무에 불만 처리 및 피해 구제를 위한 접수 및 결과 통보 업무를 추가하고, 인공지능시스템을 이용하여 정보를 생성한 경우 그 사실을 고지 또는 표시하도록 하며, 법률ㆍ의료 등 전문분야의 경우에는 전문가의 판단을 대체할 수 없다는 사실을 고지 또는 표시하도록 하려는 것임(안 제32조의5제1항제1호, 제43조의2 신설 등).