최근 인공지능 기술이 급격하게 발전하고 인공지능 기술의 활용이 활발해짐에 따라 정보통신망을 통하여 인공지능 기술을 이용하여 만든 실제와 구분하기 어려운 가상의 음향ㆍ이미지 또는 영상 등의 정보가 빈번하게 유통되고 있음.

그런데 현행법은 해당 정보에 관한 규제조항을 두고 있지 않아 정보통신서비스 이용자가 어떠한 정보가 인공지능 기술을 이용하여 만들어진 가상의 정보인지 판단하기 어려운 문제가 발생한다는 지적이 제기됨.

이에 인공지능 기술을 이용하여 만든 가상의 정보 중 대통령령으로 정하는 정보를 제공하려는 자에게 그 정보가 인공지능 기술을 이용하여 만든 가상의 정보임을 표시하여야 하는 의무를 부과하고, 해당 표시방법을 지키지 아니하고 유통되는 경우 정보통신서비스 제공자가 지체 없이 그 정보를 삭제하도록 하여 인공지능 기술을 이용한 가상의 정보에 따른 이용자의 혼란을 방지하려는 것임(안 제43조의2 신설, 제44조의2 및 법률 제20069호 정보통신망 이용촉진 및 정보보호 등에 관한 법률 제76조).