현행법은 인공지능의 투명성 확보를 위하여 인공지능사업자에게 생성형 인공지능 또는 인공지능시스템을 이용한 결과물에 대한 표시의무를 부과하고 있음.

그러나 생성형 인공지능 또는 인공지능시스템을 이용한 결과물에 대한 표시를 훼손하거나 위조ㆍ변조하는 행위에 대하여는 제재 규정이 없어 해당 결과물이 사람이 직접 창작하거나 실제로 존재하는 것처럼 유통될 수 있는 규제 공백이 존재함.

이에 생성형 인공지능 또는 인공지능시스템을 이용한 결과물에 대한 표시를 훼손ㆍ위조ㆍ변조하는 행위를 금지하고, 위반 시 3천만원 이하의 과태료를 부과하도록 함으로써 인공지능 투명성 확보 체계의 실효성을 강화하려는 것임(안 제31조제4항 및 제43조제1항제1호의2 신설).