법안 · 종료
인공지능과의 대화 시 인식 의무 없어 위험성 존재. 장기간 대화 시 이용자가 인공지능을 사람으로 오인할 가능성 있음. 법은 사후 통보 의무화 및 시정명령을 통해 이용자 보호 시도.
좋아지는 점
인공지능 상호작용 사실을 명확히 고지함으로써 사용자 인식을 높일 수 있음
대화형 서비스의 투명성 향상으로 사용자 신뢰 구축 가능성 있음
법적 기준 마련로 향후 기술 발전과 안전한 생태계 조성 기여
사용자에게 인공지능 특성 교육의 기회 제공
걱정되는 점
예측 불가능한 사용자 반응으로 법적 분쟁 가능성 증가
기술 발전 속도보다 법 개정이 느린 경우 효과 미흡
사용자의 과도한 정서적 투자로 인공지능 의존성 심화 가능성
정책 실행 과정에서의 기술적 한계로 실질적 보호 효과 제한
현행법은 인공지능사업자가 생성형 인공지능 등을 이용한 제품ㆍ서비스를 제공하는 경우 이용자에게 인공지능 기반 운용 사실을 사전에 고지하도록 하고 있으며, 대화형 서비스의 경우 이용 전 안내 등으로 이를 갈음할 수 있도록 하고 있음.
그러나 이용자가 대화 도중 상대방이 인공지능임을 인식할 수 있도록 하는 의무는 없어, 이용자가 장시간 대화하거나 정서적으로 몰입하는 경우 인공지능을 실제 사람으로 오인할 우려가 있음.
이에 이용자와 대화하는 방식으로 상호작용하는 인공지능시스템을 이용한 제품ㆍ서비스를 제공하는 인공지능사업자가 이용자로 하여금 그 대화 중에도 인공지능과 상호작용하고 있다는 사실을 명확하게 인식할 수 있도록 고지하는 등 필요한 조치를 하도록 하고, 그 조치의 방법ㆍ주기 등은 대통령령으로 정하도록 하며, 해당 의무 위반을 사실조사 및 시정명령의 대상에 포함함으로써 대화형 인공지능 이용자의 알 권리를 보호하려는 것임(안 제31조제4항 신설 및 제40조제1항).
이 법안, 어떻게 생각해요?
0명 참여의견 0
찬성 0 · 반대 0의견을 작성하려면 로그인이 필요합니다.
아직 등록된 의견이 없어요. 첫 의견을 남겨주세요.
AI 요약과 굵은 제목(캐치프레이즈)은 법안 원문을 바탕으로 자동 생성된 참고 정보예요. 법적 효력이 없으며 공식 내용과 다를 수 있어요.
공식 원문은 국회 의안정보시스템에서 확인할 수 있어요. 자유의지는 국회·정부와 무관한 민간 서비스예요.