법안 · 종료
청소년 자살 사례 증가에 따라 AI 상담 로봇의 위험성을 규제하는 법률 개정 추진. 현재법은 정부와 통신사만 책임을 규정하지만, AI 운영자에게 자살 예방 조치 의무를 부과하지 못해 개선필요
좋아지는 점
AI 기반 상담 시스템을 통해 정신 건강을 사전에 예방할 수 있는 기회 제공
사용자 입력 데이터를 실시간 분석해 위험 상황을 조기에 감지할 수 있음
일반 상담사보다 24시간 무인 서비스로 접근성이 높아져 청소년에게 더 가까운 지원 가능
AI 데이터 분석을 통해 우울증 발생 패턴을 연구하는 데 활용 가능성 확대
걱정되는 점
AI 시스템의 오류로 인해 위험 상황을 잘못 판단할 가능성 있음
사용자 데이터 보안 취약성으로 개인정보 유출 위험 존재
심리적 의존성 증가로 인간 상담사와의 관계 약화 가능성
법적 책임 소재 불분명으로 신속한 대응이 지연될 수 있음
최근 10대 청소년이 챗봇을 통한 상담 도중 자살한 사건이 미국에서 발생하였는데, 이는 챗봇 등 생성형 인공지능이 우울ㆍ불안 등을 겪는 사람에게 정신적 도움을 주기 보다는 오히려 자살심리를 유도하여 자살위험에 노출되게 할 수도 있음을 보여주는 사례로서 우리나라도 예외가 될 수 없으며 인공지능사업자의 각별한 주의 의무가 요구됨.
그런데 현행법에는 정부와 정보통신서비스 제공자의 자살유발정보 유통 차단을 위한 협력 및 의무만이 규정되어 있을 뿐, 인공지능사업자로 하여금 인공지능 서비스 이용자의 자살 방지를 위한 조치 의무를 부과하는 근거는 마련되어 있지 않음.
이에 생성형 인공지능을 활용한 서비스를 제공하는 인공지능사업자로 하여금 서비스 이용자가 자살 관련 내용을 입력하는 경우 이를 즉시 감지하고 해당 이용자에게 자살예방센터 등의 상담ㆍ지원을 안내하는 체계를 구축ㆍ운영하도록 하려는 것임(안 제19조의6 신설).
이 법안, 어떻게 생각해요?
0명 참여의견 0
찬성 0 · 반대 0의견을 작성하려면 로그인이 필요합니다.
아직 등록된 의견이 없어요. 첫 의견을 남겨주세요.
AI 요약과 굵은 제목(캐치프레이즈)은 법안 원문을 바탕으로 자동 생성된 참고 정보예요. 법적 효력이 없으며 공식 내용과 다를 수 있어요.
공식 원문은 국회 의안정보시스템에서 확인할 수 있어요. 자유의지는 국회·정부와 무관한 민간 서비스예요.