법안 · 종료
이 법안은 인공지능(AI)의 신뢰 기반을 구축하기 위해 정부의 필수적 관리 기준과 AI 개발자의 책임을 규정한다. 그러나 현재 AI 에이전트의 외부 시스템 연계 위험 평가 및 위임 범위 관리 규정이 부족해 예측 불가능한 위험이 남는다. 또한 디지털 역량 교육과의 연계를 의무화하지만, 교육 프로그램의 구체적 실행 방안이 미흡하다.
좋아지는 점
인공지능 개발사에게 위험 평가 및 관리 시스템 구축을 촉진해 안전성을 강화한다
정부의 컨설팅 지원으로 기술적 어려움을 겪는 기업에 대한 지원이 확대된다
일반 국민의 AI 윤리 이해를 높이는 교육 프로그램 개발을 장려한다
AI 에이전트의 자율성과 책임성을 균형 있게 조절하는 법적 기준을 마련한다
걱정되는 점
외부 시스템 연계 시 발생할 수 있는 예측 불가능한 위험에 대한 평가 체계가 부재하다
작은 기업들이 복잡한 기술적 책임을 관리하기 어려운 구조이다
정부 지원에도 불구하고 기술적 구현에 어려움을 겪어 규정 준수가 느슨해질 가능성 있다
AI 활용에 대한 사회적 합의가 부족해 윤리적 한계를 초월하는 사용이 발생할 위험이 있다
현행법은 인공지능의 신뢰 기반 조성을 위한 정부의 시책 마련 의무와 고영향 인공지능에 관한 인공지능사업자의 책무 등을 규정하고 있음.
그러나 최근 사람의 개별적인 지시 없이 스스로 계획ㆍ추론하여 외부 시스템 또는 도구를 활용하여 여러 단계의 임무를 자율적으로 수행하는 인공지능시스템(이른바 “인공지능 에이전트”)이 일상생활과 산업 전반에 확산되면서, 위임 권한을 벗어난 작동, 외부 시스템 연계로 인한 예측하지 못한 위험 등이 동반되고 있으나 이에 대응하는 인공지능사업자의 의무에 관한 규정이 없는 한편, 모든 국민이 인공지능을 윤리적이고 책임 있게 활용할 수 있는 역량 함양을 위한 정부의 시책 또한 명시되어 있지 아니함.
이에 인공지능 신뢰 기반 조성을 위한 시책에 모든 국민이 인공지능을 윤리적이고 책임 있게 활용할 수 있는 역량 함양을 위한 교육ㆍ홍보 및 지원을 추가하고, 「디지털포용법」 제14조에 따른 디지털역량 함양 활동과 연계되도록 하려는 것임.
또한 인공지능사업자가 인공지능 에이전트를 개발 또는 제공하는 경우 권한 위임의 범위와 한계의 사전 설정, 외부 시스템ㆍ도구 연계로 인한 위험의 평가 및 관리, 권한을 벗어난 작동 방지를 위한 사람의 관리ㆍ감독 및 기술적 조치 등을 이행하도록 하고, 정부가 이를 위하여 컨설팅ㆍ자문 등 필요한 지원을 할 수 있도록 함으로써 인공지능 에이전트의 안전한 발전을 도모하려는 것임(안 제29조 및 제32조의2 신설).
이 법안, 어떻게 생각해요?
0명 참여의견 0
찬성 0 · 반대 0의견을 작성하려면 로그인이 필요합니다.
아직 등록된 의견이 없어요. 첫 의견을 남겨주세요.
AI 요약과 굵은 제목(캐치프레이즈)은 법안 원문을 바탕으로 자동 생성된 참고 정보예요. 법적 효력이 없으며 공식 내용과 다를 수 있어요.
공식 원문은 국회 의안정보시스템에서 확인할 수 있어요. 자유의지는 국회·정부와 무관한 민간 서비스예요.