인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안
법안 설명
상단 캐치프레이즈는 AI가 법안 내용을 토대로 자동 생성한 문구로, 법안의 공식 제목·내용과 다를 수 있습니다. 정확한 내용은 아래 법안 설명을 참고하세요.
현행법은 인공지능의 신뢰 기반 조성을 위한 정부의 시책 마련 의무와 고영향 인공지능에 관한 인공지능사업자의 책무 등을 규정하고 있음.
그러나 최근 사람의 개별적인 지시 없이 스스로 계획ㆍ추론하여 외부 시스템 또는 도구를 활용하여 여러 단계의 임무를 자율적으로 수행하는 인공지능시스템(이른바 “인공지능 에이전트”)이 일상생활과 산업 전반에 확산되면서, 위임 권한을 벗어난 작동, 외부 시스템 연계로 인한 예측하지 못한 위험 등이 동반되고 있으나 이에 대응하는 인공지능사업자의 의무에 관한 규정이 없는 한편, 모든 국민이 인공지능을 윤리적이고 책임 있게 활용할 수 있는 역량 함양을 위한 정부의 시책 또한 명시되어 있지 아니함.
이에 인공지능 신뢰 기반 조성을 위한 시책에 모든 국민이 인공지능을 윤리적이고 책임 있게 활용할 수 있는 역량 함양을 위한 교육ㆍ홍보 및 지원을 추가하고, 「디지털포용법」 제14조에 따른 디지털역량 함양 활동과 연계되도록 하려는 것임.
또한 인공지능사업자가 인공지능 에이전트를 개발 또는 제공하는 경우 권한 위임의 범위와 한계의 사전 설정, 외부 시스템ㆍ도구 연계로 인한 위험의 평가 및 관리, 권한을 벗어난 작동 방지를 위한 사람의 관리ㆍ감독 및 기술적 조치 등을 이행하도록 하고, 정부가 이를 위하여 컨설팅ㆍ자문 등 필요한 지원을 할 수 있도록 함으로써 인공지능 에이전트의 안전한 발전을 도모하려는 것임(안 제29조 및 제32조의2 신설).
AI 요약
요약
이 법안은 인공지능(AI)의 신뢰 기반을 구축하기 위해 정부의 필수적 관리 기준과 AI 개발자의 책임을 규정한다. 그러나 현재 AI 에이전트의 외부 시스템 연계 위험 평가 및 위임 범위 관리 규정이 부족해 예측 불가능한 위험이 남는다. 또한 디지털 역량 교육과의 연계를 의무화하지만, 교육 프로그램의 구체적 실행 방안이 미흡하다.
장점
- • 인공지능 개발사에게 위험 평가 및 관리 시스템 구축을 촉진해 안전성을 강화한다
- • 정부의 컨설팅 지원으로 기술적 어려움을 겪는 기업에 대한 지원이 확대된다
- • 일반 국민의 AI 윤리 이해를 높이는 교육 프로그램 개발을 장려한다
- • AI 에이전트의 자율성과 책임성을 균형 있게 조절하는 법적 기준을 마련한다
우려되는 점
- • 외부 시스템 연계 시 발생할 수 있는 예측 불가능한 위험에 대한 평가 체계가 부재하다
- • 작은 기업들이 복잡한 기술적 책임을 관리하기 어려운 구조이다
- • 정부 지원에도 불구하고 기술적 구현에 어려움을 겪어 규정 준수가 느슨해질 가능성 있다
- • AI 활용에 대한 사회적 합의가 부족해 윤리적 한계를 초월하는 사용이 발생할 위험이 있다
* AI 생성 요약 / 법적 효력은 없으며 참고용 정보입니다.
최신 의견
아직 등록된 의견이 없습니다. 첫 의견을 남겨주세요.
의견을 작성하려면 로그인이 필요합니다.