제안이유
인공지능은 모든 산업 뿐만 아니라 사회를 바꾸는 기반 기술로 최근 인공지능의 성능이 비약적으로 발전함에 따라 우리 사회 각 분야에서 인공지능의 활용이 급속히 확대되고 있음. 특히, 생성형 인공지능의 등장에 따라 인공지능이 가져올 잠재적 혜택과 함께 위험성에 대한 우려가 전 세계적으로 주목받고 있음.
이에 미국, 영국, 유럽연합 등 주요국에서는 인공지능 산업의 발전을 위해 대규모 투자, 인프라 구축 등 지원체계를 구축하는 한편, 인공지능의 안전성과 신뢰성을 확보하기 위하여 각 국의 경제ㆍ사회적 환경을 고려한 규율 체계를 마련하는 등 글로벌 주도권 경쟁이 본격화되고 있음.
우리나라에서도 인공지능을 단순한 기술이 아니라 국가의 경제 성장과 국민의 삶의 질을 좌우하는 핵심 동력으로 보며, 인공지능 발전과 신뢰 기반 조성을 위한 규율 체계가 필요하다는 목소리가 대두되고 있음.
이러한 상황을 종합적으로 고려하여 우리나라 인공지능 산업의 발전을 지원하기 위해 국내 산업과 사회ㆍ문화적 맥락을 고려하여 인공지능 산업의 혁신을 저해하지 않으면서도 인공지능의 부작용과 위험을 최소화하기 위한 법적 기반 마련이 필요함.
이에 본 법률안은 인공지능의 건전한 발전을 지원하고 인공지능사회의 신뢰 기반 조성에 필요한 기본적인 사항을 규정함으로써 국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상과 국가경쟁력을 강화하는데 이바지할 수 있는 대한민국 인공지능의 새로운 기준을 마련하고자 함.
주요내용
가. 인공지능의 건전한 발전을 지원하고 인공지능사회의 신뢰 기반 조성에 필요한 기본적인 사항을 규정함으로써 국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상과 국가경쟁력을 강화하는 데 이바지함을 목적으로 함(안 제1조).
나. 인공지능, 고위험영역 인공지능, 생성형 인공지능, 인공지능윤리 및 인공지능사업자 등에 대하여 정의함(안 제2조).
다. 과학기술정보통신부장관이 3년마다 인공지능 기본계획을 수립하도록 하고, 기본계획에 인공지능 정책 방향, 신뢰 기반 조성, 산업진흥 등에 관한 사항이 포함되도록 함(안 제6조).
라. 인공지능사회의 구현, 인공지능산업의 신뢰 확보 등을 심의ㆍ의결하기 위해 대통령 소속 국가인공지능위원회를 두고, 기본계획의 수립 및 그 추진상황의 점검ㆍ분석, 인공지능 분야의 연구개발 전략 수립에 관한 사항 등을 심의ㆍ의결하도록 함(안 제7조 및 제8조).
마. 과학기술정보통신부장관이 인공지능사회 구현, 인공지능산업 진흥 및 경쟁력 강화에 필요한 업무를 수행하기 위한 국가인공지능센터를 지정하고, 인공지능사회 신뢰 기반 유지를 위한 전문기관으로 인공지능안전연구소를 운영할 수 있도록 함(안 제11조 및 제12조).
바. 인공지능기술 및 알고리즘의 개발 활성화와 안전하고 편리한 이용을 위하여 국내ㆍ외 동향 및 관련 제도의 조사, 기술의 실용화, 연구개발 등의 사업을 지원하고, 인공지능 신뢰성 등과 관련된 표준 제정 등의 사업을 추진할 수 있음(안 제13조 및 제14조).
사. 과학기술정보통신부장관으로 하여금 인공지능의 개발ㆍ활용 등에 사용되는 데이터의 생산ㆍ수집ㆍ관리 및 유통ㆍ활용 등을 촉진하기 위하여 필요한 시책을 추진하도록 함(안 제15조).
아. 과학기술정보통신부장관이 인공지능기술의 개발 및 인공지능산업의 진흥을 위하여 관련 전문인력을 양성하고, 해외 전문인력의 확보를 위한 각종 시책을 추진할 수 있도록 함(안 제20조).
자. 인공지능산업의 진흥과 인공지능 개발ㆍ활용의 경쟁력 강화를 위하여 인공지능 및 인공지능기술의 연구ㆍ개발을 수행하는 기업, 기관이나 단체의 기능적ㆍ물리적ㆍ지역적 집적화를 추진할 수 있도록 함(안 제22조).
차. 인공지능사업자 및 이용자가 인공지능의 개발ㆍ이용과정에서 지켜야 하는 인공지능 윤리원칙을 제정ㆍ공표하고, 윤리원칙의 실현을 위한 실천방안을 수립하도록 함(안 제23조).
카. 과학기술정보통신부장관으로 하여금 법인ㆍ기관ㆍ단체 등이 인공지능 신뢰성 확보를 위해 자율적으로 추진하는 검증ㆍ인증 활동을 지원하기 위한 사업을 추진할 수 있도록 함(안 제25조).
타. 고위험영역 인공지능 제품 또는 서비스 제공시 사전고지를 의무화하고, 과학기술정보통신부장관에게 고위험영역 인공지능 해당여부를 확인 요청할 수 있도록 함(안 제26조 및 제27조).
파. 고위험영역 인공지능 관련 사업자가 인공지능의 신뢰성과 안전성을 확보하기 위한 조치를 취하도록 함(안 제28조).
하. 생성형 인공지능 사업자가 생성형 인공지능 운용 사실 고지 및 표시를 하도록 하고, 일정 성능 이상의 생성형 인공지능의 경우 안전을 확보하기 위한 조치를 이행하도록 함(안 제29조 및 제30조).