지난 5월 ‘인공지능(AI) 서울정상회의’에서 10개국 정상은 안전이 책임있는 인공지능 혁신을 위한 핵심요소임을 확인하고, 인공지능 안전연구소 설립과 안전한 인공지능에 대한 국제 협력을 강조했다. 윤석열 대통령도 “대한민국 인공지능 안전연구소 설립을 추진해 국제 인공지능 안전성 강화를 위한 관계망에 동참할 것”이라는 의지를 밝혔으며, 과기정통부는 그간 연구소 조직‧예산‧인력‧기능에 대한 면밀한 사전준비를 거쳐 인공지능 안전연구소를 출범하게 됐다.

인공지능 안전연구소는 인공지능의 기술적 한계, 인간의 인공지능 기술 오용, 인공지능 통제력 상실 등으로 발생하는 다양한 인공지능 위험에 체계적‧전문적으로 대응하기 위한 인공지능 안전연구 전담조직이다. 산‧학‧연 기관이 인공지능 안전분야 연구 협력과 정보 교류를 할 수 있는 대한민국 인공지능 안전연구 중심지이자, ‘국제 인공지능 안전연구소 관계망(네트워크)’ (10개국 참여, 11월 21일~)의 일원으로 안전한 인공지능을 위한 세계 연대의 책임있는 역할을 수행해 나갈 계획이다. 이를통해 인공지능 안전 분야의 경쟁력있는 기술‧인력을 육성하고, 과학적 연구데이터에 근거한 인공지능 안전 관련정책의 개발‧선진화를 추진한다.

개소식에는 류광준 과기정통부 과기혁신본부장, 염재호 국가 인공지능(AI)위원회 부위원장, 이경우 대통령실 인공지능(AI)·디지털 비서관 등 정부 주요인사와 오승필 KT 최고기술책인자(CTO), 오혜연 한국과학기술원(KAIST, 카이스트) 인공지능(AI) 연구원장, 이은주 서울대 인공지능(AI)신뢰성 연구센터장, 방승찬 한국전자통신연구원 원장을 비롯한 인공지능 분야 산∙학∙연 핵심관계자 40여명이 참석했다.

이날 국가인공지능(AI)위원회 국제 자문위원인 인공지능 분야 세계적 석학 요슈아 벤지오 교수는 축사를 통해 “서울선언에 따라 한국정부가 인공지능 안전연구소를 설립하게 된 것을 축하하며, 인공지능 안전연구소의 역할로 ①업계와 협업을 통한 위험 평가방법 연구‧발전, ②인공지능 안전성 요건 수립 지원, ③국제협력을 통한 인공지능 안전체계의 상호 조화가 중요하다”고 강조했다.

아울러, 미국 Elizabeth Kelly 인공지능(AI) 안전연구소 소장은 “대한민국이 인공지능 안전 증진을 위해 보여준 세계적 지도력과 지원에 깊이 감사하다”며, “한-미 인공지능(AI)안전연구소가 전세계 동료들과 함께 인공지능 위험을 줄이고 혜택을 극대화하며, 혁신을 촉진하기 위해 공통된 과학적 기준을 구축해 나가자”고 강조했다. 영국 Oliver Illot 인공지능(AI) 안전연구소 소장과 일본 아키코 무라카미 인공지능(AI) 안전연구소 소장도 “대한민국 인공지능 안전연구소 출범을 축하하며, 인공지능 기술을 안전하게 만들어 가기 위해 국경을 넘어선 협력을 확대해 나가자”고 전했다.

‘인공지능 안전연구소’ 초대소장으로 임명된 김명주 소장은 ‘연구소 이상 및 운영계획’ 발표를 통해 “인공지능 활용으로 발생할 수 있는 제반위험 평가와 이를 예방‧극소화하기 위한 정책‧기술을 개발‧보급하고, 국내‧외 연대를 강화해 나갈 것”이라며, “연구소는 규제기관의 성격이 아니라, 국내 인공지능 기업들이 국제 경쟁력을 확보하는데 장애가 되는 위험요소들을 최소화하도록 지원하는 협력기관으로 역할을 하겠다”고 강조했다.

이어진 ‘대한민국 인공지능(AI) 안전 연합체(컨소시엄)’ 협약식에서는 인공지능 분야 국내 대표 산‧학‧연 기관 총 24곳이 참여한 가운데, 인공지능 안전에 관한 정책연구, 평가, 연구개발의 상호협력을 위한 업무협약(MOU)을 체결했다. 인공지능 안전연구소와 연합체 참여기관이 함께 인공지능 안전 체계(프레임워크)(위험 식별‧평가‧완화) 연구‧개발‧실증, 인공지능 안전관련 국제규범 대응 등 정책연구, 인공지능 안전관련 기술 협력 등을 중점적으로 추진할 계획으로, 향후 연합체의 세부 연구주제와 운영방안을 구체화해 나갈 예정이다. 연합체 참여기관들도 인공지능 안전 연구와 관련된 전문성과 기여방안을 제시하며, 인공지능 안전연구소와 적극적으로 협력하겠다는 의지를 밝혔다.

유상임 과기정통부 장관은 “인공지능 안전은 지속가능한 인공지능 발전의 전제로 인공지능 분야에 종사하는 우리 모두가 함께 해결해 나가야할 가장 큰 도전과제이며, 특히, 지난 ‘영국 인공지능(AI)안전성 정상회의’, ‘인공지능(AI) 서울정상회의’ 이후, 불과 1년 만에 미국, 영국, 일본, 싱가포르, 캐나다 등 주요국이 모두 인공지능 안전연구소를 설립하고, 전례없이 기민하고 체계적인 국제 인공지능 안전 협력체계가 구축되고 있다.”고 밝히며, “우리도 인공지능 안전연구소를 중심으로 산‧학‧연 연구역량을 결집해 인공지능 안전의 기술‧정책적 역량을 조속히 확보하여, 대한민국 인공지능 산업 혁신을 촉진할 튼튼한 안전기반을 구축해 나가는 한편, 국제 인공지능 안전 연대의 주도적인 역할을 수행하여 아태지역을 대표하는 인공지능안전 연구중심지로 발전해 나갈 수 있도록 적극 지원하겠다.”고 강조했다.