^{이노바저널 AI 생성 그래픽 디자인}

지난 11월 20일부터 21일까지 미국 샌프란시스코에서 열린 '국제 AI안전연구소 네트워크'(International Network of AI Safety Institutes) 출범식에서 대한민국 과학기술정보통신부(이하 과기정통부)가 핵심적인 역할을 맡았다. 이는 올해 5월 AI서울정상회의에서 발표된 '서울선언'의 이행으로, 글로벌 AI 안전 강화와 국제 협력을 위해 마련된 자리다.

AI안전 협력의 새로운 장 열려

이번 행사에는 미국, 한국, 영국, 일본, 싱가포르 등 10개국의 AI안전연구소와 기술 전문가들이 참여하여 AI 안전 연구, 테스트, 지침 마련 및 포용성 강화라는 네 가지 핵심 분야에서 협력 방안을 논의했다. 각국은 AI 안전 관련 연구를 공유하고, 고급 AI 시스템의 위험 평가 및 테스트에 대한 모범사례를 수립하는 데 뜻을 모았다.

특히 대한민국 대표단은 국내 연구 성과로 ▲딥페이크 탐지 기술 및 생성 억제 기술 ▲AI 위험 평가 및 검증 체계를 발표하며 주목을 받았다. 이 발표는 글로벌 AI 안전 연구 어젠다를 도출하는 중요한 계기가 되었다고 평가받았다.

네트워크 거버넌스에서 주요 역할 노리다

과기정통부는 대한민국이 올해 11월 말 개소 예정인 AI안전연구소를 중심으로 국제 네트워크에서 적극적인 역할을 수행하겠다는 의지를 밝혔다. 또한, AI서울정상회의에서 얻은 경험을 바탕으로 네트워크 거버넌스 운영에서도 주요 위치를 차지하려는 계획도 공개되었다.

송상훈 정보통신정책실장은 “서울선언의 핵심 규범과 가치가 이번 네트워크 출범을 통해 구체화되었다”며 “우리 정부는 AI 안전 기술과 규범 발전에 주도적인 역할을 지속하겠다”고 강조했다.

글로벌 AI 안전성, 새로운 기준을 향해

이번 네트워크는 AI 안전 과학 분야의 국제 공조를 촉진하기 위해 설립되었으며, 특히 고급 AI 시스템의 잠재적 위험을 식별하고 이를 완화하기 위한 연구와 협력에 중점을 둘 예정이다. AI 안전에 대한 국제적 논의와 연구가 가속화되는 가운데, 대한민국은 적극적인 정책 지원과 기술적 리더십을 통해 글로벌 AI 안전성 강화를 선도할 것으로 기대된다.