인포그래픽=이노바저널 AI 이미지 생성

정부가 국내 인공지능(AI) 모델을 대상으로 한 첫 안전성 평가를 실시하고 그 결과를 공개했다. AI 기술 확산과 함께 발생할 수 있는 위험을 사전에 점검하고 안전한 활용 기반을 마련하기 위한 조치다.

과학기술정보통신부는 인공지능안전연구소, 한국정보통신기술협회와 함께 카카오의 AI 모델을 대상으로 안전성 평가를 진행했다고 밝혔다. 이번 평가는 AI 모델이 생성할 수 있는 부적절한 결과나 오남용 가능성을 점검하는 데 초점을 맞췄다.

평가에는 국내 연구진이 구축한 한국어 기반 안전성 평가 자료와 고위험 활용 시나리오 데이터가 활용됐다. 폭력이나 차별적 표현과 같은 일반적인 위험 요소뿐 아니라, 무기나 보안 분야 등 민감한 영역에서의 안전성도 함께 점검됐다.

그 결과 해당 모델은 비슷한 규모의 해외 AI 모델과 비교했을 때 전반적으로 높은 수준의 안전성을 확보한 것으로 나타났다. 정부는 이를 통해 국내 AI 기술이 국제적인 기준에 부합하는 안전성을 갖추고 있음을 확인했다고 설명했다.

정부는 이번 평가를 시작으로 향후 고성능 AI 모델에 대한 안전성 점검과 지원을 확대할 계획이다. 아울러 국내외 AI 기업과 협력을 강화해 평가 대상을 넓히고, 인공지능 안전 생태계 조성에 속도를 낼 방침이다.