과학기술정보통신부는 인공지능안전연구소와 한국정보통신기술협회TTA와 함께 카카오의 AI 모델 ‘카나나 에센스 1.5’를 대상으로 국내 첫 AI 안전성 평가를 실시했다고 29일 밝혔다. 이번 평가는 메타의 라마3.1과 프랑스 미스트랄AI의 미스트랄 0.3을 비교 대상으로 삼아 진행되었으며, 폭력, 차별적 표현 등 일반적인 위험 요소부터 무기 제작, 해킹 등 고위험 시나리오까지 점검했다.
평가를 위한 안전성 벤치마크 데이터셋인 어슈어 AI는 한국어 기반 35개 위험 영역을 평가하도록 설계되었으며, 해외 연구기관과 공동 검증·활용을 위해 지난달 18일 공개되었다. 카카오는 인공지능안전연구소와 국내 산학연이 꾸린 ‘AI 안전 컨소시엄’에 참여하고 있다.
과기정통부는 이번 평가를 기반으로 ‘독자 AI 파운데이션 모델’ 프로젝트 1차 단계 등에도 안전성 검증을 적용할 방침이다. 또한 국제 AI안전연구소 네트워크와 국제표준화 반영을 추진해 글로벌 정합성을 제고할 계획이다.
김경만 과기정통부 AI정책실장은 “세계적으로 AI 안전에 대한 논의가 규제보다는 검증과 구현이 강조되는 상황에서 이번 평가는 국내 AI 모델의 안전성 경쟁력을 증명한 사례”라며 “국내 AI 모델이 글로벌 AI 안전성 리더십을 주도해 나가도록 적극 지원하겠다”고 말했다.
@Meerae AI 빅데이터 연구소 meerae.info@gmail.com