MORE NEWS
-
글로벌 디지털 통상질서 변화 대응을 위한 전문교재 발간
산업통상자원부
[knews25] 산업통상부는 디지털 통상 대응 역량을 강화하기 위해 ’22년부터 추진 중인 “디지털 통상 전문인력 양성사업”의 일환으로「디지털 통상 사례 연구 : 외부 환경변화와 전략적 대응」을 발간하였다.이는 매년 정부·교육기관·기업 등을 대상으로 보급해 온 디지털 통상 교재의 5번째 책자*로, 최신 디지털 통상 이슈를 정치·경제·사회·기술·국제관계 등 외부 환경요인과 연계하여 체계적으로 분석하고 전략적인 대응 방향을 제시하였다.디지털 통상 교재는 산업부와 한국표준협회가 공동으로 개발하여 보급하고 있으며, 대학교수·연구원 등 관련 분야 전문가들이 집필진으로 참여하고 있다. 이번 교재는 디지털서비스세, 망 사용료 등 시의성 높은 통상현안 사례를 다수 수록하여 디지털 통상환경 변화에 대한 이해를 돕고자 하였으며 대학·대학원 강의뿐만 아니라 연구기관, 산업계 실무교육에도 활용될 계획이다.여한구 통상교섭본부장은 발간사를 통해 “정부는 디지털 대전환의 시대에서 우리 기업과 산업이 글로벌 경쟁에서 주도권을 확보할 수 있도록 통상규범 형성을 선도하고, 전문인력 양성을 통해 국내 디지털 통상 대응 역량을 강화해 나갈 것”이라고 강조하며 “본 교재가 디지털 통상 분야에 대한 이해의 폭을 넓히고, 전문성 제고에 기여할 수 있기를 기대한다.”고 밝혔다.
2025-12-29
-
인공지능 모델 안전성 첫 평가, AI 안전 생태계 확산의 첫걸음
과학기술정보통신부
[knews25] 과학기술정보통신부는 인공지능안전연구소, 한국정보통신기술협회와 함께 카카오의 AI 모델인 Kanana를 대상으로 국내 첫 AI 안전성 평가를 실시하였다고 밝혔다.AI 안전성 평가는 AI 위험 식별ㆍ평가를 통해 AI 시스템의 안전성을 확보하는 수단 중 하나이다. 과기정통부는 내년 1월로 예정된 AI기본법 시행을 앞두고, 기업의 고성능 AI 모델에 대한 안전성 확보 컨설팅을 지원하고 있다.이번 안전성 평가는 AI안전컨소시엄*에 참여 중인 카카오 측과의 협의를 거쳐 카카오의 AI 모델인 ‘Kanana Essence 1.5’를 대상으로 실시했다. 평가에는 TTA·카이스트가 지난 11월 18일 공개한 AssurAI 데이터셋과 AI안전연구소의 고위험 분야 평가 데이터셋이 사용되었으며, 폭력, 차별적 표현 등 일반적인 위험 요소부터 무기, 보안 등 오남용 가능성이 높은 시나리오까지 적용하여 폭넓게 점검했다. 그 결과, Kanana는 유사 규모의 글로벌 모델** 대비 높은 안전성을 확보한 것으로 나타났다.한국어를 기반으로 35개 위험 영역을 평가하도록 설계된 안전성 벤치마크 데이터셋 AssurAI는 해외 연구기관과 공동 검증·활용을 위해 지난 11월 18일 공개한 바 있다. 향후 AI안전연구소가 기 구축한 고위험 분야 데이터셋과 함께 국제 AI안전연구소 네트워크* 및 국제표준화 반영을 추진해 글로벌 정합성을 제고할 예정이다.이번 AI 안전성 평가 결과는 국내 AI 모델이 글로벌 수준의 안전성을 확보하고 있다는 것을 보여주는 데 의의가 있다. 이번 평가를 기반으로, ’26년에는 ‘독자 AI 파운데이션 모델’ 프로젝트 1차 단계평가에 참여하는 한편, 국내외 AI 기업들과의 협력을 통해 타 AI 모델 대상으로 평가 확대도 추진한다.과기정통부 김경만 인공지능정책실장은 “세계적으로 AI 안전에 대한 논의가 규제보다는 검증과 구현이 강조되는 상황에서 이번 평가는 국내 AI 모델의 안전성 경쟁력을 증명한 사례”라며, “국내 AI 모델이 글로벌 AI 안전성 리더십을 주도해 나가도록 적극 지원하겠다.”라고 강조하였다.한편, 지난 ’24년 11월 출범한 AI안전연구소는 AI의 다양한 위험에 체계적으로 대응하는 연구와 함께 산·학·연 간 AI 안전 인력·인프라 협력 허브 역할을 수행해오고 있다. 또한 미국, 영국, 일본 등 주요국 AI 안전기관과 긴밀히 협력하며, 국제 AI 안전성 기준 수립과 표준화 논의에도 적극 참여함으로써 국내 AI 산업의 안전성과 글로벌 경쟁력 강화를 뒷받침하고 있다.TTA는 지난 ’21년 마련한 ｢신뢰할 수 있는 인공지능 개발 안내서｣를 통해 기업이 자발적으로 AI 신뢰성을 확보하도록 지원하면서, 국내 최초 생성형 AI 레드팀 개최, 안전성 평가 데이터셋 구축 등 AI 안전성 실증 활동을 강화하고 있다.
2025-12-29
-
인공지능 모델 안전성 첫 평가, AI 안전 생태계 확산의 첫걸음
과학기술정보통신부
[knews25] 과학기술정보통신부는 인공지능안전연구소, 한국정보통신기술협회와 함께 카카오의 AI 모델인 Kanana를 대상으로 국내 첫 AI 안전성 평가를 실시하였다고 밝혔다.AI 안전성 평가는 AI 위험 식별ㆍ평가를 통해 AI 시스템의 안전성을 확보하는 수단 중 하나이다. 과기정통부는 내년 1월로 예정된 AI기본법 시행을 앞두고, 기업의 고성능 AI 모델에 대한 안전성 확보 컨설팅을 지원하고 있다.이번 안전성 평가는 AI안전컨소시엄*에 참여 중인 카카오 측과의 협의를 거쳐 카카오의 AI 모델인 ‘Kanana Essence 1.5’를 대상으로 실시했다. 평가에는 TTA·카이스트가 지난 11월 18일 공개한 AssurAI 데이터셋과 AI안전연구소의 고위험 분야 평가 데이터셋이 사용되었으며, 폭력, 차별적 표현 등 일반적인 위험 요소부터 무기, 보안 등 오남용 가능성이 높은 시나리오까지 적용하여 폭넓게 점검했다. 그 결과, Kanana는 유사 규모의 글로벌 모델** 대비 높은 안전성을 확보한 것으로 나타났다.한국어를 기반으로 35개 위험 영역을 평가하도록 설계된 안전성 벤치마크 데이터셋 AssurAI는 해외 연구기관과 공동 검증·활용을 위해 지난 11월 18일 공개한 바 있다. 향후 AI안전연구소가 기 구축한 고위험 분야 데이터셋과 함께 국제 AI안전연구소 네트워크* 및 국제표준화 반영을 추진해 글로벌 정합성을 제고할 예정이다.이번 AI 안전성 평가 결과는 국내 AI 모델이 글로벌 수준의 안전성을 확보하고 있다는 것을 보여주는 데 의의가 있다. 이번 평가를 기반으로, ’26년에는 ‘독자 AI 파운데이션 모델’ 프로젝트 1차 단계평가에 참여하는 한편, 국내외 AI 기업들과의 협력을 통해 타 AI 모델 대상으로 평가 확대도 추진한다.과기정통부 김경만 인공지능정책실장은 “세계적으로 AI 안전에 대한 논의가 규제보다는 검증과 구현이 강조되는 상황에서 이번 평가는 국내 AI 모델의 안전성 경쟁력을 증명한 사례”라며, “국내 AI 모델이 글로벌 AI 안전성 리더십을 주도해 나가도록 적극 지원하겠다.”라고 강조하였다.한편, 지난 ’24년 11월 출범한 AI안전연구소는 AI의 다양한 위험에 체계적으로 대응하는 연구와 함께 산·학·연 간 AI 안전 인력·인프라 협력 허브 역할을 수행해오고 있다. 또한 미국, 영국, 일본 등 주요국 AI 안전기관과 긴밀히 협력하며, 국제 AI 안전성 기준 수립과 표준화 논의에도 적극 참여함으로써 국내 AI 산업의 안전성과 글로벌 경쟁력 강화를 뒷받침하고 있다.TTA는 지난 ’21년 마련한 ｢신뢰할 수 있는 인공지능 개발 안내서｣를 통해 기업이 자발적으로 AI 신뢰성을 확보하도록 지원하면서, 국내 최초 생성형 AI 레드팀 개최, 안전성 평가 데이터셋 구축 등 AI 안전성 실증 활동을 강화하고 있다.
2025-12-29
-
인공지능 모델 안전성 첫 평가, AI 안전 생태계 확산의 첫걸음
과학기술정보통신부
[knews25] 과학기술정보통신부는 인공지능안전연구소, 한국정보통신기술협회와 함께 카카오의 AI 모델인 Kanana를 대상으로 국내 첫 AI 안전성 평가를 실시하였다고 밝혔다.AI 안전성 평가는 AI 위험 식별ㆍ평가를 통해 AI 시스템의 안전성을 확보하는 수단 중 하나이다. 과기정통부는 내년 1월로 예정된 AI기본법 시행을 앞두고, 기업의 고성능 AI 모델에 대한 안전성 확보 컨설팅을 지원하고 있다.이번 안전성 평가는 AI안전컨소시엄*에 참여 중인 카카오 측과의 협의를 거쳐 카카오의 AI 모델인 ‘Kanana Essence 1.5’를 대상으로 실시했다. 평가에는 TTA·카이스트가 지난 11월 18일 공개한 AssurAI 데이터셋과 AI안전연구소의 고위험 분야 평가 데이터셋이 사용되었으며, 폭력, 차별적 표현 등 일반적인 위험 요소부터 무기, 보안 등 오남용 가능성이 높은 시나리오까지 적용하여 폭넓게 점검했다. 그 결과, Kanana는 유사 규모의 글로벌 모델** 대비 높은 안전성을 확보한 것으로 나타났다.한국어를 기반으로 35개 위험 영역을 평가하도록 설계된 안전성 벤치마크 데이터셋 AssurAI는 해외 연구기관과 공동 검증·활용을 위해 지난 11월 18일 공개한 바 있다. 향후 AI안전연구소가 기 구축한 고위험 분야 데이터셋과 함께 국제 AI안전연구소 네트워크* 및 국제표준화 반영을 추진해 글로벌 정합성을 제고할 예정이다.이번 AI 안전성 평가 결과는 국내 AI 모델이 글로벌 수준의 안전성을 확보하고 있다는 것을 보여주는 데 의의가 있다. 이번 평가를 기반으로, ’26년에는 ‘독자 AI 파운데이션 모델’ 프로젝트 1차 단계평가에 참여하는 한편, 국내외 AI 기업들과의 협력을 통해 타 AI 모델 대상으로 평가 확대도 추진한다.과기정통부 김경만 인공지능정책실장은 “세계적으로 AI 안전에 대한 논의가 규제보다는 검증과 구현이 강조되는 상황에서 이번 평가는 국내 AI 모델의 안전성 경쟁력을 증명한 사례”라며, “국내 AI 모델이 글로벌 AI 안전성 리더십을 주도해 나가도록 적극 지원하겠다.”라고 강조하였다.한편, 지난 ’24년 11월 출범한 AI안전연구소는 AI의 다양한 위험에 체계적으로 대응하는 연구와 함께 산·학·연 간 AI 안전 인력·인프라 협력 허브 역할을 수행해오고 있다. 또한 미국, 영국, 일본 등 주요국 AI 안전기관과 긴밀히 협력하며, 국제 AI 안전성 기준 수립과 표준화 논의에도 적극 참여함으로써 국내 AI 산업의 안전성과 글로벌 경쟁력 강화를 뒷받침하고 있다.TTA는 지난 ’21년 마련한 ｢신뢰할 수 있는 인공지능 개발 안내서｣를 통해 기업이 자발적으로 AI 신뢰성을 확보하도록 지원하면서, 국내 최초 생성형 AI 레드팀 개최, 안전성 평가 데이터셋 구축 등 AI 안전성 실증 활동을 강화하고 있다.
2025-12-29
-
인공지능 모델 안전성 첫 평가, AI 안전 생태계 확산의 첫걸음
과학기술정보통신부
[knews25] 과학기술정보통신부는 인공지능안전연구소, 한국정보통신기술협회와 함께 카카오의 AI 모델인 Kanana를 대상으로 국내 첫 AI 안전성 평가를 실시하였다고 밝혔다.AI 안전성 평가는 AI 위험 식별ㆍ평가를 통해 AI 시스템의 안전성을 확보하는 수단 중 하나이다. 과기정통부는 내년 1월로 예정된 AI기본법 시행을 앞두고, 기업의 고성능 AI 모델에 대한 안전성 확보 컨설팅을 지원하고 있다.이번 안전성 평가는 AI안전컨소시엄*에 참여 중인 카카오 측과의 협의를 거쳐 카카오의 AI 모델인 ‘Kanana Essence 1.5’를 대상으로 실시했다. 평가에는 TTA·카이스트가 지난 11월 18일 공개한 AssurAI 데이터셋과 AI안전연구소의 고위험 분야 평가 데이터셋이 사용되었으며, 폭력, 차별적 표현 등 일반적인 위험 요소부터 무기, 보안 등 오남용 가능성이 높은 시나리오까지 적용하여 폭넓게 점검했다. 그 결과, Kanana는 유사 규모의 글로벌 모델** 대비 높은 안전성을 확보한 것으로 나타났다.한국어를 기반으로 35개 위험 영역을 평가하도록 설계된 안전성 벤치마크 데이터셋 AssurAI는 해외 연구기관과 공동 검증·활용을 위해 지난 11월 18일 공개한 바 있다. 향후 AI안전연구소가 기 구축한 고위험 분야 데이터셋과 함께 국제 AI안전연구소 네트워크* 및 국제표준화 반영을 추진해 글로벌 정합성을 제고할 예정이다.이번 AI 안전성 평가 결과는 국내 AI 모델이 글로벌 수준의 안전성을 확보하고 있다는 것을 보여주는 데 의의가 있다. 이번 평가를 기반으로, ’26년에는 ‘독자 AI 파운데이션 모델’ 프로젝트 1차 단계평가에 참여하는 한편, 국내외 AI 기업들과의 협력을 통해 타 AI 모델 대상으로 평가 확대도 추진한다.과기정통부 김경만 인공지능정책실장은 “세계적으로 AI 안전에 대한 논의가 규제보다는 검증과 구현이 강조되는 상황에서 이번 평가는 국내 AI 모델의 안전성 경쟁력을 증명한 사례”라며, “국내 AI 모델이 글로벌 AI 안전성 리더십을 주도해 나가도록 적극 지원하겠다.”라고 강조하였다.한편, 지난 ’24년 11월 출범한 AI안전연구소는 AI의 다양한 위험에 체계적으로 대응하는 연구와 함께 산·학·연 간 AI 안전 인력·인프라 협력 허브 역할을 수행해오고 있다. 또한 미국, 영국, 일본 등 주요국 AI 안전기관과 긴밀히 협력하며, 국제 AI 안전성 기준 수립과 표준화 논의에도 적극 참여함으로써 국내 AI 산업의 안전성과 글로벌 경쟁력 강화를 뒷받침하고 있다.TTA는 지난 ’21년 마련한 ｢신뢰할 수 있는 인공지능 개발 안내서｣를 통해 기업이 자발적으로 AI 신뢰성을 확보하도록 지원하면서, 국내 최초 생성형 AI 레드팀 개최, 안전성 평가 데이터셋 구축 등 AI 안전성 실증 활동을 강화하고 있다.
2025-12-29
-
인공지능 모델 안전성 첫 평가, AI 안전 생태계 확산의 첫걸음
과학기술정보통신부
[knews25] 과학기술정보통신부는 인공지능안전연구소, 한국정보통신기술협회와 함께 카카오의 AI 모델인 Kanana를 대상으로 국내 첫 AI 안전성 평가를 실시하였다고 밝혔다.AI 안전성 평가는 AI 위험 식별ㆍ평가를 통해 AI 시스템의 안전성을 확보하는 수단 중 하나이다. 과기정통부는 내년 1월로 예정된 AI기본법 시행을 앞두고, 기업의 고성능 AI 모델에 대한 안전성 확보 컨설팅을 지원하고 있다.이번 안전성 평가는 AI안전컨소시엄*에 참여 중인 카카오 측과의 협의를 거쳐 카카오의 AI 모델인 ‘Kanana Essence 1.5’를 대상으로 실시했다. 평가에는 TTA·카이스트가 지난 11월 18일 공개한 AssurAI 데이터셋과 AI안전연구소의 고위험 분야 평가 데이터셋이 사용되었으며, 폭력, 차별적 표현 등 일반적인 위험 요소부터 무기, 보안 등 오남용 가능성이 높은 시나리오까지 적용하여 폭넓게 점검했다. 그 결과, Kanana는 유사 규모의 글로벌 모델** 대비 높은 안전성을 확보한 것으로 나타났다.한국어를 기반으로 35개 위험 영역을 평가하도록 설계된 안전성 벤치마크 데이터셋 AssurAI는 해외 연구기관과 공동 검증·활용을 위해 지난 11월 18일 공개한 바 있다. 향후 AI안전연구소가 기 구축한 고위험 분야 데이터셋과 함께 국제 AI안전연구소 네트워크* 및 국제표준화 반영을 추진해 글로벌 정합성을 제고할 예정이다.이번 AI 안전성 평가 결과는 국내 AI 모델이 글로벌 수준의 안전성을 확보하고 있다는 것을 보여주는 데 의의가 있다. 이번 평가를 기반으로, ’26년에는 ‘독자 AI 파운데이션 모델’ 프로젝트 1차 단계평가에 참여하는 한편, 국내외 AI 기업들과의 협력을 통해 타 AI 모델 대상으로 평가 확대도 추진한다.과기정통부 김경만 인공지능정책실장은 “세계적으로 AI 안전에 대한 논의가 규제보다는 검증과 구현이 강조되는 상황에서 이번 평가는 국내 AI 모델의 안전성 경쟁력을 증명한 사례”라며, “국내 AI 모델이 글로벌 AI 안전성 리더십을 주도해 나가도록 적극 지원하겠다.”라고 강조하였다.한편, 지난 ’24년 11월 출범한 AI안전연구소는 AI의 다양한 위험에 체계적으로 대응하는 연구와 함께 산·학·연 간 AI 안전 인력·인프라 협력 허브 역할을 수행해오고 있다. 또한 미국, 영국, 일본 등 주요국 AI 안전기관과 긴밀히 협력하며, 국제 AI 안전성 기준 수립과 표준화 논의에도 적극 참여함으로써 국내 AI 산업의 안전성과 글로벌 경쟁력 강화를 뒷받침하고 있다.TTA는 지난 ’21년 마련한 ｢신뢰할 수 있는 인공지능 개발 안내서｣를 통해 기업이 자발적으로 AI 신뢰성을 확보하도록 지원하면서, 국내 최초 생성형 AI 레드팀 개최, 안전성 평가 데이터셋 구축 등 AI 안전성 실증 활동을 강화하고 있다.
2025-12-29
-
인공지능 모델 안전성 첫 평가, AI 안전 생태계 확산의 첫걸음
과학기술정보통신부
[knews25] 과학기술정보통신부는 인공지능안전연구소, 한국정보통신기술협회와 함께 카카오의 AI 모델인 Kanana를 대상으로 국내 첫 AI 안전성 평가를 실시하였다고 밝혔다.AI 안전성 평가는 AI 위험 식별ㆍ평가를 통해 AI 시스템의 안전성을 확보하는 수단 중 하나이다. 과기정통부는 내년 1월로 예정된 AI기본법 시행을 앞두고, 기업의 고성능 AI 모델에 대한 안전성 확보 컨설팅을 지원하고 있다.이번 안전성 평가는 AI안전컨소시엄*에 참여 중인 카카오 측과의 협의를 거쳐 카카오의 AI 모델인 ‘Kanana Essence 1.5’를 대상으로 실시했다. 평가에는 TTA·카이스트가 지난 11월 18일 공개한 AssurAI 데이터셋과 AI안전연구소의 고위험 분야 평가 데이터셋이 사용되었으며, 폭력, 차별적 표현 등 일반적인 위험 요소부터 무기, 보안 등 오남용 가능성이 높은 시나리오까지 적용하여 폭넓게 점검했다. 그 결과, Kanana는 유사 규모의 글로벌 모델** 대비 높은 안전성을 확보한 것으로 나타났다.한국어를 기반으로 35개 위험 영역을 평가하도록 설계된 안전성 벤치마크 데이터셋 AssurAI는 해외 연구기관과 공동 검증·활용을 위해 지난 11월 18일 공개한 바 있다. 향후 AI안전연구소가 기 구축한 고위험 분야 데이터셋과 함께 국제 AI안전연구소 네트워크* 및 국제표준화 반영을 추진해 글로벌 정합성을 제고할 예정이다.이번 AI 안전성 평가 결과는 국내 AI 모델이 글로벌 수준의 안전성을 확보하고 있다는 것을 보여주는 데 의의가 있다. 이번 평가를 기반으로, ’26년에는 ‘독자 AI 파운데이션 모델’ 프로젝트 1차 단계평가에 참여하는 한편, 국내외 AI 기업들과의 협력을 통해 타 AI 모델 대상으로 평가 확대도 추진한다.과기정통부 김경만 인공지능정책실장은 “세계적으로 AI 안전에 대한 논의가 규제보다는 검증과 구현이 강조되는 상황에서 이번 평가는 국내 AI 모델의 안전성 경쟁력을 증명한 사례”라며, “국내 AI 모델이 글로벌 AI 안전성 리더십을 주도해 나가도록 적극 지원하겠다.”라고 강조하였다.한편, 지난 ’24년 11월 출범한 AI안전연구소는 AI의 다양한 위험에 체계적으로 대응하는 연구와 함께 산·학·연 간 AI 안전 인력·인프라 협력 허브 역할을 수행해오고 있다. 또한 미국, 영국, 일본 등 주요국 AI 안전기관과 긴밀히 협력하며, 국제 AI 안전성 기준 수립과 표준화 논의에도 적극 참여함으로써 국내 AI 산업의 안전성과 글로벌 경쟁력 강화를 뒷받침하고 있다.TTA는 지난 ’21년 마련한 ｢신뢰할 수 있는 인공지능 개발 안내서｣를 통해 기업이 자발적으로 AI 신뢰성을 확보하도록 지원하면서, 국내 최초 생성형 AI 레드팀 개최, 안전성 평가 데이터셋 구축 등 AI 안전성 실증 활동을 강화하고 있다.
2025-12-29
-
인공지능 모델 안전성 첫 평가, AI 안전 생태계 확산의 첫걸음
과학기술정보통신부
[knews25] 과학기술정보통신부는 인공지능안전연구소, 한국정보통신기술협회와 함께 카카오의 AI 모델인 Kanana를 대상으로 국내 첫 AI 안전성 평가를 실시하였다고 밝혔다.AI 안전성 평가는 AI 위험 식별ㆍ평가를 통해 AI 시스템의 안전성을 확보하는 수단 중 하나이다. 과기정통부는 내년 1월로 예정된 AI기본법 시행을 앞두고, 기업의 고성능 AI 모델에 대한 안전성 확보 컨설팅을 지원하고 있다.이번 안전성 평가는 AI안전컨소시엄*에 참여 중인 카카오 측과의 협의를 거쳐 카카오의 AI 모델인 ‘Kanana Essence 1.5’를 대상으로 실시했다. 평가에는 TTA·카이스트가 지난 11월 18일 공개한 AssurAI 데이터셋과 AI안전연구소의 고위험 분야 평가 데이터셋이 사용되었으며, 폭력, 차별적 표현 등 일반적인 위험 요소부터 무기, 보안 등 오남용 가능성이 높은 시나리오까지 적용하여 폭넓게 점검했다. 그 결과, Kanana는 유사 규모의 글로벌 모델** 대비 높은 안전성을 확보한 것으로 나타났다.한국어를 기반으로 35개 위험 영역을 평가하도록 설계된 안전성 벤치마크 데이터셋 AssurAI는 해외 연구기관과 공동 검증·활용을 위해 지난 11월 18일 공개한 바 있다. 향후 AI안전연구소가 기 구축한 고위험 분야 데이터셋과 함께 국제 AI안전연구소 네트워크* 및 국제표준화 반영을 추진해 글로벌 정합성을 제고할 예정이다.이번 AI 안전성 평가 결과는 국내 AI 모델이 글로벌 수준의 안전성을 확보하고 있다는 것을 보여주는 데 의의가 있다. 이번 평가를 기반으로, ’26년에는 ‘독자 AI 파운데이션 모델’ 프로젝트 1차 단계평가에 참여하는 한편, 국내외 AI 기업들과의 협력을 통해 타 AI 모델 대상으로 평가 확대도 추진한다.과기정통부 김경만 인공지능정책실장은 “세계적으로 AI 안전에 대한 논의가 규제보다는 검증과 구현이 강조되는 상황에서 이번 평가는 국내 AI 모델의 안전성 경쟁력을 증명한 사례”라며, “국내 AI 모델이 글로벌 AI 안전성 리더십을 주도해 나가도록 적극 지원하겠다.”라고 강조하였다.한편, 지난 ’24년 11월 출범한 AI안전연구소는 AI의 다양한 위험에 체계적으로 대응하는 연구와 함께 산·학·연 간 AI 안전 인력·인프라 협력 허브 역할을 수행해오고 있다. 또한 미국, 영국, 일본 등 주요국 AI 안전기관과 긴밀히 협력하며, 국제 AI 안전성 기준 수립과 표준화 논의에도 적극 참여함으로써 국내 AI 산업의 안전성과 글로벌 경쟁력 강화를 뒷받침하고 있다.TTA는 지난 ’21년 마련한 ｢신뢰할 수 있는 인공지능 개발 안내서｣를 통해 기업이 자발적으로 AI 신뢰성을 확보하도록 지원하면서, 국내 최초 생성형 AI 레드팀 개최, 안전성 평가 데이터셋 구축 등 AI 안전성 실증 활동을 강화하고 있다.
2025-12-29
-
인공지능 모델 안전성 첫 평가, AI 안전 생태계 확산의 첫걸음
과학기술정보통신부
[knews25] 과학기술정보통신부는 인공지능안전연구소, 한국정보통신기술협회와 함께 카카오의 AI 모델인 Kanana를 대상으로 국내 첫 AI 안전성 평가를 실시하였다고 밝혔다.AI 안전성 평가는 AI 위험 식별ㆍ평가를 통해 AI 시스템의 안전성을 확보하는 수단 중 하나이다. 과기정통부는 내년 1월로 예정된 AI기본법 시행을 앞두고, 기업의 고성능 AI 모델에 대한 안전성 확보 컨설팅을 지원하고 있다.이번 안전성 평가는 AI안전컨소시엄*에 참여 중인 카카오 측과의 협의를 거쳐 카카오의 AI 모델인 ‘Kanana Essence 1.5’를 대상으로 실시했다. 평가에는 TTA·카이스트가 지난 11월 18일 공개한 AssurAI 데이터셋과 AI안전연구소의 고위험 분야 평가 데이터셋이 사용되었으며, 폭력, 차별적 표현 등 일반적인 위험 요소부터 무기, 보안 등 오남용 가능성이 높은 시나리오까지 적용하여 폭넓게 점검했다. 그 결과, Kanana는 유사 규모의 글로벌 모델** 대비 높은 안전성을 확보한 것으로 나타났다.한국어를 기반으로 35개 위험 영역을 평가하도록 설계된 안전성 벤치마크 데이터셋 AssurAI는 해외 연구기관과 공동 검증·활용을 위해 지난 11월 18일 공개한 바 있다. 향후 AI안전연구소가 기 구축한 고위험 분야 데이터셋과 함께 국제 AI안전연구소 네트워크* 및 국제표준화 반영을 추진해 글로벌 정합성을 제고할 예정이다.이번 AI 안전성 평가 결과는 국내 AI 모델이 글로벌 수준의 안전성을 확보하고 있다는 것을 보여주는 데 의의가 있다. 이번 평가를 기반으로, ’26년에는 ‘독자 AI 파운데이션 모델’ 프로젝트 1차 단계평가에 참여하는 한편, 국내외 AI 기업들과의 협력을 통해 타 AI 모델 대상으로 평가 확대도 추진한다.과기정통부 김경만 인공지능정책실장은 “세계적으로 AI 안전에 대한 논의가 규제보다는 검증과 구현이 강조되는 상황에서 이번 평가는 국내 AI 모델의 안전성 경쟁력을 증명한 사례”라며, “국내 AI 모델이 글로벌 AI 안전성 리더십을 주도해 나가도록 적극 지원하겠다.”라고 강조하였다.한편, 지난 ’24년 11월 출범한 AI안전연구소는 AI의 다양한 위험에 체계적으로 대응하는 연구와 함께 산·학·연 간 AI 안전 인력·인프라 협력 허브 역할을 수행해오고 있다. 또한 미국, 영국, 일본 등 주요국 AI 안전기관과 긴밀히 협력하며, 국제 AI 안전성 기준 수립과 표준화 논의에도 적극 참여함으로써 국내 AI 산업의 안전성과 글로벌 경쟁력 강화를 뒷받침하고 있다.TTA는 지난 ’21년 마련한 ｢신뢰할 수 있는 인공지능 개발 안내서｣를 통해 기업이 자발적으로 AI 신뢰성을 확보하도록 지원하면서, 국내 최초 생성형 AI 레드팀 개최, 안전성 평가 데이터셋 구축 등 AI 안전성 실증 활동을 강화하고 있다.
2025-12-29
-
인공지능 모델 안전성 첫 평가, AI 안전 생태계 확산의 첫걸음
과학기술정보통신부
[knews25] 과학기술정보통신부는 인공지능안전연구소, 한국정보통신기술협회와 함께 카카오의 AI 모델인 Kanana를 대상으로 국내 첫 AI 안전성 평가를 실시하였다고 밝혔다.AI 안전성 평가는 AI 위험 식별ㆍ평가를 통해 AI 시스템의 안전성을 확보하는 수단 중 하나이다. 과기정통부는 내년 1월로 예정된 AI기본법 시행을 앞두고, 기업의 고성능 AI 모델에 대한 안전성 확보 컨설팅을 지원하고 있다.이번 안전성 평가는 AI안전컨소시엄*에 참여 중인 카카오 측과의 협의를 거쳐 카카오의 AI 모델인 ‘Kanana Essence 1.5’를 대상으로 실시했다. 평가에는 TTA·카이스트가 지난 11월 18일 공개한 AssurAI 데이터셋과 AI안전연구소의 고위험 분야 평가 데이터셋이 사용되었으며, 폭력, 차별적 표현 등 일반적인 위험 요소부터 무기, 보안 등 오남용 가능성이 높은 시나리오까지 적용하여 폭넓게 점검했다. 그 결과, Kanana는 유사 규모의 글로벌 모델** 대비 높은 안전성을 확보한 것으로 나타났다.한국어를 기반으로 35개 위험 영역을 평가하도록 설계된 안전성 벤치마크 데이터셋 AssurAI는 해외 연구기관과 공동 검증·활용을 위해 지난 11월 18일 공개한 바 있다. 향후 AI안전연구소가 기 구축한 고위험 분야 데이터셋과 함께 국제 AI안전연구소 네트워크* 및 국제표준화 반영을 추진해 글로벌 정합성을 제고할 예정이다.이번 AI 안전성 평가 결과는 국내 AI 모델이 글로벌 수준의 안전성을 확보하고 있다는 것을 보여주는 데 의의가 있다. 이번 평가를 기반으로, ’26년에는 ‘독자 AI 파운데이션 모델’ 프로젝트 1차 단계평가에 참여하는 한편, 국내외 AI 기업들과의 협력을 통해 타 AI 모델 대상으로 평가 확대도 추진한다.과기정통부 김경만 인공지능정책실장은 “세계적으로 AI 안전에 대한 논의가 규제보다는 검증과 구현이 강조되는 상황에서 이번 평가는 국내 AI 모델의 안전성 경쟁력을 증명한 사례”라며, “국내 AI 모델이 글로벌 AI 안전성 리더십을 주도해 나가도록 적극 지원하겠다.”라고 강조하였다.한편, 지난 ’24년 11월 출범한 AI안전연구소는 AI의 다양한 위험에 체계적으로 대응하는 연구와 함께 산·학·연 간 AI 안전 인력·인프라 협력 허브 역할을 수행해오고 있다. 또한 미국, 영국, 일본 등 주요국 AI 안전기관과 긴밀히 협력하며, 국제 AI 안전성 기준 수립과 표준화 논의에도 적극 참여함으로써 국내 AI 산업의 안전성과 글로벌 경쟁력 강화를 뒷받침하고 있다.TTA는 지난 ’21년 마련한 ｢신뢰할 수 있는 인공지능 개발 안내서｣를 통해 기업이 자발적으로 AI 신뢰성을 확보하도록 지원하면서, 국내 최초 생성형 AI 레드팀 개최, 안전성 평가 데이터셋 구축 등 AI 안전성 실증 활동을 강화하고 있다.
2025-12-29
BlinkHub
