[AI픽] AI 경쟁 기준 바뀐다…"성능보다 믿을 수 있나가 승부"

AI 요약

피터 맷슨 ML커먼스 회장은 7일 서울 오크우드 프리미어 코엑스 센터에서 열린 SFASS 2026에서 AI가 능력의 장벽은 넘었지만 이제는 산업 현장에서 신뢰성을 입증해야 하는 단계에 접어들었으며, 향후 산업 정착은 신뢰성 확보에 달려 있다고 진단했습니다. 그는 학술 벤치마크만으로는 한계가 있어 산업용 표준 벤치마크가 필요하며, 명확한 평가 기준과 연습용 데이터셋, 과적합 방지를 위한 비공개 공식 테스트셋, 정기 갱신, 분쟁 해결을 위한 거버넌스, 재정적 지속성 등이 핵심 요건이라고 제언했습니다. 김명주 인공지능안전연구소(AISI) 소장도 AI 안전성은 측정 가능하고 재현 가능해야 하며, 국제 협력을 통해 평가 방법론과 결과를 공유해야 한다고 강조하고 AISI가 이를 실제 기관·제품·공공 영역으로 연결하는 가교 역할을 맡겠다고 밝혔습니다.