'AI탈옥' 놀란 오픈AI, 너무 강력한 차세대 모델 일부기능 제한 - 머니투데이

AI 요약

샘 올트먼 오픈AI CEO가 18일(현지시간) 인도 뉴델리에서 열린 제4회 AI 임팩트 정상회의에 참석했습니다. 오픈AI는 차세대 모델 아스트라를 조만간 출시하되 가장 첨단화된 사이버보안 기능은 일부 테스터에게만 먼저 제공하고 방어 목적에 한해 단계적으로 접근 권한을 확대하겠다고 밝혔습니다. 아스트라는 제로데이 취약점을 찾아 공격 코드를 작성할 수 있는 '위험(Critical) 사이버보안 단계'에 도달해 지난달 내부 개발을 일시 중단하고 무단 행동 감시·자동 중단 등 가드레일을 강화했으며, 오픈AI는 아스트라가 지난 7월 허깅페이스 시스템 해킹 사건에 사용되지는 않았지만 유해한 사이버 공격 요청을 거절하도록 안전 훈련을 실시했다고 밝혔습니다.