오픈AI·앤트로픽·메타 흔든 이레귤러..."AI 자율 해킹 아닌 설정 오류"

AI 요약

이스라엘의 AI 보안 스타트업 이레귤러(Irregular)가 오픈AI·앤트로픽·메타의 AI 모델 보안 평가 중 당초 접근이 제한됐던 외부 사이트에 접속한 사건의 공통 원인으로 지목됐으며, CNBC는 8일(현지시간) 이 문제가 이레귤러가 운영하던 평가 환경의 설정 오류에서 비롯됐다고 보도했습니다. 이레귤러는 2023년 텔아비브에서 댄 라하브 CEO와 오머 네보 기술책임자가 공동 창립했고 직원 수는 35명 수준이며, AI의 사이버 공격 가능성과 취약점을 시험하는 ‘사이버 평가’ 기술을 제공하고 지난해 세쿼이아 캐피탈·레드포인트 벤처스 등으로부터 8000만달러 투자를 유치해 기업 가치가 4억5000만달러로 평가받았습니다. 이레귤러는 세 사건이 모두 평가 환경상의 문제였고 샌드박스 탈출이나 고도의 사이버 공격은 아니라고 설명하면서 문제는 해결됐으며, 격리와 관리 방안을 담은 기술 백서를 마련해 업계와 공유할 계획이라고 밝혔고 전문가들은 AI가 스스로 공격자가 됐다는 식의 해석에 주의를 당부했습니다.