AI 안전장치 10분 만에 무력화…메타·구글 오픈모델 ‘비상’

AI 요약

메타플랫폼스와 구글의 오픈소스 AI 모델에서 안전장치를 제거한 변형 모델이 인터넷상에서 빠르게 확산하고 있으며 일부 모델은 생화학무기 제조, 악성코드 개발, 아동 성착취 관련 질문에도 응답한 것으로 파이낸셜타임스가 AI 안전성 단체 앨리스와 공동 실험해 보도했습니다. 깃허브에 공개된 헤레틱 소프트웨어로 메타의 라마 3.3 안전장치를 10분도 안 돼 제거할 수 있었고 개발자 필리프 에마누엘 바이트만은 공개 이후 3500개 이상의 검열 해제 모델이 생성되고 다운로드 수는 1300만회를 넘었다고 FT가 전했습니다. 전문가들은 오픈소스 모델은 다운로드 후 자유롭게 수정돼 규제와 가드레일을 무력화할 수 있다고 우려했고 구글과 깃허브는 각각 어블리테이션 문제와 소스코드 정책을 언급했습니다.