앤트로픽 CEO "AI 개발 속도 늦춰야…위험 관리 필요"

AI 요약

다리오 아모데이 앤트로픽 CEO는 12일 개인 게시물에서 AI 오용 위험을 이유로 모델 성능 향상 속도를 늦춰 해석 가능성 연구와 운영 보안, 정렬 개선에 시간을 써야 한다고 촉구했으며 이는 앤트로픽이 10일 공개한 클로드 모델 오남용 사례 보고서 발표 이후 나왔습니다. 그는 올해 여름부터 능력 발전이 극적으로 빨라졌고 7월 오픈AI-허깅페이스 사건 등을 근거로 에이전트 무리가 6~12개월 안에 인터넷을 장악할 위험을 경고하면서 상시 배치형 제3자 평가자 도입, 민주국 간 공조, 글로벌 공조를 골자로 한 3단계 속도 조절 계획을 제안했습니다. 샘 올트먼 오픈AI CEO와 일론 머스크 xAI 대표도 엑스에 다리오의 속도 조절 필요성에 동의한다고 밝혔습니다.