[김대호 인물] 엔트로픽 아모데이 충격 ... "AI 정말 위험" 무서운 경고

AI 요약

엔트로픽 CEO 다리오 아모데이는 개인 웹사이트에 We Must Pace the Frontier를 발표하고 차세대 AI 발전 속도를 의도적으로 늦추어 가치 정렬과 안전성 연구가 따라잡을 수 있는 1~2년의 물리적 완충 시간을 확보하자는 이른바 3단계 감속 프레임워크를 공식 제안했으며, 샘 올트먼과 일론 머스크가 호응했으나 업계 일각에서는 냉담한 반응도 있었습니다. 아모데이는 스탠퍼드와 프린스턴에서 물리학·생물물리학을 전공하고 오픈AI에서 연구 부사장을 지내며 스케일링 법칙의 공동 저자였고, 2020년 오픈AI를 떠나 2021년 여동생 다니엘라 아모데이 등과 함께 공익지정기업 형태의 앤스로픽을 설립했으며 2023년 롱텀 베네핏 트러스트를 도입했습니다. 앤스로픽은 클로드 시리즈를 공개해 상용 모델 경쟁에 뛰어들었고, 헌법적 AI·기계론적 해석가능성·책임 있는 확장 정책(RSP, ASL-1~ASL-4) 등 안전 체계를 도입했으며 아마존으로부터 최대 40억 달러·알파벳으로부터 20억 달러 이상의 투자를 유치해 AWS와 구글 클라우드를 주요 인프라로 채택하면서 마이크로소프트-오픈AI 연합과 맞서는 거대 동맹을 형성했으나 시장과 규제 기관의 감시를 받았습니다.