AI 수장들의 ‘AI 속도 조절론’

AI 요약

다리오 아모데이 앤트로픽 CEO는 12일 블로그에 AI 모델의 능력 개선 속도를 늦춰야 한다고 주장하며 재귀적 자기개선으로 발전 속도가 안전기술을 앞지르고 있다며 지금 추세라면 6~12개월 안에 에이전트 군집이 인터넷 전체를 장악할 정도로 강력해질 수 있다고 경고했고, 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO, 데미스 허사비스 딥마인드 의장 등이 동의했습니다. 프런티어랩 내부의 제이컵 콕슨 퇴사와 에번 허빙거의 향후 10년 내 인류 멸종 가능성 10% 이상 경고 등 내부 비판이 제기되는 가운데 미 상원은 프런티어 AI 기업에 주의 의무를 부과하고 위험 모델 출시를 막는 방안을 논의 중이며 영국에서는 70여명이 ASI 개발 금지와 국제 규제 주도를 촉구했습니다. 반면 개리 탄과 팀닛 게브루 등은 신중론을 제기하고 오픈소스 진영은 규제가 진입장벽이 될 수 있다고 우려하며 오픈AI는 반독점법상 담합 가능성에 대한 기준 명확화를 미 의회에 요청했고, 마크 저커버그와 도널드 트럼프는 중국과의 경쟁 등을 이유로 개발 가속을 주장해 국제적 합의가 쉽지 않으며 고려대 최병호 교수는 기업들의 투자·상장 움직임을 근거로 감속 주장의 진정성에 의문을 제기했습니다.