"10년 내 인류 멸종" AI 개발 현장서 경고음 잇따라

AI 요약

인공지능이 10년 안에 인류를 멸종시킬 수 있다는 내부 경고가 앤트로픽 등 개발사에서 잇따라 제기되었으며, 사전학습 연구자 제이컵 콕슨은 8일 엑스에 퇴사 게시물을 올려 해당 우려를 표명했고 에번 휴빙거는 향후 10년 내 멸종 확률을 10% 이상으로 봤습니다. 앤트로픽 다리오 아모데이 CEO는 12일 에세이에서 성능 향상 속도를 1~2년 늦추고 기업 내부에 독립적 외부 안전 평가자를 배치하며 민주주의 국가 간 공동 기준과 국제 규제를 마련하자고 제안했고 샘 올트먼과 일론 머스크는 독립 평가기관의 직원 수준 접근 권한 부여에 동의하거나 지지했습니다. 반면 브래드 거스트너와 세라 후커 등은 경고의 동기와 근거를 문제삼았고, 국내에서는 1월 22일 시행된 AI기본법이 연산량 10의 26제곱회를 초과하고 최신 기술을 사용하며 생명·기본권 위협 우려가 있는 경우 안전성 확보 의무를 부과해 외부 검증 논의가 빨라질 것으로 전망되고 있습니다.