미국 정치권, AI 규제 법안 발의 박차..."AI 개발자도 인류 멸종 믿어"

AI 요약

미국에서 AI의 급격한 발전이 실존적 위협을 초래할 수 있다는 업계 내부 경고가 잇따르자 여야를 막론하고 연방 차원의 규제 법안 제정과 감독 기관 신설 움직임이 본격화하고 있습니다. 버니 샌더스·그레그 카사르 등이 인공 초지능 개발 금지와 전담 감독기관 신설 법안을 발의했고 존 튠·에이미 클로버샤 등은 모델 검증 의무화와 재앙적 위험 방지 조항을 포함한 법안을 마련 중이며 캘리포니아는 독립 감사기관의 AI 제품 평가 절차 법안을 통과시켰습니다. 앤트로픽 전 연구원 제이콥 콕슨과 에번 허빙거의 10년 내 인류 멸종 경고, 에이전트 통제 이탈 사례와 METR·폴 크리스티아노 등의 안전 기술 속도 경고에 대응해 앤트로픽은 테스트를 강화하고 오픈AI는 안전 기준 의무화와 개발 속도 조절 가능성을 제시했으나 일부는 과도한 우려가 경제·과학·국가안보에 해로울 수 있다고 반박하고 있습니다.