美상원, '위험 AI' 출시 차단 권한 추진…"핵·생물무기 위험 규제"

AI 요약

미 상원이 핵·생물무기 개발 등 중대 위험을 초래할 수 있는 첨단 인공지능(AI) 모델의 출시를 연방정부가 차단할 수 있도록 하는 법안을 논의하고 있습니다. 상원 협상단은 AI 개발사에 '주의 의무'를 부과해 안전성 검증 책임을 강화하고, 정부가 안전하지 않다고 판단한 모델의 출시를 차단하며 기업이 연방법원에서 다툴 수 있도록 하는 방안을 협의 중입니다. 규제 대상은 최첨단 성능의 AI 모델이 될 전망이며 오픈AI·앤트로픽·구글 등이 해당되고 미 국립연구소 전문가들이 모델의 재앙적 위험 여부를 시험하도록 하는 방안과 11월 3일 중간선거 전 처리 여부가 불투명하다는 점도 언급되고 있습니다.