실리콘밸리서 만든 AI도 이곳에서 검증 받는다

AI 요약

런던이 AI 안전 연구의 세계 수도로 부상했고 네이처도 이렇게 평가했으며 구글 딥마인드·오픈AI·앤스로픽 등 주요 AI 기업과 연구기관이 킹스크로스 일대에 대규모 거점을 마련했습니다. 영국 정부가 2023년 설립한 AI안보연구소(AISI)는 설립 2년여 만에 세계 최첨단 AI 모델 30개 이상을 시험했으며 2025년 모델 평가와 안전 연구 확대를 위해 2억4000만파운드(약 4500억원)를 지원하기로 했습니다. AISI는 AI가 해킹·생화학 무기 정보 제공·안전장치 우회 등 위험 행위를 수행할 수 있는지 일부러 위험한 명령을 내리는 방식으로 검증해 각국 정부와 기업의 위험 판단 근거로 활용되지만, 규제 기관이 아니어서 모델 출시를 강제로 막을 권한은 없고 AI의 해킹 능력이 2024년 말 이후 약 4.7개월마다 두 배로 증가한다는 분석을 내놔 안전 평가가 따라가기 어려운 점을 지적했습니다.