＂내년 말이면 통제 불능＂…AI 연구원의 ＇섬뜩한 경고＇

AI 요약

미국 AI 기업 앤트로픽의 연구원 제이컵 콕슨(27)이 AI 개발 경쟁이 지금과 같은 속도로 이어질 경우 이르면 내년 말 통제 불능에 빠질 수 있다고 경고하며 회사를 떠났습니다. 콕슨은 대규모 데이터를 이용해 모델을 학습시키는 분야를 연구해왔고, 인간의 개입 없이 스스로 성능을 개선하는 AI가 명령을 거부하는 수준까지 발전할 가능성과 안전 문제가 뒷전으로 밀릴 우려를 제기했습니다. 그는 AGI를 책임 있게 개발하려면 특정 기업의 자율적 안전 조치에만 의존하지 않고 정부 개입이나 업계 전체의 공동 대응 체계를 마련해야 한다고 강조하며, 연구자 1천여명이 서명한 속도 조절 요구 성명에도 참여했습니다.