"내년 말 통제 불능"…앤트로픽 연구원, 'AI 인류 파멸' 경고하며 퇴사

AI 요약

미국 인공지능(AI) 기업 앤트로픽의 연구원 제이컵 콕슨(27)이 AI가 인류를 파멸시킬 수 있다는 경고와 함께 회사를 떠났다고 월스트리트저널이 8일(현지시간) 보도했습니다. 영국 출신인 콕슨은 스스로 성능을 개선하는 AI가 인간 통제를 벗어나 명령을 거부하는 수준까지 발전할 가능성이 있고 경쟁으로 안전이 뒷전으로 밀릴 수 있다며 내년 말이면 상황이 통제 불능에 빠질 수도 있다고 우려했습니다. 그는 오픈AI를 거쳐 앤트로픽에 합류했으나 개별 기업의 노력만으로는 위험을 통제할 수 없다며 소수 엔지니어의 판단에 맡긴 현실을 일종의 광기라고 지적하고 정부 개입이나 업계의 공동 대응을 촉구했으며, 이 성명에는 다리오 아모데이와 야쿠프 파초키 등 연구자 1000여명이 서명했습니다.