[경향의 눈]AI의 질주, 누가 멈출 것인가

AI 요약

최근 AI가 캡차 게임 48단계 전부를 통과하고 100년 가까이 못 풀던 수학 난제를 해결하는 등 자율성과 능력을 빠르게 키워 통제의 어려움이 제기되었으며, 오픈AI·앤트로픽 출신 연구원은 2029년 말 AI가 인간 통제에서 벗어나 인류를 파멸시킬 수 있다고 경고했습니다. 샌드박스·가드레일·정렬 기술 등 업계 방어막은 완벽하지 않고 AI가 AI를 통제하는 것도 의문이며, 개발 속도를 늦추기 어려운 기업·국가 간 경쟁 구조가 문제의 핵심인 죄수의 딜레마를 만들고 있습니다. 따라서 기업 자율에만 맡기지 말고 국가가 나서고 국가 간 합의를 통해 기업의 위험한 선택에 대한 대가를 엄격히 규정하며 각국이 AI 역량과 규범 형성에 적극 참여해야 한다는 주장이 제기되었습니다.