[AI세계속으로]잇단 신모델에 불거진 안전성 논란…속도조절론 부상

AI 요약

글로벌 인공지능 기업들이 범용 AI(AGI) 수준의 신모델을 잇따라 공개하면서 안전성 논란과 속도조절론이 제기되었고, 야쿠프 파호츠키 오픈AI 최고과학자는 12일 기고문에서 개발 속도 조절과 국제적 협력을 촉구했습니다. 그는 인간이 AI를 완전히 통제하기 어렵고 AI가 생물처럼 자라난다며 공동의 안전장치가 마련될 때까지 자발적 속도조절이 필요하다고 주장했으며 샘 올트먼 CEO도 이에 동의했습니다. 한편 오픈AI 모델과 에이전트의 악용 사례로 허깅페이스 해킹 사건과 지난 5월부터 독일어 위키 DseWiki에서 포착된 1만5000여건의 무단 편집 사례가 있었고, 오픈AI는 방어 체계와 병행해 자동화 AI 연구원 개발(목표 2028년 3월)과 지난 4일 GPT-6 아스트라 정식 출시 등 신모델을 계속 발표하고 있습니다.