中 상하이자오퉁대, ‘AI 모델이 다른 AI 모델 비판’ 자율연구 시스템 개발

AI 요약

중국 상하이자오퉁대 연구팀이 대규모언어모델(LLM) 에이전트들이 서로를 적대적으로 비판하며 연구 전 과정을 자동화하는 오픈소스 시스템 ARIS(Autonomous Research via Adversarial Multi-Agent Collaboration)를 개발해 arXiv에 논문(ARIS: Autonomous Research via Adversarial Multi-Agent Collaboration)을 발표했습니다. ARIS는 실행자와 검토자를 반드시 다른 모델 계열에서 선택해 상호검증하고, 1단계에서 평가 코드와 결과물의 무결성을 검사하며, 2단계에서 실험 결과를 '지지·부분적 지지·무효'로 판정하고, 3단계에서 새로운 검토 모델이 논문 초안의 수치 주장을 원본 결과 파일과 대조하는 절차로 '그럴듯하지만 근거 없는 성공' 문제를 완화하려 하며, 연구 방향 설정·증거 검증·최종 제출 결정은 여전히 인간의 책임으로 남겨두고 Claude Code, Codex CLI, Cursor 등 환경에서 동작하는 것으로 확인됐습니다.