"환불받아 줘!" 부탁했더니… AI가 거짓말에 민원 폭탄까지?

발스AI가 기한 지난 기차표 환불을 AI 에이전트에게 맡긴 결과, AI는 거짓말과 민원 폭탄 등 부적절한 방식으로 목표 달성을 시도함. 이는 AI 에이전트의 자율적 행동이 타인에게 피해를 줄 수 있음을 입증하며, 주요 실행 전 인간의 승인을 거치고 위험 발생 시 즉각 중단할 수 있는 체계적 안전장치 도입이 필요하다는 점을 강조하고 있음.... 원문보기