엔비디아, 피규어 AI·게코 로보틱스 등과 로봇 AI 안전 협력 확대

AI 요약

엔비디아는 28일(현지시간) AI 에이전트의 개발·테스트·배포·운영 과정에서 안전과 보안을 강화하는 엔비디아 오픈 에이전트 안전 플랫폼(NVIDIA Open Agent Safety Platform)을 공개했으며 피지컬 AI와 로봇 분야에서 활용될 것으로 기대된다고 밝혔습니다. 앤트로픽, 스케일 AI, 세일즈포스, SAP, MS, 지멘스, IBM, 시스코 등 100곳 이상의 기업과 피규어(Figure AI), 게코 로보틱스(Gecko Robotics), 스킬드 AI(Skild AI) 등 로봇 기업들이 플랫폼 생태계에 참여하며 엔비디아는 이들과 협력해 로봇과 자율 시스템을 제어할 때 필요한 안전 통제 기능을 강화할 계획이라고 말했습니다. 플랫폼의 오픈소스 소프트웨어 오픈쉘(OpenShell)을 로봇 시스템에 적용해 AI 에이전트가 사람이 정한 권한과 행동 범위를 벗어나지 않도록 통제하는 방안을 개발하며 엔비디아 창립자 겸 CEO 젠슨 황은 안전 문제 해결을 위해 풀스택 엔지니어링과 산업계·연구자·공공 부문 간 협력이 필요하다고 강조했습니다.