유상윤 대표 "해킹당한 로봇, 사람 공격할 수도…AI 보안시장 커진다"

AI 요약

에임인텔리전스의 유상윤 창업자 겸 대표(30)는 로봇 등 피지컬 AI의 판단이 곧 행동으로 이어지므로 정보 보안의 중요성이 커졌다고 밝혔습니다. 그는 2024년 생성형 인공지능 레드팀 챌린지 우승을 계기로 회사를 창업했고 박하언 씨를 CTO로 영입했으며 에임인텔리전스는 현대차그룹 제로원벤처스와 네이버 D2SF 등의 투자를 유치하고 마이크로소프트의 차세대 AI 보안 시스템 초기 파트너로 선정되었습니다. 회사는 AI 레드티밍 솔루션 스팅어와 AI 가드레일 솔루션 스타포트를 개발했으며 NASA 챗봇의 허위 정보 생성 취약점을 발견했고 현재 LG전자와 함께 가정용 로봇에 적용할 AI 가드레일을 상용화해 위험 행동을 실시간 감지하면 즉시 동작을 멈추게 하는 기술을 개발하고 있습니다.