오픈AI 첫 AI 추론칩, 전력 효율·응답 속도서 엔비디아 앞섰다

AI 요약

오픈AI는 자체 개발한 추론 프로세서 할라피뇨의 테스트 결과 전력당 AI 처리량이 비교 시스템보다 1.5~1.9배 높고 종단 간 응답 지연시간은 1.7~3.6배 낮았다고 공개했습니다. 세미애널리시스의 InferenceX 벤치마크로 GPT-OSS 120B, 딥시크 R1 670B, 키미 K2.5 1T 등 3개 공개 모델을 시험한 결과 사용자당 디코딩 처리량은 모델별로 비교 시스템보다 2.1~4.1배 높게 나타났습니다. 오픈AI는 할라피뇨의 성능 향상이 프로세서뿐 아니라 메모리, 네트워크, 소프트웨어, 서버 시스템을 함께 설계한 결과라며 올해 말부터 자체 컴퓨팅 인프라에 배치할 계획이라고 밝혔습니다.