오픈AI ·브로드컴과 합작 추론 칩 공개··· 추론 인프라 생태계 ‘지각변동’

AI 요약

오픈AI가 현지시간으로 지난 24일 브로드컴과 함께 대형언어모델 추론에 최적화된 전용 반도체 할라페뇨를 공개했으며 이는 지난해 10월 브로드컴과 체결한 10기가와트 규모 AI 칩 계약의 첫 합작 결과물입니다. 할라페뇨는 추론 전용 ASIC으로 설계부터 테이프아웃까지 공동 개발을 9개월 만에 완료했고 칩렛 형태로 중심 처리 유닛 주변에 8개의 HBM 모듈이 배치되며 216~288GB의 메모리를 갖춘 것으로 전해졌습니다. 오픈AI는 올해 말까지 제품 배치를 목표로 작업 중이며 몇 달 내 상세 기술 보고서를 발표할 예정이고 구글의 TPU 계열과 AWS의 그래비톤·인퍼런시아·트레이니엄 등 하이퍼스케일러들의 자체 반도체 도입 움직임도 기사에 언급되어 있습니다.