"AI 판단 속도 10배↑"…오픈AI, '디시전스 API' 정식 출시

AI 요약

오픈AI는 'GPT-6 루나' 기반 '디시전스 API'를 정식 출시해 고객 문의 분류와 후속 작업 선택 등 범위가 정해진 질문을 기존 '리스폰스 API' 사용 시보다 최대 10배 빠르게 처리하고 요청당 최대 400개 질문을 받는 등 응답 속도와 처리량을 높였다고 밝혔습니다. 개발자는 질문과 선택지를 정해 텍스트·이미지·JSON을 입력해 담당 부서 지정, AI 에이전트의 추가 설명 요청 여부 판단, 실시간 음성 상담 연동(GPT-라이브) 및 아바타 표정 제어 등에 활용할 수 있고 프롬프트 캐싱과 아시아 처리용량 확대를 통해 지연 시간을 개선했다고 회사는 설명했습니다. 요금은 입력 100만 토큰당 0.10달러(캐시된 입력은 0.01달러)이며 출력 토큰에는 요금이 없고 데이터 처리 지역을 미국이나 EU로 지정할 수 있으며 자격 요건을 충족하면 오픈AI가 데이터를 보관하지 않는 옵션을 이용할 수 있고 오픈AI 내부 테스트에서는 보험가입증명서 30건을 대상으로 처리 경로 선택 속도가 약 5배 빨랐다고 밝혔습니다.