GPT-6 Astra에 Ultrafast 모드 추가…NVIDIA "최대 8배 빠른 생성"

제공 범위와 발표된 속도

Ultrafast를 쓸 수 있는 대상은 OpenAI API 이용자와 자격 요건을 갖춘 ChatGPT Work·Codex 이용자다. 최대 8배라는 수치는 독립적으로 검증된 결과가 아니라 NVIDIA가 두 모드를 견주어 제시한 값이다.

NVIDIA는 생성이 빨라지면 코딩 에이전트의 수정·테스트·디버그 주기와 도구 호출 사이의 응답 생성 시간이 줄고, 대화형 애플리케이션의 반응성이 높아질 수 있다고 설명했다. 확정된 성과가 아니라 가능성으로 제시된 내용이다.

가속 방식과 관계자 설명

Ultrafast는 NVIDIA 블랙웰 GPU에서 구동된다. NVIDIA는 OpenAI 모델이 블랙웰 아키텍처의 기능을 활용하도록 추론을 최적화해 Ultrafast를 가속했다고 밝혔다. 추론 최적화는 모델을 학습시키는 단계가 아니라 이미 만들어진 모델이 답을 내놓는 단계의 처리 속도를 높이는 작업이다.

OpenAI 컴퓨트 부문 최고기술책임자 우데이 루다라주는 내부 모델을 활용해 NVIDIA GPU의 추론을 최적화했다고 말했다. 그는 프로그래밍이 가능한 NVIDIA 플랫폼의 구조가 가속에 도움이 됐다고 설명했다. OpenAI는 자사 모델을 이용해 NVIDIA GPU에서 실행되는 추론 소프트웨어를 계속 개선하고 있다.

NVIDIA는 프로그래밍이 가능한 자사 플랫폼에서 학습·추론·강화학습에 같은 인프라를 다시 쓰고, 수요에 따라 컴퓨트 자원을 전환할 수 있다고 설명했다.

공개되지 않은 부분

접근 방법과 가격, 구현 세부 사항은 원문이 안내한 Ultrafast 가이드에서 확인하도록 돼 있다. 속도 수치의 측정 조건과 대상 작업, ChatGPT Work·Codex 이용자의 자격 요건, 제공 시작 시점은 공개된 설명만으로 특정되지 않는다.