官方來源· NVIDIA AI Blog· 發布於 2026年10月2日

NVIDIA:Blackwell GPU 加速 GPT-6 Astra Ultrafast,token 生成最高可快 8 倍

NVIDIA 表示,GPT-6 Astra Ultrafast 在 NVIDIA Blackwell GPU 上執行,已提供給 OpenAI API 與符合資格的 ChatGPT Work、Codex 使用者;相較 Astra Standard,token 生成速度最高可達 8 倍。

NVIDIA:Blackwell GPU 加速 GPT-6 Astra Ultrafast,token 生成最高可快 8 倍

完整報導

NVIDIA 表示,GPT-6 Astra Ultrafast 在 Blackwell GPU 上執行,並透過 OpenAI 模型持續進行的推論最佳化加速。目前該模式已提供給 OpenAI API,以及符合資格的 ChatGPT Work 與 Codex 使用者。

依 NVIDIA 公布的數據,Ultrafast 相較 Astra Standard 可提供最高 8 倍的 token 生成速度,應用情境包括程式碼生成、工具呼叫與互動式應用。NVIDIA 也表示,OpenAI 正使用自家模型協助最佳化在 NVIDIA GPU 上執行的推論軟體,以持續改善回應速度與基礎設施利用效率。

為什麼值得注意

更快的 token 生成會直接影響 coding agent、工具呼叫與互動式工作流程的等待時間;不過「最高 8 倍」是 NVIDIA 公布的效能主張,應以其測試與 OpenAI 實際可用條件解讀。

來源證據

先看主要證據,再查看佐證來源與來源脈絡。

1 則

主要證據

1
  • 官方NVIDIA AI Blog文件原始來源

    How NVIDIA GPUs Help Accelerate OpenAI’s GPT-6 Astra Ultrafast

    Dion Harris

    “GPT-6 Astra Ultrafast, running on NVIDIA Blackwell GPUs, is available now in the OpenAI API and to eligible ChatGPT Work and Codex users. Accelerated by inference optimizations through OpenAI’s models that tap into the capabilities of the NVIDIA Blackwell architecture, Ultrafast offers up to 8x faster token generation than the Astra Standard mode.…”

推薦消息

根據品牌、主題與近期相關消息推薦

目前沒有更多推薦消息

官方原始聲明

查看官方原始來源