AWS 示範在 SageMaker HyperPod 以 SkyRL 強化 Qwen3-VL-8B 迷宮解題
AWS 的技術教學展示如何在 SageMaker HyperPod 上部署 SkyRL,以 GRPO 後訓練 Qwen3-VL-8B。該模型在固定 64 個迷宮的測試中,解題率從 43.75% 提升至最高 96.875%。

完整報導
AWS 於 2026 年 9 月 25 日發布技術教學,示範如何在 Amazon SageMaker HyperPod 上執行開源強化學習框架 SkyRL,對 Qwen3-VL-8B 視覺語言模型進行後訓練。流程以 VisGym 的監督式微調檢查點為起點,採用群組相對策略最佳化(GRPO),讓模型透過多次迷宮任務的結果更新策略。
在 AWS 公布的固定 64 個迷宮評估中,起始解題率為 43.75%;訓練約 100 步時達到 75%,並於第 160 步達到最高 96.875%,即解出 62 個迷宮。這些數字是該教學所述實驗的結果,並非不同模型或其他工作負載的效能比較。
示範架構以 Ray 在 HyperPod 上建立運算環境,由一個 CPU 主節點管理三個 GPU 工作節點,共配置六張 GPU。SkyRL 將 vLLM 推論引擎用於產生訓練軌跡,並以 FSDP 執行策略訓練;LoRA 權重則透過共享的 Amazon FSx for Lustre 儲存同步。教學也涵蓋從 SageMaker Studio 建立 Ray 叢集、提交及監控工作,以及託管訓練後的 LoRA adapter 供推論使用。
AWS 表示,HyperPod 會監控節點健康狀態並自動替換故障節點;搭配檢查點,訓練工作可從最近儲存的步驟恢復。監控部分則使用 Ray Dashboard 和 Amazon Managed Grafana。另在一篇不同的 AWS 教學中,AWS 表示 MoE 強化學習工作負載透過 EKS、EFA 與 DeepEP,在 48 台 P5en 執行個體上取得 40% 的整體 rollout 吞吐量提升;該結果來自另一套架構與基準測試,不能與 SkyRL 迷宮實驗直接比較。
為什麼值得注意
這篇教學把多模態強化學習後訓練的關鍵環節串在一起:Ray 叢集配置、rollout 生成、策略更新、共享儲存、監控和 adapter 推論託管。對評估此類工作流程的團隊而言,公布的迷宮測試結果提供了具體案例,而節點復原與檢查點則說明長時間訓練如何處理硬體故障。
來源證據
先看主要證據,再查看佐證來源與來源脈絡。
主要證據
1Accelerate multimodal RL training with SkyRL on Amazon SageMaker HyperPod
Nilesh PS
“Learn how to run SkyRL, an open-source reinforcement learning framework, on Amazon SageMaker HyperPod to post-train a Qwen3-VL-8B vision-language model with GRPO. This walkthrough covers building the container image, launching a Ray cluster from SageMaker Studio, submitting and monitoring the job, and hosting the trained LoRA adapter for inference.”
推薦消息
根據品牌、主題與近期相關消息推薦