傳統的大模型強化學習(RL)通常採用「分階段專項特訓」——寫程式練一套、圖像理解練一套、資安攻防再練一套,這導致訓練時間拉長,且容易產生「學了新能力、忘記舊能力」的災難性遺忘現象。
- 多領域混合並行訓練:小米的「You Only RL Once」打破了這個限制,將程式碼生成、Agent 任務、視覺理解與資安攻防等多領域數據,一次性全部納入同一輪 RL 流程中進行訓練。
- 創新的評分與蒸餾機制:透過團隊設計的「Groupwise Agentic Grading」自動評分機制,模型能迅速獲得準確的反饋;再加上「Multi-Teacher On-Policy Distillation」,讓模型邊練邊向多個專精領域的大型導師模型學習精華。
- 極致的迭代效率:這種方法避免了重複訓練的資源浪費,最終僅用 30 個訓練步驟、6 天時間與 75 萬條軌跡就完成收斂,成功將算力成本縮減至傳統旗艦模型的幾十分之一。