DiffusionGemma 的生成機制與傳統自迴歸模型有何不同？

DiffusionGemma 採用了與傳統自迴歸模型截然不同的生成邏輯。傳統模型如同一台「打字機」，必須依序從左至右、一個 Token 接著一個 Token 順序生成，這在本地端運行時常導致 GPU 算力因等待下一個按鍵觸發而嚴重閒置。相比之下，DiffusionGemma 導入了「文字擴散技術（Text Diffusion）」，其運作流程類似「大規模印刷機」，主要分為三個階段：首先是「建立畫布」，模型會先生成一個包含 256 個隨機佔位符的 Token 區塊；接著進入「反覆精煉」，透過多次掃描鎖定正確的 Token 並以此作為上下文線索，即時修正區塊內其餘內容；最後進行「最終打磨」並輸出高品質段落。這種模式將解碼瓶頸從記憶體頻寬轉移到了運算核心，讓 GPU 能夠火力全開，在特定硬體上實現了高達 4 倍的推論速度提升。此外，由於它一次處理 256 個 Token，模型具備了「雙向注意力（Bi-directional attention）」，這使其在處理非線性任務時，能比傳統模型更有效地統觀全局並即時自我修正錯誤。