TiDAR:Nvidia 的擴散+自回歸混合架構——把閒置的 GPU 算力換成推論加速
TiDAR 是 Nvidia 提出的自回歸+擴散混合語言模型架構:它的取樣結果與純 AR 完全一致(保住品質),卻能利用 AR 推論時閒置的 GPU 算力、用 diffusion 預先計算來換取加速,幾乎是一頓『免費午餐』。
Tag
1 篇文章
TiDAR 是 Nvidia 提出的自回歸+擴散混合語言模型架構:它的取樣結果與純 AR 完全一致(保住品質),卻能利用 AR 推論時閒置的 GPU 算力、用 diffusion 預先計算來換取加速,幾乎是一頓『免費午餐』。