tech 概念解析
LLM 推論時的三個層次:Decoding、Workflow、Reasoning 技術整理
LLM 的輸出品質由三個層次共同決定:token 層級的 decoding 策略、任務層級的 workflow 設計、以及模型層級的 reasoning 能力。搞清楚這三層的差異,才能針對問題選對工具。
Tag
1 篇文章
LLM 的輸出品質由三個層次共同決定:token 層級的 decoding 策略、任務層級的 workflow 設計、以及模型層級的 reasoning 能力。搞清楚這三層的差異,才能針對問題選對工具。