CPU、GPU、TPU 有什麼不同?為什麼同一個運算跑起來差這麼多
同一個運算在 CPU、GPU、TPU 上表現差很多,因為三種晶片針對的計算型態不同:CPU 追求彈性、GPU 追求平行吞吐量、TPU 專攻機器學習的張量運算。
Tag
2 篇文章
同一個運算在 CPU、GPU、TPU 上表現差很多,因為三種晶片針對的計算型態不同:CPU 追求彈性、GPU 追求平行吞吐量、TPU 專攻機器學習的張量運算。
透過 Docker 在 GPU 機上部署 Ollama,並在 Windows 用 netsh portproxy 將 localhost:11434 轉發到 GPU 機,讓 Codex 在 Windows 上透明使用遠端 GPU。