#inference

CPU vs GPU vs TPU：選錯了真的很貴

CPU 適合控制流程複雜的任務，GPU 適合大規模平行計算，TPU 針對矩陣運算做了極致優化。對大多數工程師來說，真正的決策點是雲端推理用 GPU 還是 CPU，以及何時值得租 TPU。