tech 深度解析
OpenAI 如何讓單一 PostgreSQL 撐起 8 億 ChatGPT 用戶:50 個讀取副本、PgBouncer、串聯複製
OpenAI 的 ChatGPT 資料庫架構是一個單一主庫 + 近 50 個讀取副本的 PostgreSQL,搭配 PgBouncer 連線池和 Azure 的串聯複製(cascading replication)。核心洞察:讀多寫少的工作負載不需要分片,優化讀取路徑才是關鍵。
Tag
2 篇文章
OpenAI 的 ChatGPT 資料庫架構是一個單一主庫 + 近 50 個讀取副本的 PostgreSQL,搭配 PgBouncer 連線池和 Azure 的串聯複製(cascading replication)。核心洞察:讀多寫少的工作負載不需要分片,優化讀取路徑才是關鍵。
AI 訓練與推論對記憶體的需求遠超傳統運算,HBM(High Bandwidth Memory)供不應求且持續到 2026 年以後。記憶體半導體市場 2024 年成長 78%,SK Hynix 佔 HBM 市場 62%,這個超級周期預計延續到 2028 年。