Google 在今年度的雲端大會 Google Cloud Next ’23 上推出了新一代自家研發的 AI 加速器晶片 Cloud TPU v5e!除了成本不到第四代的 50%,更可怕的是訓練 LLM 性能提高 2 倍、推理性能提高 2.5 倍!
TPU(Tensor Processing Unit)是 2017 年起 Google 自己設計、研發,專為 AI 所製造的晶片,之前 Google 傑出科學家紀懷新(Ed H. Chi)博士就曾說明 Google 現在所有自家訓練 AI 的工作 100% 都是由 TPU 進行;這次 Google 推出第五代,就是主打可以讓 GCP 客戶訓練 AI 時獲得更高的運算性價比。