How to Win the Largest Market in AI（如何贏得AI最大的市場——推論）

來源： A16Z 原文日期： 2026-07-23 作者： Raghu Raghuram and Sarah Wang

中文摘要

A16Z 論證 AI 推理（Inference）將超越訓練（Training）成為 AI 最大的市場，並提出「專業化轉折」（Specialization Turn）的歷史規律：當一個工作負載規模足夠大且形態穩定時，從通用計算轉向專用硬體可大幅提升效率與降低成本。從 GPU 取代 CPU 做圖形運算，到 Broadcom 客製晶片處理網路封包，歷史一再重複。現在 AI 推論正處於這個關鍵轉折點——需求垂直成長，客製化推論晶片將是下一個巨大的市場機會。

關鍵洞察

訓練是 Capex，推論是 Opex：訓練是一次性成本（像拍電影），推論則隨著使用量線性增長，長期市場規模更大

專業化轉折：一個工作負載規模越大、型態越穩定，就越值得為它打造專用硬體。AI 推論正處於這個階段

客製化 AI 推論晶片和系統（如 Google TPU、AWS Trainium、各類 AI 晶片新創）將成為主流基礎設施

原文關鍵句（英文保留）

> "The more important a workload, and the more stable its shape, the more sense it makes to build hardware in the image of the workload. We are witnessing this now for perhaps the most consequential workload of our lifetime: AI inference."

對 CJ 哥的價值

可作為企業評估 AI 基礎設施策略的參考框架（Build vs. Buy vs. Customize）

對硬體供應鏈分析、AI 投資決策有直接參考價值

推論成本下降趨勢將推動更多企業 AI 應用落地，是顧問工作中分析 AI 普及化的關鍵論點