美東時間7月29日，蘋果公司發布iPhone AI的首個預覽版，隨后發布論文，稱其人工智能模型是在谷歌的TPU(張量處理單元)上訓練的。論文中介紹了為支持Apple Intelligence功能而開發的基礎語言模型，包括一個設計用于在設備上高效運行的約30億參數模型和一個基于私有云計算的云側大模型。
蘋果基礎模型的建模概述蘋果官方發布論文
蘋果發布的論文稱，他們在8192塊TPU v4芯片上訓練云側AFM(Apple Foundation Model)，使用4096的序列長度和4096個序列的批量大小，進行了6.3萬億token訓練。端側AFM在2048塊TPU v5p芯片上進行訓練。
蘋果的決定表明，一些大型科技公司在人工智能訓練方面可能正在尋找英偉達圖形處理單元的替代品。
一些芯片行業媒體稱，這是蘋果打響了拋棄英偉達GPU的第一槍。
今年6月初，日本證券公司瑞穗證券估計，英偉達控制著用于訓練和部署OpenAI的GPT等模型的AI芯片市場的70%至95%。一些專家將英偉達在AI芯片市場的地位描述為護城河，其旗艦AI圖形處理單元GPU(例如H100)與該公司的CUDA軟件相結合，使其在競爭中占據了先機。
包括谷歌、Meta、甲骨文和特斯拉在內的科技公司一直在努力構建自己的人工智能系統和產品。
心智觀察所研究員潘攻愚指出，蘋果宣布其Apple Foundation Model(AFM)在谷歌自主開發的Tensor處理單元(TPU)進行訓練，而且還租用了谷歌的云服務。蘋果在AI訓練方面的權衡折射出了英偉達通用型AI加速器和谷歌的ASIC定制化AI服務體系的競爭升級。
谷歌自2015年以來一直在使用自主設計的TPU來訓練和部署AI模型。不是設計通用處理器，而是將其設計為專門用于神經網絡工作負載的矩陣處理器，在整個大量計算和數據傳遞過程中，根本不需要訪問內存。
今年5月，谷歌宣布推出了人工智能(AI)數據中心芯片Trillium，據稱該芯片的速度相比之前的版本提升了幾乎5倍。該公司表示，這款芯片將用于開發自己的模型，包括Gemini和Imagen。
谷歌稱，如果提前三年預訂，最新的TPU每小時使用成本不到2美元。谷歌于2015年首次推出TPU用于內部工作負載，并于2017年向公眾開放。它們現在是專為人工智能設計的最成熟的定制芯片之一。
盡管如此，谷歌仍是英偉達最大的客戶之一。它使用英偉達 的GPU和自己的TPU來訓練AI系統，并且還在其云端出售英偉達技術的訪問權限。
“雖然英偉達目前控制著高達80%份額的高端AI芯片市場，但剩余市場份額大多被大型云服務供應商如谷歌、微軟、亞馬遜占據。這一次蘋果采用的谷歌TPUv5雖然在通用性上較英偉達同生態位芯片遜色，但主打一個性價比，綜合總成本(TCO)要低英偉達四倍，而且拿貨周期短。目前谷歌TPUv5所在的市場大約有300億美元，英偉達一直覬覦這塊‘肥肉’，但考慮到和谷歌微妙的競合關系，英偉達目前還不會貿然大舉進入ASIC領域。”潘攻愚分析稱。
Meta首席執行官馬克·扎克伯格和Alphabet首席執行官桑達爾·皮查伊上周均發表評論稱，他們的公司和業內其他公司可能在AI基礎設施上投資過度，但他們也承認，不這樣做的商業風險太高。一旦落后，將無法掌握未來10到15年最重要的技術。
營業執照公示信息