【英偉達公司在人工智能領域是否已經不可戰勝？】在英偉達公司2019財年第一季度的財報當中，其表現再次超出預期——總收入增長66％，強勁的數據中心業務增長71％（本季度收入達到1．7億美元）。對于英偉達公司而言，“數據中心”業務部分包括高性能計算（簡稱HPC）、數據中心托管圖形以及人工智能加速幾大組成部分。雖然這一增長率無疑令人印象深刻，但卻仍然不及該過去幾年當中實現的2到3倍同比增長水平。這就引出了我們今天將要討論的有趣話題。這種增長速率只是種周期性的波動，還是說業務規模達到一定程度后的必然下降？谷歌張量處理單元（簡稱TPU）等定制化內部芯片的出現是否會威脅到英偉達公司在深度學習訓練領域中的主導地位？英特爾、AMD以及該領域中的其它初創企業能否迎頭趕上？帶著這些問題，我們馬上開始這一輪思考。

英偉達公司在人工智能領域是否已經不可戰勝？

圖一：按各業務部門劃分，英偉達公司旗下幾乎所有業務方向均實現增長。

英偉達公司發布了哪些財報結論？

如您所見，英偉達公司本季度的表現可以說爆炸來形容。盡管拋售了約2％的股票，但其今年以來股價仍然上漲33％左右，并在過去兩年當中上漲近7倍。一部分分析師指出，數據中心收入未能達到預期——實際為7．01億美元，略低于預期的7．03億美元，不過二者之間的差距基本可以忽略不計。我認為一部分交易者只關注投資回報，但也有一些交易者越來越擔心目前的競爭格局可能出現惡化。但就我個人而言，英偉達公司前四個季度的數據中心業務增速都在100％以上，因此對于一家可能在新的一年中營收超過20億美元的企業而言，71％地增長速率仍然相當值得肯定。

同樣需要強調的是，前幾個季度英偉達公司還拿下了其它幾份重要訂單——包括為位于橡樹嶺國家實驗室的Summit超級計算機提供2萬7600塊VoltaGPU以支持大規模高性能計算業務。我不知道橡樹嶺實驗室的單塊VoltaGPU采購單價，但如果按照5000美元到8000美元計算，則相當于給英偉達帶來了1．3億到2億美元的收入。如果送去這部分數字并考慮到英偉達業務的潛在優勢，那么70％左右的增長率已經相當符合市場發展情況，因此具備一定的可持續性。換言之，如果英偉達公司要保持目前的發展速度，只需要繼續在其它競爭對手面前保持領先優勢即可。在后文當中，我們將進一步介紹英偉達公司目前面臨的具體競爭壓力。

競爭壓力來自何方？

英偉達公司在人工智能領域的驚人增長已經引起高度關注，亦吸引到眾多潛在競爭對手。其中不少企業宣稱其正在研發的芯片比英偉達產品速度更快，而且功耗更低。但實際情況是，在今年或明年當中，只有少數幾家企業有可能實際發布相關芯片產品。事實證明，設計出一款比無數英偉達工程師精心打造的芯片好出十倍的解決方案可謂極為困難，而且需要投入大量時間與金錢。除了AMD公司的GPU之外，其它各廠商都認為為神經網絡處理專門設計芯片才是最具可行性的發展路線。下面，我們將對這一領域展開探索。

英特爾：

英特爾公司收購了Nervana（以及Mobileye、Movidius以及Altera）以構建自己的加速產品組合。在2016年被英特爾收購之前，NervanaEngine的初代版本本來計劃于去年正式發布，但截至目前仍然沒有實際方案可供參考。相比之下，英偉達公司則決定重新對自家產品進行設計，而其引入VoltaGPU的TensorCores確實帶來了令世人震驚的效能——其性能比Pascal（英偉達的上一代GPU）高出6倍。從理論層面講，Nervana芯片的性能應該是10倍于Pascal，所以可以想見TensorCores的出現可能會令英特爾決定放棄Nervana。畢竟如果V100Volta在關鍵人工智能運算方面的性能真正達到Pascal的6倍，那么Nervana作出的“10倍”宣言在力度上將大打折扣——特別是考慮到Nervana的性能優勢中還包含軟件調整。在另一方面，英偉達公司也在定期通過軟件優化工作提高應用性能。事實上，如果英特爾繼續推動Nervana發展路線圖，那么其批量生產最早也要到2018年年末才能實現——這將正好趕上英偉達公布Volta的下一代升級方案。至于公布平臺，我猜很可能是在達拉斯的SC2018大會上。

以上討論主要圍繞深層神經網絡——簡稱DNN——的訓練展開，而英偉達公司在正是在這一領域取得巨大成功。不過英特爾方面表示，通過將良好的軟件設計方案同標準英特爾至強數據中心處理器相結合，其同樣能夠在推斷工作方面實現出色的性能。芯片巨頭表示，其目前擁有超過80％的推斷處理市場份額——對這樣的結論，我當然沒有質疑的理由。在最近的一次宣傳活動當中，英特爾公司的醫療衛生客戶也談到其在同一英特爾平臺之上運行訓練與推斷處理所帶來的優勢。

除此之外，微軟也在利用英特爾AlteraFPGA方面取得了值得肯定的進展——FPGA能夠不斷重新編程以滿足各種苛刻的應用加速需求。需要強調的是，Xilinx的表現同樣出色，其利用AmazonAWSMarketPlace與F1加速實例成功簡化了FPGA應用的入門門檻。不過出于某些數據類型與延遲需求的考量——例如無人機與自動駕駛汽車場景，FPGA有時需要配備專門的低功耗加速器（英特爾收購Mobileye與Movidius正是出于這一考慮）。

谷歌TPU與其它內部ASIC：

谷歌公司目前正在研發兩款面向人工智能的專用集成電路（簡稱ASIC）：其中一種專門用于推斷，另一種則用于模型訓練。谷歌將“TPU”以加速器的姿態推向市場，但實際上，TPU由四個相同的ASIC部件構成，其中每個部件可提供約每秒45萬億次（TOPS）運算能力。相比之下，英偉達Volta的單芯片處理能力高達每秒125萬億次。在我看來，這樣的市場定位令人困惑，且效果糟糕。換句話來說，根據該芯片的多項基準測試結果表明，其僅適用于以下場景：1）您不需要在GoogleCloud之外運行自己的人工智能模型；2）您樂于使用未經優化的TensorFlow模型；3）不打算或者不需要直接控制ASIC——這一點與大多數科學家的英偉達GPU使用方式恰恰相反。坦率地講，經過三重篩選，其只剩下極為有限的利基市場可供發展。更重要的是，這與業界的主流猜想同樣存在沖突——人們普遍認為谷歌公司會隨著時間推移而將其大部分內部GPU工作負載轉移至TPU之上。

谷歌公司最近宣布其將推出下一代TPU3．0，而通過目前有限的細節與令人難以理解的性能結論，我們很難弄清該公司到底指的是更大的“pod”還是單一TPU芯片性能。在我看來，TPU3．0的主要變化在于推出令人印象深刻的系統重新設計方案，且水冷機制的引入將能夠進一步提升計算密度。但請注意，TPU2．0仍然只幫助于單一部件，且直到2018年年末才會迎來“pod”集群支持能力。此外，其目前尚處于beta測試階段，且距離真正發布還有一整年時間。這意味著我們不太可能在短時間內看到TPU3．0被正式投入生產環境。

斯坦福大學最近發布的基準測試方案證明，沒有哪一種解決方案能夠在AI工作負載領域占據主導地位——決定實際性能的主要是您的實際負載內容。對于云計算而言，GPU可能是更好的選擇，因為云客戶的使用模式一直處于不斷變化之中，且需要各種各樣的模型并配合不同的軟件框架。出于這個原因，我預計谷歌公司將在可預見的未來繼續提供英偉達GPU類實例，否則其將面臨被AmazonAWS以及微軟Azure全面壓制的風險。

至于其它廠商，例如Facebook與Amazon，據稱其也在走上同樣的道路。但我繼續對此抱持懷疑態度——我不是說這一切不會發生，只是可能不會很快發生。

AMD：

盡管AMD公司在籌備其軟件堆棧以對抗英偉達機器學習工作負載方面表現得不錯，但其現有芯片（Vega）在峰值性能方面仍比英偉達的Volta落后一個世代（每秒25萬億次對Volta的每秒125萬億次）。我懷疑AMD公司可能會在今年晚些時候追及Volta，或者還會使用經過重新設計的7納米GPU部件。盡管如此，AMD方面仍然需要努力開發市場及生態系統，從而真正與英偉達展開競爭。芯片速度確實很重要，但還不足以確保成功。

初創企業：

著眼于全球范圍內，目前至少有十幾家初創企業有計劃在機器學習領域一展身手，其中一部分甚至已經準備好推出自己的芯片。中國的寒武紀科技看起來資金充足，且擁有中國政府的強有力支持。中國政府已經無法忍受人工智能芯片的全部利潤皆被美國技術企業占有的現狀。寒武紀科技公司目前僅著眼于部分工作，且尚未涉及深層神經網絡訓練領域。與其它初創企業類似，寒武紀科技公司專注于神經網絡的處理——而非構建。

來自硅谷的WaveComputing公司似乎有意打造規模最大的模型訓練芯片。Wave公司采用了一種名為“數據流架構（DataFlowArchitecture）”的新型設計，號稱能夠消除通過PCIe與CPU對接的傳統加速器的性能瓶頸。Wave公司的方案將把CPU排除在外；數據流處理器將直接負責對神經網絡進行訓練與處理。與谷歌TPU不同，Wave將支持用戶利用微軟CNTK、AmazonMXNet以及TensorFlow等軟件實現深度學習。根據該公司的公開表態，我預計相關系統將于2018年下半年發布。需要注意的是，這里我說的是“系統”，而不僅僅是芯片——Wave公司打算為云端及內部環境的企業AI方案構建定制化平臺與設備方案。

其它知名廠商還包括尚處于隱身階段的Cerebras、GraphCore以及Croq等，其已經短信到大量風險投資以構建定制化AI加速器。我預計這些廠商不太可能在2019年之前發布工作系統，因此我們需要持續關注其未來動向。

值得注意的是，英國KisacoResearch公司將于今年9月18日與19日在圣何塞的計算機歷史博物館舉辦首屆AI硬件峰會。此次會議將首次專注于AI芯片與系統。盡管與其它議程長達一周左右的重量級會議相比其時間仍然較短，但我希望此次會議能夠幫助我們更好地了解各初創企業目前已經走到了哪一步。

總結

考慮到這一切，讓我們重新回到對英偉達公司的預測。很明顯，該公司順利完成了從游戲到加密、再到AI的轉型歷程，而且并沒有遭遇過任何重大障礙。除了公司卓越的CEO黃仁勛及其令人敬畏的芯片、軟件與平臺方案之外，英偉達還特別喜歡與狂熱開發者及云服務用戶群體接洽。因此即使價格相當高昂，英偉達的方案仍然得到了全世界受眾的熱烈追捧。

英偉達公司CEO黃仁勛以務實的管理風格與極具創新性的愿景設置領導著這家巨頭企業。

坦率地講，我認為目前英偉達公司面臨的最大威脅可能來自谷歌TPU——當然，谷歌的內部消費級人工智能訓練能力在短期內仍然比較有限。在可預見的未來，谷歌公司可能會繼續購買并利用大量GPU以處理不太適合TPU的工作負載，例如用于語言處理的遞歸神經網絡。我相信對于不打算利用公有云進行人工智能開發及部署、也不希望自行構建GPU基礎設施的企業用戶而言，Wave應該是個不錯的選擇。最后，如果英特爾公司能夠通過Nervana殺入這一市場，并愿意全力投入以支持其發展，那么芯片巨頭有可能在2019年年內構成新的威脅。但這種影響僅僅存在于利潤空間層面；要真正建立起具備可行性的生態系統，英特爾至少需要3年的時間外加堅實的發展路線圖。另外需要考慮的一大重要因素是，隨著英偉達公司7納米制程技術的發展，其將能夠進一步壓縮AI處理芯片的面積。因此，專注于人工智能應用方向的芯片占比可能有所增加，這意味著其在一定程度上也可作為圖形ASIC使用。

在我看來，英偉達并不屬于一家GPU廠商——相反，這是一家對業務增長抱有熱情與渴望的平臺供應商。請記住，目前的技術行業當中還沒有哪家廠商能夠在AI硬件與軟件專業知識的深度與廣度方面與英偉達相抗衡。其已經通過深度學習加速器（簡稱DLA）證明了這一點。如果GPU業務受到威脅，那么英偉達公司完全可以快速實現車工。在推斷處理方面，英偉達公司專注于為數據中心工作負載以及用于自動加速汽車等應用的視覺導航系統提供助力。雖然汽車市場在未來幾年當中還不會真正迎來變革，但我完全相信這場革命終將到來——具體時間點也許會是AI訓練市場開始放緩，或者競爭水平進一步升級的時刻。