高通相信,CloudAI100的性能優(yōu)勢可以讓它在深度學(xué)習(xí)芯片市場上占據(jù)上風(fēng)。高通有信心在產(chǎn)品性能、AI處理、數(shù)據(jù)處理等方面成為強(qiáng)大的領(lǐng)導(dǎo)者。
昨天,高通在舊金山召開了年度人工智能日(AIDay)大會。在本次會議上,該公司揭開了三款芯片的神秘面紗,而這三款芯片可以用于智能手機(jī)、平板電腦以及其他移動設(shè)備。然而,這些芯片只是開胃菜,重頭戲是一款專為邊緣計(jì)算設(shè)計(jì)的新產(chǎn)品——QualcommCloudAI100。
產(chǎn)品管理高級副總裁KeithKressin說,“我們設(shè)計(jì)這個全新的信號處理器旨在為AI推理服務(wù),”他還補(bǔ)充道,產(chǎn)品將在明年下半年開始生產(chǎn)。
CloudAI100集成了一系列開發(fā)工具,包括編譯器、調(diào)試器、分析器、監(jiān)視器、芯片調(diào)試器和量化器。此外,它還支持包括ONNX、Glow和XLA在內(nèi)的運(yùn)行時,以及Google的TensorFlow,F(xiàn)acebook的PyTorch、Keras、MXNet,百度的PaddlePaddle和微軟的CognitiveToolkit等機(jī)器學(xué)習(xí)框架。
高通估計(jì),這款產(chǎn)品的峰值性能是驍龍855和驍龍820的3至50倍。公司還聲稱,與傳統(tǒng)的FPGA相比,它在推理方面的平均速度要快10倍左右。此外,以TOPs(高性能芯片常用的性能指標(biāo))衡量,CloudAI100的運(yùn)算速度可以“遠(yuǎn)遠(yuǎn)超過”100TOPs。相比之下,驍龍855的最快只有7TOPs。
Kressin解釋說:“FPGA或GPU通常可以更有效地進(jìn)行AI推理處理,因?yàn)镚PU是并行的,而CPU是串行的,并行芯片更適合AI處理。不過,GPU最初是為處理圖形而生,我們要專門設(shè)計(jì)一個芯片來加速AI,才能得到更加顯著的提升。從CPU到FPGA或GPU,經(jīng)過了一個數(shù)量級的改進(jìn),定制AI加速器能再加一個數(shù)量級改進(jìn)。”
高通進(jìn)軍云計(jì)算領(lǐng)域之前,它的主要競爭對手華為發(fā)布了業(yè)界最高性能Arm架構(gòu)處理器鯤鵬920。在SPECint(一個由12個程序組成的基準(zhǔn)測試套件,旨在測試整數(shù)性能)中,該芯片的得分超過了930分,比行業(yè)基準(zhǔn)高出將近25%,而功耗比行業(yè)現(xiàn)有廠商提供的產(chǎn)品低30%。
高通的競爭對手可不止華為一個。
今年1月,在拉斯維加斯舉行的消費(fèi)電子展上,英特爾詳細(xì)介紹了即將推出的Nervana神經(jīng)網(wǎng)絡(luò)處理器(NNP-I)。據(jù)報(bào)道,該處理器的AI訓(xùn)練性能將達(dá)到競爭對手顯卡的10倍。谷歌去年推出了專用推理芯片EdgeTPU。阿里巴巴去年12月宣布,計(jì)劃在今年下半年推出首款自主研發(fā)的AI推理芯片。
在FPGA方面,亞馬遜最近推出了自己的AI云加速芯片,名為AWSInferentia。微軟也在ProjectBrainwave中展示了類似的產(chǎn)品。今年3月,F(xiàn)acebook發(fā)布了用于AI推理的服務(wù)器芯片KingsCanyon。本月,英特爾宣布推出Agilex系列芯片,優(yōu)化AI和大數(shù)據(jù)工作。
但高通相信,CloudAI100的性能優(yōu)勢可以讓它在深度學(xué)習(xí)芯片市場上占據(jù)上風(fēng)。預(yù)計(jì)到2025年,該市場規(guī)模將達(dá)到6630萬美元。
“很多公司都把網(wǎng)絡(luò)硬件放在邊緣,形成一個內(nèi)容傳輸網(wǎng)絡(luò),這個網(wǎng)絡(luò)可以完成云游戲或是AI處理等不同類型的任務(wù)。這個趨勢非常關(guān)鍵。因?yàn)檫@樣一來,無論是終端用戶的輸入技術(shù),還是云端,都會有高通的參與。”
高通還有另一個潛在優(yōu)勢——生態(tài)系統(tǒng)的支持。
去年11月,高通承諾向一家專注于edgeAI和on-deviceAI的初創(chuàng)基金提供1億美元,資金將用于自動駕駛汽車、機(jī)器人、計(jì)算機(jī)視覺和物聯(lián)網(wǎng)等領(lǐng)域。去年5月,它與微軟合作開發(fā)了一個visionAI工具包,輔助嵌入在系統(tǒng)芯片中的AI加速器。
“就市場規(guī)模而言,推理正在催生一個大型芯片市場,”Kressin表示,“隨著時間的推移,我們預(yù)計(jì),在2018年至2025年期間,市場規(guī)模大約會擴(kuò)大10倍。我們非常有信心,高通在產(chǎn)品性能、AI處理、數(shù)據(jù)處理等方面,將會成為強(qiáng)大的領(lǐng)導(dǎo)者。”