5月9日，依圖重磅推出了擁有世界級算法優勢的云端AI芯片——求索(questcore?)。這是依圖推出的第一款云端深度學習推理定制化SoC芯片，專為計算機視覺領域分析任務打造。性能秒殺英偉達！算法即芯片的時代來了。在今天的年度發布會上，擁有世界級算法優勢的依圖科技重磅推出云端AI芯片——求索（questcore?）！為AI芯片開辟了一條新道路。選擇在擅長的領域繼續發揮優勢。“求索”是依圖推出的第一款云端深度學習推理定制化SoC芯片，為計算機視覺領域分析任務打造，針對視覺領域的不同運算進行加速，適用于人臉識別、車輛檢測等多個應用場景。加入“造芯”陣營后，依圖科技瞄準其擅長的計算機視覺領域，再度打出重拳，這一拳打破了算法公司與芯片硬件公司的“次元壁”。

人工智能公司依圖科技發布云端視覺推理AI芯片questcore（求索），由依圖科技和兩年前投資的AI芯片初創團隊ThinkForce聯合開發。questcore基于擁有自主知識產權的ManyCore架構，采用16nm工藝，適用于人臉識別、視頻結構化分析、行人再識別等多種圖像和視頻實時智能分析任務。

依圖科技聯合創始人兼CEO朱瓏介紹，在實際的云端應用場景，questcore最高能提供每秒15TOPS的視覺推理性能，最大功耗僅20W，比一個普通的電燈泡還小。在同等功耗下，questcore的視覺推理性能是市面現有主流同類產品的2——5倍。

發布會現場，依圖科技首席創新官呂昊手拿一臺體積大小和15英寸蘋果MacBookPro筆記本相當的依圖原子服務器，帶動現場200個攝像完成實時智能視頻分析，對嘉賓進行人臉對比。呂昊介紹，依圖原子服務器基于questcore打造，一臺服務器提供的算力與8張英偉達P4卡服務器相當，而體積僅為后者的一半，功耗不到20%。對于芯片的落地情況，呂昊說，目前questcore先搭載在依圖原有的產品上，面向市場銷售解決方案和硬件等，未來會尋求更多的客戶。

“求索”已來：云端AI芯片市場再添新玩家

在發布會現場，依圖聯合創始人兼CEO朱瓏談到了AI芯片為何難做，用了三個“沒有”作為排比句：

沒有典型場景應用就沒有意義；

沒有超越NVIDIA的芯片就沒有意義；

沒有世界級的算法就沒有意義。

如果一款AI芯片沒有定制方向、沒有超過業內最大咖的玩家、沒有頂級算法作為支撐，那么這款芯片就不能稱為是成功的，這也是依圖所面臨的挑戰。

依圖科技的確擁有世界級的算法優勢，但它并非芯片創業公司，在投入大、門檻高的芯片行業，一開始就選擇了高端玩家頗多的領域進軍——自研云端AISoC，頗有要挑硬骨頭下手的意思。

先來看下規格：

類型：系統級芯片(SoC)；

架構：ARM+ManyCore?；

制程：16nm

工作記憶內存：LPDDR4X；

解碼：64路全高清實時。

發布會現場，依圖科技首席創意官呂昊為大家進行了芯片演示——他手持一臺體積與15英寸蘋果MacBookPro筆記本相當的依圖原子服務器，成功帶動200路攝像頭同時完成實時智能視頻分析任務。

剛開始大屏幕只顯示了服務器處理的27個攝像頭畫面——一個NVIDIAP4顯卡大概只能處理27個攝像頭。緊接著，大屏幕畫面突然顯示了原子服務器同時帶動200個攝像頭的畫面：

一場直觀的新品考驗。

依圖原子服務器基于questcore?打造，一臺服務器提供的算力與8張英偉達P4卡服務器相當，而體積僅為后者的一半，功耗不到20%。在進行視頻解析時，1臺依圖原子服務器（搭載4核questcore?芯片，除此之外無需其他配置），與8卡英偉達T4服務器（含雙核英特爾x86CPU）對比，單路視頻解析功耗僅為后者的20%，與8卡英偉達P4服務器（同樣含雙核英特爾x86CPU）相比，功耗約為后者的10%。

questcore?可獨立運行，自研架構，實現高性價比

這款芯片作為服務器芯片可以獨立運行，不依賴Intelx86CPU，并且采用依圖自研的ManyCore?架構，具有靈活可拓展的特質，適配各類深度學習算法。

從這些特性來看，這款云端芯片更看重“實用”二字——如何滿足更多的需求、如何將本有的算法優勢在芯片上發揮更大的作用、如何適應現有的生態。

簡單來講，它致力于解決一個實在的問題——如何實現高性價比。

“利用算法優勢”成為全場發布會的一大關鍵詞。依圖認為，好的算法才能更高效地利用芯片架構，才能指導芯片架構設計，把算力更高效地轉化為智能。這款芯片基于領域專用架構（DomainSpecificArchitecture，DSA）理念，專為計算機視覺應用而生。

questcore?是款“自立自強”的芯片：它作為服務器芯片可以獨立運行，不依賴Intelx86CPU。這也是依圖芯片與NVIDIAGPU、GoogleTPU和其他AI芯片公司研發的AI加速器產品一個很大的不同。

另外，這款芯片采用依圖自研的ManyCore?架構，據介紹，同等功耗下，這款芯片能提供市面現有同類主流產品2——5倍的視覺分析性能。

如果一款芯片想要實用性強，就必須擁有強大的可拓展性，以便應用于更多的場景。ManyCore?架構能夠適配各類深度學習算法，支持TensorFlow、PyTorch、Caffe等各類深度學習框架，便于無縫接入現有生態。在此架構下，questcore?構建的產品和解決方案可以兼顧云端和邊緣計算的需求。

據依圖科技向新智元介紹，這款芯片能實現性能和功耗比呈量級提升的根本原因之一是：ManyCore?架構針對INT8數據（8位整數數據類型）進行加速。

事實上，對于云端AI推理或者說視覺推理計算而言，并不需要高精度的計算，低精度的INT8數據類型已經足夠滿足需求。采用16nm制程也是考慮現在業界對視覺分析應用的需求。

在投入極高的芯片行業，如何實現高性價比是眾多玩家要實際面對的終極問題，算力的提升正是為了解決AI場景中的經濟學難題——用更少的成本解決更多的問題。

投資AI芯片初創團隊ThinkForce，依圖邁向算法芯片一體化

在發布會上，依圖表示未來立足“算法+芯片+數據智能”的極智戰略，深入行業，降低人工智能應用落地和推廣成本，賦能行業。

據介紹，questcore?芯片的設計和研發正是依圖算法團隊和ThinkForce團隊緊密合作的成果。

事實上，依圖科技在AI芯片領域內早有布局。2017年底，依圖正式對外宣布戰略投資AI芯片初創團隊ThinkForce。ThinkForce是中國少有的擁有芯片研發全鏈路能力的團隊，核心成員來自IBM、AMD、Intel、ZTE等芯片業界龍頭企業，全都擁有十年以上專業芯片研發設計經歷，經手過40余款不同芯片的量產。

有了如此高配的芯片研究團隊，打破算法與芯片的“次元壁”不再是難事，軟硬件一體化的產品也因此誕生。

事實上，次元壁本就不應該存在。市場上并不存在單獨能夠使用的軟件或硬件，整個行業、整個生態一定是緊密結合在一起的。

這款芯片將于與依圖智能軟件結合在一起，構成軟硬件一體化的產品或解決方案對外銷售，未來將應用于交通運輸、公共安全、智慧醫療和智慧零售等行業。TOB服務崛起之下，軟硬件一體化正成為一家AI企業的商業優勢，可以為客戶提供針對特定場景優化的性價比最高的解決方案。

AI芯片市場逐漸擁擠：“造芯”路上，定制化是未來方向

與依圖科技相似的是，Google、微軟、阿里等科技巨頭也在自研芯片：同樣也是通過利用自身特有優勢，從而為客戶提供更好的軟硬件一體化解決方案。越來越多企業加入了轟轟烈烈的“造芯”大軍。

AI芯片是個全新戰場。

押寶AI芯片可以說是大勢所趨，據研究報告顯示，目前AI芯片行業生命周期正處于幼稚期，市場增長快，2022年將從2018年的42.7億美元，成長至343億美元。

與其他戰場相比，這個新戰場充滿了不確定性，以及更多的機會——一個沒有先例可循的智能時代。中國AI創企與世界科技巨頭站在同一起跑線上，完全有可能成為新巨頭，同時加速數據中心服務器芯片自主可控進程。

美國杜克大學電子計算機工程系教授陳怡然、美國紐約州立大學教授陳逸中曾在文章《中國AI芯片有可能彎道超車》提到：人工智能應用場景千變萬化，其中應用的算法之間的差異更是巨大，可以預期未來各項應用將有不同的定制化芯片，出現人工智能芯片百家爭鳴的盛況。AI芯片的另一大特點在于它所面對的是一個全新的、還未被大公司充分定義的新的業務場景。即使是NVIDIA，也只是在云計算這一領域有一定的壟斷地位。

定制化芯片必然是未來方向。

世界級的創新需要世界級的命題，如今AI普及也成為世界級命題。依圖聯合創始人兼CEO朱瓏認為AI普及的關鍵是智能密度，而這里“智能密度”指單位面積硅芯片提供的算力轉化的智能。

然而，在半導體的摩爾定律已經臨近終結，智能密度繼續翻倍不能再只寄希望于摩爾定律。雖然半導體的摩爾定律逼近終結，但算法性能卻仍在萬倍增長，過去4年依圖的人臉識別算法精度提升了10萬倍。

同時，通用芯片已無法解決所有需求，定制化芯片與依圖questcore?一樣，GoogleTPU也是一種DSA，針對深度神經網絡（DNN）進行加速，GoogleTPU充分證明了DSA的優勢。而對于DSA芯片而言，領域知識是最重要的，需要對機器視覺技術和行業有著深刻理解，這是需要人工智能公司在研發和商用落地中不斷積累的。

一家算法公司造芯，需要下多大決心？

2017年就有傳言說依圖開始進軍AI芯片領域，并在開發AI芯片，對標另一家AI芯片初創公司地平線。對于這一說法，依圖首席創新官呂昊在采訪中對DeepTech澄清，從未在公司內部聽聞依圖做芯片對標的是地平線。

他表示，與谷歌、微軟、阿里等公司自研芯片一樣，依圖自己做芯片也是為了更好地發揮依圖算法和軟件的性能，為客戶提供更好的軟硬件一體化解決方案。

朱瓏則在發布會上表示，依圖開發這款芯片，不在于追求匹及英偉達上則幾百T的算力，而在于高計算密度。

圖丨questcore?與英偉達產品的單位面積算力比較

圖丨依圖科技首席創新官呂昊在現場演示已經配備questcore?的服務器機柜，并現場演示了4顆芯片如何支撐200路實時視屏解析，并具備人臉識別和比對的能力，目前產品已經商用

據依圖提供的信息，questcore?是全球首款深度學習云端定制SoC芯片，定位服務器芯片/云端AI芯，可獨立使用，將與依圖的智能視覺分析軟件結合，作為軟硬件一體化的解決方案對外銷售，適用于加速各類視覺推理任務，比如交通運輸、公共安全、智慧醫療和智慧零售等行業，尤其是對云端智能視頻實時分析等應用具有強需求的企業環境。搭載questcore?的依圖原子服務器，將為今年11月在上海舉行的第二屆世界進口博覽會提供安保服務。

在能效上，questcore?峰值性能達到11.2T（深度學習推理運算），功耗20W，攝像頭單路功耗僅為英偉達GPUP4的30%，同等功耗下，深度學習推理運算性能是市面同類產品的2——5倍。這款產品也支持TensorFlow、PyTorch等各類深度學習框架，適用于加速各類視覺推理任務，最高50路FHD視頻流硬件解碼，另外還支持虛擬化、容器化，可將AI云的彈性計算和調度提升一個量級。依圖也為questcore?配備了基于其自研ManyCore?架構的深度學習推理模塊，ManyCore?架構同樣適配各類深度學習算法。

圖丨questcore?支持的視覺推理場景

呂昊對DeepTech表示，questcore?由依圖和ThinkForce團隊共同打造，依圖在2017年2月時有了自研芯片的想法，大約2年時間順利完成一款量產AI芯片的研發，從設計到制造實現全面國產化，背后是依圖和ThinkForce之間的深度合作。

后者成立于2017年，同樣是近年來中國AI芯片初創公司中最值得關注的新星之一，曾提出過“算法即芯片”的論斷（這一論斷也在今天的發布會上由朱瓏屢次提及，顯然，這位算法出身的創始人非常認可這一論斷）。

據了解，ThinkForce團隊核心成員來自IBM、AMD、INTEL、LSI、Broadcom、Cadence、ZTE等業界龍頭芯片企業，負責過IBMPowerPC、AMDAPU的北橋、SonyPS3Cell處理器、MicrosoftXBOX游戲機主芯片、以及全球最高速的56GSerdes等，團隊成員手里曾量產過40款以上各類芯片，總銷售額數十億美元。2018年，ThinkForce完成4.5億元A輪融資，依圖正是投資方之一。

（來源：ThinkForce）

對于依圖推出這款云端AI芯片的原因，呂昊概括為三點：對行業的理解、產品體量已經達到一定程度（未透露具體量級）、依圖算法精度的提升。

第一款AI芯片之所以選擇了用在云端推理上，也是因為依圖各主要業務尤其在安防上的需求。questcore?主打視頻推理，主要關注分析處理視頻的數量，專用于加速視覺推理運算，比如人臉識別、視頻結構化分析、行人再識別等等，其和一些終端視頻推理芯片的區別在于，終端芯片只需要分析處理一路視頻，云端芯片則關心的是可以處理多少路視頻。呂昊表示，questcore?是目前更智能、性價比更高的視覺推理AI芯片。

“questcore?將整合在我們的產品中對外售賣。依圖的體量相對較大，最深耕的行業就是安防，因此不需要擔心由于市場體量較小而產生的成本問題……我們對于市場的需求、對于AI領域有自己的理解。2017年，公司對于AI算力需求增長以及產品競爭性有了一定的預判，因此有了自研AI芯片的決定”，他說。

不難看出，在這幾大動機中，現階段的業務需求是依圖第一次“造芯”的最直接原因。

圖丨2017年中國計算機視覺應用市場份額（來源：IDC）

依圖創立于2012年9月，自成立以來，其AI算法在人臉識別領域屢有突破，且現已不再局限于視覺識別方向，在業內也被認為是一家很明確的AI+垂直行業、應用層技術落地的AI算法公司，涉及安防、醫療、AI制藥、金融領域等。其中，依圖在安防和醫療領域布局較早，現已形成一定的先發優勢，例如依圖醫療智能輔助診斷系統已經在上海、浙江等近百家三甲醫院臨床應用，在安防上則搭建了全球首個十億級人像比對系統，算法已突破億級靜態比對。

圖丨依圖已有的算法突破

但顯然，現在，和業內很多公司一樣，依圖不單單只想追求極致的算法，也將目光投向了追求配合算法的極致算力上。“沒有典型場景應用沒有意義，沒有超越英偉達的芯片沒有意義，沒有世界級的算法沒有意義”，朱瓏說。

發布會上，依圖也第一次對外談及其對智能算力發展的理解和使命：提升智能密度，即從單位智能走向群體智能，單位面積智能算力更高。這一使命顯然已經從算法、數據跨越到了算力領域。

盡管采訪中依圖多次表示自身并非為了開發芯片而開發芯片、不為芯片商業化，但隨著這款云端AI芯片的推出，其定位將不再是一家純粹的AI算法公司。

圖丨含有4顆questcore?芯片的板卡

呂昊透露，公司既然決定自研AI芯片就不會只有一款產品，目前依圖已經開始著手第二款產品的研發，新芯片的算力還在優化，希望能達到同等產品2到5倍的提升。依圖表示，首先發揮自己最擅長和積累最多的機器視覺領域專業知識，今后將逐漸拓展到其他領域的芯片研發。

（來源：DeepTech）

算法紅利時代已過，垂直整合重回“C位”

依圖此次推出的芯片產品，能幫助依圖帶來怎樣的業務增長，仍有待時間和市場驗證，但我們相信，視覺算法公司進軍產業上游，開始自研芯片，現在還只是剛剛吹響前奏。去年就有業內人士對DeepTech表示，中國的計算機視覺產業一定會走出一家或者幾家自研CV芯片的公司。

把時間倒回到大概兩三年前，也就是在2015年——2017年，無論是在視覺還是語音方向，算法公司都是產業圈和創投圈最熱捧的對象。當時，在AI的三大支柱“算法、數據、芯片”中，AI公司的核心競爭力主要體現在前兩者。

但從去年開始，整體的情況又有了細微的變化：無論是語音識別、自然語言處理還是人臉識別算法，各家在幾個最主要指標上的表現或許仍有先后之分，但算法上彼此已經越來越難拉開距離。算法紅利逐漸吃緊，數據資源更是愈發掌握在極個別頭部公司手中，拼算力硬件也就成了一個水到渠成的階段。

這背后一個更重要的趨勢是，行業垂直整合的卷土重來。例如，過去1年，DeepTech接觸過的眾多涉及AI業務的公司，都在愈發頻繁地使用這個詞語——“全棧（fullstack）”。它意味著完整一套、端到端產品或服務體系的能力，正在成為描述一家AI公司競爭力的關鍵詞。

比如特斯拉，這家汽車公司最近推出了自己的芯片FSD，本質上已經拼上了最后一塊關鍵的版圖。放在過去，誰能想象一家汽車廠居然會自研自動駕駛芯片？

圖丨發布會上，依圖同樣對比了其與特斯拉FSD的性能功效，questcore?最大的不同在于兼顧云端和邊緣端

之所以說垂直整合是卷土重來，也是因為分工外包合作是主流，絕大多數企業傾向于專注核心業務，非核心業務與產業鏈上的供應商進行合作，打包捆綁式的合作模式讓出了舞臺中心。現在，垂直整合正在回歸，尤其是在電子信息密切相關的領域。

而特斯拉以外，蘋果更早嘗到了垂直整合的甜頭：不但寫軟件開發算法，還自研芯片，自運營零售商店。兩家公司分別在消費電子和汽車領域體現了高度垂直整合的價值，在用戶體驗、企業效率、建立壁壘上有顯著優勢。

圖丨特斯拉自動駕駛芯片FSD（來源：特斯拉）

“特斯拉就是非常明顯的信號，這不是熱度問題，這是行業落地的必然結果”，呂昊說，“今年是AI芯片產品出現比較多的一年，很多公司都會嘗試垂直整合”。

目前，在云端AI芯片市場上，我們已經看英偉達（T4）、谷歌（TPUv3）、亞馬遜（Inferentia）、華為（昇騰910）、百度（昆侖）這樣的中外科技巨頭，也有寒武紀（MLU100）、Graphcore（IPU）、比特大陸（BM1680、BM1682）等明星AI初創公司，可謂“巨頭盤踞、群雄爭霸”，尤其是在推理市場上更是百家爭鳴，但可以預見這片藍海還會有更多的玩家入局。算法背景團隊、芯片背景團隊、互聯網巨頭、傳統AI芯片大廠各有優勢此起彼伏之間，云端AI芯片將迎來“物種大爆發”。

值得一提的是，在算法紅利的階段，國內的不少AI方案廠商更多只是針對場景開發和優化算法，所以很多時候都直接購買國外大廠的芯片，某種程度上來看，倒更像是為國外廠商創造更多產品的出海口，并不能直接推動中國芯片產業的發展，而現在，算法公司也在嘗試自研芯片，如果有越來越多中國公司在其中“怒刷存在感”，芯片持續高速地試錯、更新、升級，對中國芯片產業來說，也是在創造新的機會。

了解自身優勢、了解市場真正需求，提供定制化芯片成為了依圖“高性價比”的解決方案，這也為那些想要加入芯片市場的玩家們提供了一個可高度參考的路線。正如陳怡然教授和陳逸中教授所說的那樣，一個成功的芯片項目所帶來的不僅僅是銷售芯片本身的利潤，還有伴隨芯片設計、制造以及銷售整套流程中產生的支撐產業與生態系統，從而帶動軟硬件發展、行業標準制定、知識產權銷售等產業發展。算法即芯片，這條新路還會帶給AI公司更多的可能性。