2018年，AI將成為各大手機(jī)公司的標(biāo)配需求，手機(jī)端龐大的一手?jǐn)?shù)據(jù)將會(huì)利用起來(lái)，而只有終端AI硬件能力普及后，AI應(yīng)用才有可能百花齊放，AI生態(tài)才有可能真正成熟。華為麒麟芯片市場(chǎng)總監(jiān)周晨表示，麒麟的定位就是平臺(tái)算力的提供者，同時(shí)會(huì)提供SDK讓開(kāi)發(fā)者來(lái)運(yùn)行自己的應(yīng)用和算法。

從算法到算力，資本圈熱點(diǎn)轉(zhuǎn)移

2017年，在資本圈和媒體大V們討論得熱火朝天，在各個(gè)AI技術(shù)論壇頻頻召開(kāi)的時(shí)候，消費(fèi)者一頭霧水。

筆者百度了一下“AI”，發(fā)現(xiàn)了一部大導(dǎo)演斯皮爾伯格拍的電影，電影里的AI就是一個(gè)除了內(nèi)部構(gòu)造，跟人沒(méi)有任何區(qū)別的小男孩。

于是老百姓們恍然大悟，哦!原來(lái)AI就是機(jī)器人兒啊?

還有一部電影就是《黑客帝國(guó)》中的母體Matrix。這部電影里的AI是一個(gè)巨大的虛擬世界的大腦，整個(gè)物理世界都變成了數(shù)據(jù)，人類(lèi)自己也變成了一串串代碼。

這兩部電影其實(shí)揭示了AI的兩個(gè)表現(xiàn)形態(tài)：云端和終端AI。

2016年，資本圈關(guān)注的大多還是專(zhuān)注于云端算法的公司，比如商湯、曠視、云從、依圖四家算法公司，李開(kāi)復(fù)稱他們?yōu)?a href="http://www.nncyjs.com/zhuanti/fXDiz9" style="color:#4595e6;" target="_blank">人臉識(shí)別的“四個(gè)獨(dú)角獸”。

2016年，Intel收購(gòu)了Nervana、Altea，谷歌在I/O大會(huì)發(fā)布了“TPU”，高通開(kāi)始研發(fā)神經(jīng)網(wǎng)絡(luò)芯片，而Nvidia股價(jià)因?yàn)锳I概念而飆升。

2017年，資本圈開(kāi)始關(guān)注地平線、深鑒科技、寒武紀(jì)、云天勵(lì)飛四家AI芯片公司。

資本的嗅覺(jué)是很靈敏的，AI作為一種技術(shù)其實(shí)已經(jīng)有了幾十年的歷史。組成AI的三大要素包括算法、算力、數(shù)據(jù)。算法和數(shù)據(jù)的積累和演進(jìn)已經(jīng)持續(xù)了很多年，而終端算力的普及則剛剛開(kāi)始。從運(yùn)算發(fā)展的路徑來(lái)看，一開(kāi)始都是靠算法解決問(wèn)題，因?yàn)槟菚r(shí)候計(jì)算力有限。所以資本重點(diǎn)關(guān)注算法公司。現(xiàn)在計(jì)算力上升，算法的差異被彌補(bǔ)掉了，于是資本開(kāi)始關(guān)注提供算力的公司。

雖然AlphaGo算力驚人，但這是在使用了上千個(gè)CPU和數(shù)百個(gè)GPU的基礎(chǔ)下實(shí)現(xiàn)的，下一盤(pán)棋的電費(fèi)就高達(dá)3000美元，相當(dāng)耗能。

手機(jī)是目前最普及的個(gè)人移動(dòng)終端，如何讓低功耗的智能手機(jī)能夠和AlphaGo一樣“聰明”?

為何華為麒麟能率先推出手機(jī)AI芯片?

手機(jī)行業(yè)最先行動(dòng)的是兩個(gè)公司——蘋(píng)果和華為。iPhone X的A11中打在了神經(jīng)網(wǎng)絡(luò)模塊神經(jīng)引擎(Neural Engine)，而華為在經(jīng)過(guò)多年的技術(shù)積累和方案預(yù)研后，創(chuàng)新性地在麒麟970上率先搭載了NPU(Neural-network Porcessing Unit)。

“我們有幸走到了這件事(AI)的前面，我們的麒麟970跟iPhone X的A11是真正在終端側(cè)率先的推出量產(chǎn)產(chǎn)品的公司?！比A為麟芯片市場(chǎng)總監(jiān)周晨對(duì)《電子工程專(zhuān)輯》記者表示。相比蘋(píng)果的AI芯片，華為麒麟是用硬件的方式來(lái)加速，“我們對(duì)于開(kāi)放的事情還是有差異的，蘋(píng)果把這個(gè)能力主要用在FaceID，我們是通過(guò)HiAI全面開(kāi)放給開(kāi)發(fā)者，開(kāi)發(fā)者可以用到手機(jī)業(yè)界最強(qiáng)的AI推理能力。”周晨說(shuō)。

作為手機(jī)行業(yè)的標(biāo)桿，這兩家公司之所以能夠率先推出AI手機(jī)芯片，首先當(dāng)然是因?yàn)楦髯哉莆罩酒O(shè)計(jì)能力。其次是因?yàn)樗麄兊男酒块T(mén)或公司只需要服務(wù)于一家客戶。

“實(shí)際上AI的項(xiàng)目我們2年前就啟動(dòng)了。因?yàn)槲覀兪莍n house的芯片公司，只需要服務(wù)于華為這個(gè)品牌。我們可以很清楚的知道終端的需求是什么，從而針對(duì)性的做出產(chǎn)品和規(guī)劃設(shè)計(jì)?！敝艹空J(rèn)為，對(duì)于公開(kāi)市場(chǎng)的芯片公司，考慮的邏輯是不一樣的。因?yàn)樾酒锩婕尤魏喂δ芏际浅杀?，所以純芯片公司要考慮到自己的客戶對(duì)AI的需求會(huì)是怎樣，因此會(huì)偏保守。未來(lái)在新技術(shù)的采用上，類(lèi)似于蘋(píng)果、華為這樣的in house會(huì)更加激進(jìn)，這可能是華為麒麟在業(yè)界率先推出AI手機(jī)芯片的重要原因。

從云到端，AI芯片迭代如何滿足算法變化?

當(dāng)然，如果你認(rèn)為蘋(píng)果和華為在手機(jī)芯片中搭載“AI”單元模塊僅僅是為了尋找新的賣(mài)點(diǎn)，作為營(yíng)銷(xiāo)噱頭多賣(mài)手機(jī)，那你就圖樣了。從云端到終端確實(shí)能帶來(lái)真正的好處，比如功耗和成本的降低，效率的提升等。

2018年的CES展印證了AI向終端轉(zhuǎn)移的趨勢(shì)，以前很多基于概念的應(yīng)用開(kāi)始真正以產(chǎn)品和服務(wù)的形式落地了。從CES展出的各種AI產(chǎn)品來(lái)看，大致分為三種：第一類(lèi)是應(yīng)用在汽車(chē)上的自動(dòng)駕駛方案，目前主要是Nvidia在該領(lǐng)域布局。第二類(lèi)是圍繞語(yǔ)音類(lèi)的助手服務(wù)，包括智能音箱等。第三類(lèi)則是圖像識(shí)別類(lèi)的產(chǎn)品，有大量的初創(chuàng)公司都在進(jìn)入，開(kāi)發(fā)類(lèi)似于安防監(jiān)控、直播、視頻特效等新的應(yīng)用。

周晨認(rèn)為在云端進(jìn)行AI運(yùn)算的方式，如增加模型的大小和層數(shù)并不是真正的方向。AI開(kāi)始從云端往終端遷移會(huì)把運(yùn)算量和網(wǎng)絡(luò)大小減少100倍，也會(huì)減少對(duì)網(wǎng)絡(luò)帶寬的需求?！半S著算力的提升和算法的優(yōu)化，最后會(huì)形成一個(gè)很好的甜蜜點(diǎn)?！敝艹勘硎荆诮衲闏ES期后他去硅谷開(kāi)會(huì)，發(fā)現(xiàn)業(yè)內(nèi)都在討論On device。開(kāi)始做AI的公司多如牛毛，光是芯片公司都很多。

“終端的性能現(xiàn)在是瓶頸，大批公司雖然水平參差不齊，但是都在往芯片端走，如何解決兼容性問(wèn)題，如何讓算法更流暢，成為大家關(guān)注的焦點(diǎn)?！敝艹勘硎?，從2017年的數(shù)據(jù)來(lái)看，AI的算力云端占了95%，終端只占5%，這兩點(diǎn)的巨大差距會(huì)帶來(lái)很大的成長(zhǎng)空間。

當(dāng)然，由于目前的AI算法更新升級(jí)速度很快，如何滿足一定的變化性呢? 周晨認(rèn)為，未來(lái)比較合適的架構(gòu)應(yīng)該是CPU+硬件加速器的做法。對(duì)于華為麒麟，因?yàn)槭且患矣布脚_(tái)公司，自然更偏向用硬件的方式來(lái)做，提供通用性的加速器，從而滿足大部分的算法需求。目前跑算法大概有兩種方式：一種是用CPU跑純軟件，另一種是通過(guò)硬件加速器來(lái)固定算法。此外，從AI運(yùn)算的需求本身來(lái)看，大部分是計(jì)算密度要求很高的行為，也需要用非常高效的硬件方式去做。周晨認(rèn)為，從芯片的發(fā)展歷史來(lái)看，很多算法一旦穩(wěn)定成熟下來(lái)就會(huì)固定用硬件來(lái)做。

“我們自己有GPU、DSP資源，把異構(gòu)這件事做好以后，對(duì)于第三方的未知應(yīng)用都盡可能加速到。因?yàn)槭謾C(jī)是開(kāi)放型平臺(tái)，所以我們必須這樣做。”周晨表示，麒麟的定位就是平臺(tái)算力的提供者，同時(shí)會(huì)提供SDK讓開(kāi)發(fā)者來(lái)運(yùn)行自己的應(yīng)用和算法?！霸偻峡赡苋A為在手機(jī)端會(huì)提供一些業(yè)務(wù)級(jí)的接口，這些接口不需要開(kāi)發(fā)者自己來(lái)做算法，比如卡路里識(shí)別，APP只要直接調(diào)用接口就可以了。”

下一代AI芯片怎么做?

對(duì)于華為的下一代AI芯片，周晨沒(méi)有透露太具體的規(guī)格或參數(shù)。但他表示，后面兩代的產(chǎn)品定義經(jīng)明確，基本上有幾個(gè)方向不會(huì)變：第一是算力會(huì)持續(xù)上漲。第二是專(zhuān)注在通用的AI運(yùn)算平臺(tái)上，持續(xù)將AI運(yùn)算能力開(kāi)放給更多開(kāi)發(fā)者。第三是AI芯片的工藝會(huì)越來(lái)越先進(jìn)，更新速度可能會(huì)比摩爾定律還要快。

“當(dāng)我們把算力釋放出去以后，可能會(huì)有一大票應(yīng)用能力提升。這會(huì)產(chǎn)生正向循環(huán)，會(huì)有越來(lái)越多的開(kāi)發(fā)者做一些新的好的體驗(yàn)。”周晨表示，AI本身是一種技術(shù)，但是未來(lái)的價(jià)值會(huì)體現(xiàn)在有多少開(kāi)發(fā)者來(lái)開(kāi)發(fā)出相關(guān)的應(yīng)用。

目前業(yè)界有一種觀點(diǎn)，認(rèn)為AI的深度學(xué)習(xí)需要數(shù)據(jù)來(lái)喂養(yǎng)，因此擁有越龐大數(shù)據(jù)量的互聯(lián)網(wǎng)公司，如BAT會(huì)在未來(lái)AI領(lǐng)域占據(jù)核心優(yōu)勢(shì)。對(duì)于這個(gè)說(shuō)法，周晨認(rèn)為麒麟970算力和算法上其實(shí)都具有優(yōu)勢(shì)，至于數(shù)據(jù)方面也不是問(wèn)題。

第一個(gè)原因是算法本身在升級(jí)，機(jī)器學(xué)習(xí)本身的效率在提升?！吧疃葘W(xué)習(xí)的方式跟人腦的學(xué)習(xí)方式差別還是很大的，比如小孩看幾張貓的照片就能認(rèn)識(shí)什么是貓，不需要看十萬(wàn)張照片來(lái)學(xué)習(xí)。”周晨認(rèn)為，人腦其實(shí)是在做更高一層的算法，提取更高維度的特征。因此當(dāng)算法升級(jí)后，將不再需要那么海量的數(shù)據(jù)來(lái)做深度學(xué)習(xí)。

第二個(gè)原因是終端已經(jīng)成為人的計(jì)算中心，手機(jī)上產(chǎn)生的數(shù)據(jù)才是真正一手、新鮮的數(shù)據(jù)，而云端的數(shù)據(jù)可能是經(jīng)過(guò)壓縮或精簡(jiǎn)的二手?jǐn)?shù)據(jù)。

周晨認(rèn)為，2018年后，AI將成為各大手機(jī)公司的標(biāo)配需求，手機(jī)端龐大的一手?jǐn)?shù)據(jù)將會(huì)利用起來(lái)，而只有終端AI硬件能力普及后，AI應(yīng)用才有可能百花齊放，AI生態(tài)才有可能真正成熟。

華為“HiAI”是什么?

對(duì)于芯片公司來(lái)說(shuō)，如何滿足AI不同算法應(yīng)用及生態(tài)圈的差異化需求成為難點(diǎn)和重點(diǎn)。“華為還會(huì)提供一個(gè)HiAI架構(gòu)，我們也會(huì)有一個(gè)定期舉行的HiAI的公開(kāi)課，”周晨最后表示，華為日前針對(duì)工程師舉行了“華為HiAI能力開(kāi)放公開(kāi)課” ，將幫助嘗試投身人工智能領(lǐng)域的企業(yè)和開(kāi)發(fā)者，提升技術(shù)人員競(jìng)爭(zhēng)力，促進(jìn)行業(yè)技術(shù)的提升，共同推動(dòng)人工智能生態(tài)的發(fā)展。

什么是華為HiAI呢?據(jù)了解，HiAI移動(dòng)計(jì)算平臺(tái)開(kāi)放三層的能力，分別為云端能力開(kāi)放(Huawei HiAI Services)、端側(cè)應(yīng)用能力開(kāi)放(Huawei HiAI Engine)和端側(cè)芯片能力開(kāi)放(Huawei HiAI Accelerator)。

其中，底層Huawei HiAI Accelerator是HiAI芯片能力開(kāi)放的核心內(nèi)容，能夠快速轉(zhuǎn)化和遷移已有模型，借助NPU的加速獲得最佳性能，主要依靠麒麟芯片實(shí)現(xiàn)。華為HiAI引擎的目標(biāo)，通過(guò)開(kāi)放應(yīng)用層API，使能開(kāi)發(fā)者在不懂AI算法的情況下也能開(kāi)發(fā)高質(zhì)量AI應(yīng)用，完全聚焦在應(yīng)用的體驗(yàn)和業(yè)務(wù)實(shí)踐上，而不是聚焦在后端大量的模型訓(xùn)練和算法上。

目前在火熱的AI領(lǐng)域，更快速的推出高質(zhì)量AI應(yīng)用是搶占市場(chǎng)先機(jī)的最好手段，本次Huawei HiAI Engine就是通過(guò)開(kāi)放和共享華為自有應(yīng)用層商用級(jí)的AI能力API來(lái)使能合作伙伴在未來(lái)的競(jìng)爭(zhēng)中贏得先機(jī)，使能華為手機(jī)上面的應(yīng)用都能提供業(yè)界最佳的AI體驗(yàn)。因此，Huawei HiAI Engine面向移動(dòng)終端提供多種AI能力和JAVA應(yīng)用層接口。