物聯(lián)網(wǎng)領(lǐng)域繼NB-IoT等低功耗廣域網(wǎng)技術(shù)的浪潮之后，下一個大的機遇蘊藏在哪里?通過上周AlphaZero和華為的親身示范，下一波浪潮已經(jīng)呼之欲出，那就是“邊緣智能Edge Intelligence”。

　　上周連續(xù)發(fā)生了兩則重磅新聞：

　　一是10月16日，華為Mate 10系列如期在德國慕尼黑全球發(fā)布。華為Mate 10和華為Pro配備了全球首款帶有專門神經(jīng)網(wǎng)絡(luò)處理器NPU的人工智能芯片麒麟970，基于該芯片的Mate10系列手機的人工智能應(yīng)用性能得以大大增強，能像人腦一樣思考。顛覆性創(chuàng)新加營銷讓一眾腦殘粉直呼剁手，各大電商平臺均出現(xiàn)一機難求的盛況。

　　另一個是10月19日，DeepMind公布了最新版AlphaGo論文，介紹了迄今最強最新版本的AlphaGo Zero，使用純強化學(xué)習(xí)的算法，3天訓(xùn)練后就以100比0的慘烈比分擊敗了上一版本的AlphaGo。

　　最近我一直被問到物聯(lián)網(wǎng)領(lǐng)域繼NB-IoT等低功耗廣域網(wǎng)技術(shù)的浪潮之后，下一個大的機遇蘊藏在哪里?答案已經(jīng)初見端倪，本文就來正式解答。通過本周AlphaZero和華為的親身示范，下一波浪潮已經(jīng)呼之欲出，那就是“邊緣智能Edge Intelligence”。

　　一、什么是邊緣智能(Edge Intelligence，EI)?

　　一句話概括，邊緣智能是指在終端側(cè)部署人工智能。

　　毫無疑問，人工智能正在成為一種改變各行各業(yè)的通用技術(shù)。此前，絕大部分的人工智能都是依賴云端實現(xiàn)，現(xiàn)在，部署在終端側(cè)的人工智能正在開辟更為廣闊的市場。除了智能手機等個人終端之外，靠近設(shè)備或數(shù)據(jù)源頭的網(wǎng)絡(luò)邊緣，物聯(lián)網(wǎng)終端將會成為最大戰(zhàn)場。

　　依靠云端實現(xiàn)的人工智能存在一些顯而易見的弊端，如業(yè)內(nèi)眾所周知的“三大罪”：首先，個人數(shù)據(jù)上傳到云端不利于隱私保護;其次，云端人工智能需要較高的帶寬支持，功耗較高;第三，云端人工智能會有較高的延時性，很多需要實時物聯(lián)網(wǎng)RT-IoT的場景無法應(yīng)用。

　　而邊緣智能將會有效的避免這些問題，優(yōu)勢堪稱碾壓性的：

　　1. 網(wǎng)絡(luò)時延優(yōu)勢：邊緣終端的位置確保了時間敏感類應(yīng)用的實時性需求。

　　2. 網(wǎng)絡(luò)分布優(yōu)勢：部署于邊緣的人工智能讓終端設(shè)備直接得到AI分析結(jié)果，既減少了網(wǎng)絡(luò)流量，又分流了云端集中推理的計算壓力。

　　3. 安全性和可靠性提升：邊緣智能不必將個人數(shù)據(jù)上傳到云端，就地進行人工智能分析，利于隱私保護，同時提升對網(wǎng)絡(luò)依賴方面的可靠性。

　　4. 產(chǎn)業(yè)布局靈活：圍繞邊緣智能將會衍生出全新生態(tài)，由于人工智能的各種算法發(fā)展日新月異、組合千變?nèi)f化，邊緣智能將會推動產(chǎn)業(yè)的進一步分工，產(chǎn)生算法提供商、終端生產(chǎn)商、邊緣智能服務(wù)運營商等多重角色?？傊冗吘売嬎愀M一步的邊緣智能，擁有更高的安全性、更低的功耗、更短的延時、更高的可靠性、更低的帶寬需求…這些都是邊緣智能EI傲視云端智能的資本。

　　二、從市場角度來講，邊緣智能的好處在哪里?省錢。

　　B2C領(lǐng)域的各種智能家居終端和可穿戴設(shè)備更通人性，幫你省電、省水、省洗衣粉、省糧食…這些好處根本不值再提。

　　這里僅以B2B范疇的工業(yè)為例，某研究機構(gòu)算了一筆詳細(xì)的經(jīng)濟賬。大部分邊緣設(shè)備都與云端相隔萬里，而當(dāng)邊緣與云端的距離減少到200英里時，數(shù)據(jù)處理成本將減少30%，相隔100英里時，數(shù)據(jù)處理成本將減少60%。而當(dāng)邊緣具備人工智能分析能力時，這一成本還有繼續(xù)縮減的空間。報告同時發(fā)現(xiàn)，近一半的設(shè)備維護工作實則雞肋。如果利用邊緣智能，根據(jù)機器的實際狀況開展維護工作，工廠就能更快地響應(yīng)異常情況，減少停機事件，避免白干活。如果利用視頻監(jiān)控施工現(xiàn)場或危險區(qū)域的工人，并通過邊緣智能即時進行分析，可以將人工觀察成本減少30%到50%。這些看得見摸得著的經(jīng)濟效益對工業(yè)、制造業(yè)有著致命的吸引力?？傮w而言，通過邊緣智能，企業(yè)能夠?qū)⑦\營成本降低5%到12.5%，同時提高生產(chǎn)力，延長設(shè)備的使用壽命。

　　除了省錢之外，邊緣智能還有可能無心插柳柳成蔭，帶來意料之外的驚喜價值。根據(jù)麥肯錫的分析，雖然工業(yè)現(xiàn)場安裝了成千上萬的傳感器，但是決策時使用的傳感器數(shù)據(jù)卻僅僅只有1%。那么，其他99%的數(shù)據(jù)去哪兒了呢?丟了!

　　大多數(shù)的數(shù)據(jù)在采集點就丟了。麥肯錫發(fā)現(xiàn)，40%的數(shù)據(jù)完全沒有保存，剩余60%的數(shù)據(jù)也只是離線保存在采集終端上。僅僅依靠1%可憐的回傳數(shù)據(jù)，談何實時管理和深入分析?邊緣智能讓企業(yè)第一次有機會抓住事先和事中分析的可能性，從事后亡羊補牢的怪圈中跳出來，重新審視自身、重構(gòu)管理機制。

　　三、從技術(shù)發(fā)展的時間軸來看，為什么說邊緣智能的機遇在當(dāng)下這個時刻開啟了呢?

　　硬件是最直觀的說服力。開篇中提到華為Mate 10搭載的正是全球首款內(nèi)置神經(jīng)元網(wǎng)絡(luò)單元(NPU)的人工智能處理器麒麟970。無獨有偶，蘋果發(fā)布的新一代iPhone所搭載的A11仿生處理器也加入了全新的神經(jīng)網(wǎng)絡(luò)引擎。除了華為和蘋果之外，巨頭們也紛紛表示不想輸在起跑線上。雖然尚未推出移動AI芯片，但高通將加大AI領(lǐng)域的投資：集中在提升CPU、GPU和DSP性能三大方面。事實上，高通神經(jīng)處理引擎的軟件開發(fā)工具包已經(jīng)在不久前面向開發(fā)者推出。

　　至于三星，韓媒稱這家公司也正在開發(fā)“多款”專用AI處理芯片。不久之前，Imagination發(fā)布了全新神經(jīng)網(wǎng)絡(luò)加速器PowerVR Series2NX NNA，據(jù)稱性能秒殺麒麟970和蘋果A11。ARM推出新架構(gòu)DynamIQ芯片，該CPU架構(gòu)將會通過為不同部分配置軟件的方式將多個處理核心集聚在一起，其中包括一個專門為AI算法設(shè)計的處理器。芯片廠商將可以為新處理器配置最多8個核心。同時為了能讓主流AI在自己的處理器上更好地運行，ARM還將放出一系列軟件庫。英特爾也推出了Myriad X芯片，將專用的成像、計算機視覺以及高性能深度學(xué)習(xí)推理結(jié)合在同一個芯片中，立志以驚人的低功耗和高性能將人工智能引入邊緣。更多的企業(yè)正在半路殺來。比如，全球領(lǐng)先的智能和互聯(lián)設(shè)備的信號處理IP授權(quán)許可廠商CEVA和正在申請專利的深度學(xué)習(xí)技術(shù)廠商Brodmann17宣布合作，為邊緣設(shè)備增強20 倍AI性能。

　　雖然，移動AI芯片并非一切通吃，它的普及也不是一朝一夕之事，技術(shù)需要不斷進步，才能進化出更符合我們期待的“邊緣智能大腦”，但是，華為和蘋果在手機中引入移動AI芯片的做法具有首創(chuàng)與首試的重要意義：

　　首先，有預(yù)測稱，在巨頭們的帶動下， 2018年的智能手機都會搭載AI芯片。由于手機仍舊是世界上出貨量最大的智能終端之一，移動AI芯片搭載于手機端，似乎可預(yù)見一大波手機大戰(zhàn)，這無疑有利于促進其成本的迅速下降。

　　其次，Mate 10并不是智能手機，而是智能機器。華為和蘋果引領(lǐng)的不只是手機市場革新，而是邊緣智能和下一代物聯(lián)網(wǎng)的技術(shù)趨勢。擁有移動AI芯片的智能手機有利于終端用戶培養(yǎng)使用習(xí)慣，進而很快接受甚至期待承載邊緣智能的家居硬件或者其他時尚可穿戴單品。最后，邊緣智能的普及需要建設(shè)新型生態(tài)。提供硬件、軟件和運維的各種企業(yè)共同推進，開發(fā)者同樣會扮演非常重要的角色。巨頭們已經(jīng)培育多年的開發(fā)者和合作企業(yè)生態(tài)，有利于將生態(tài)能力快速切換到IoT邊緣智能產(chǎn)品的打造中來。

　　四、再從軟件端來看。

　　我們一直有一個印象，很多人相信在人工智能的應(yīng)用中，必須依靠強大的算力支持和海量的數(shù)據(jù)積累。但是AlphaGo Zero讓他們第一次認(rèn)識到了算法的重要性遠(yuǎn)高于算力和數(shù)據(jù)，而且在AlphaGo Zero中，團隊投入的算力比打造上一個版本的AlphaGo少使用了一個數(shù)量級。新一代的AlphaGo Zero達(dá)到這樣一個水準(zhǔn)，只用了4塊TPU，訓(xùn)練72小時就可以戰(zhàn)勝與李世石交手的AlphaGo，訓(xùn)練40天后可以戰(zhàn)勝與柯潔交手的AlphaGo。而它的哥哥阿法狗，需要在48個TPU上，花幾個月的時間，學(xué)習(xí)三千萬棋局，才能打敗人類。幾個不同版本所需的算力對比如下：

　　同樣重視算法的還有百度。百度硅谷AI實驗室高級研究員Greg Diamos曾經(jīng)發(fā)布署名文章，其中指出，在人工智能領(lǐng)域，硬件研發(fā)速度已經(jīng)超過了人工智能算法，為了能更完全發(fā)揮當(dāng)今人工智能硬件的威力，加快人工智能的技術(shù)進展，研發(fā)下一代算法成為了當(dāng)務(wù)之急。這里解釋一下AlphaGo Zero如何不依靠人類知識“自學(xué)成才”。AlphaGo Zero之所以能當(dāng)自己的老師，是用了一種叫強化學(xué)習(xí)的新模式。主要有兩個核心要素，一個是啟發(fā)式搜索，一個是深度殘差神經(jīng)網(wǎng)絡(luò)，而這兩者又實現(xiàn)了完美結(jié)合。前者，啟發(fā)式搜索的思想非常樸素，是個針對問題設(shè)計的一個高級定制版蒙特卡洛數(shù)搜索算法;而后者，深度殘差神經(jīng)網(wǎng)絡(luò)則讓簡單的搜索算法極大地提升了效率。

　　著重介紹后者的最新進展，深度殘差神經(jīng)網(wǎng)絡(luò)ResNet在2015年由曠視科技首席科學(xué)家孫劍當(dāng)時帶領(lǐng)的團隊率先提出，ResNet一個重要的突破是實現(xiàn)了152層的網(wǎng)絡(luò)深度，這讓一些非常復(fù)雜的函數(shù)做映射時的效率與有效性得到了極大的提升。結(jié)合了ResNet的強大網(wǎng)絡(luò)使AlphaGo Zero能夠快速、準(zhǔn)確地學(xué)習(xí)每一子的落子概率和對整個棋局進行判斷。隨后孫劍在結(jié)構(gòu)上繼承了殘差網(wǎng)絡(luò)(ResNet)的設(shè)計思想，并在此基礎(chǔ)上做出了一系列改進來提升模型的效率，曠視研究院在今年7月提出ShuffleNet，它專門為了移動端的應(yīng)用而生，在設(shè)備提供的計算量很小的時候也能快速響應(yīng)。除了像ShuffleNet這樣通過網(wǎng)絡(luò)設(shè)計的方式把計算量降下來，曠視在去年還發(fā)表了一項工作DoReFaNet，并且其團隊成員仍然繼續(xù)在降低計算量的這一方向上發(fā)力。

　　采用深度殘差神經(jīng)網(wǎng)絡(luò)ResNet，AlphaGo Zero在特征提取層采用了多個殘差模塊，每個模塊包含2個卷積層，比之前的AlphaGo深度明顯增加，從而可以實現(xiàn)更好的特征提取。AlphaGo Zero借此自我對弈，往復(fù)循環(huán)。每過一輪，系統(tǒng)的表現(xiàn)就提高了一點點，自我對弈的質(zhì)量也提高了一點點。神經(jīng)網(wǎng)絡(luò)越來越準(zhǔn)確，AlphaGo Zero的版本也越來越強。目前的這個結(jié)論，只有Google一家得出，沒有其他機構(gòu)復(fù)現(xiàn)該實驗，或說“證實”與“證偽”。如果它是正確的話，那么將會極大的影響人工智能的演進路徑。

　　過去在人工智能領(lǐng)域一直存在爭論，是算法重要還是算力重要。AlphaGo Zero展示了算法的重要性，使用了更先進的算法和原理，讓AlphaGo Zero的程序性能本身更加優(yōu)秀，而不是等待硬件算力技術(shù)的提升。AlphaGo Zero揭示了依靠高效算法和較少算力實現(xiàn)AI的可行路徑。軟件算法的持續(xù)迭代與人工智能硬件的結(jié)合，將會催生爆發(fā)式的成長。這種低功耗、高性能的解決方案，推動人工智能走向網(wǎng)絡(luò)邊緣。

　　五、是否有公司已經(jīng)在邊緣智能領(lǐng)域起跑?不少。

　　先從巨頭講起。收購了DeepMind科技的Google，還擁有一個物聯(lián)網(wǎng)領(lǐng)域的利器：Google IoT Core。目前Google正在與恩智浦合作，挖掘邊緣設(shè)備的潛能，進一步發(fā)揮機器學(xué)習(xí)和人工智能的作用，推動制造、運輸、公用事業(yè)等各行各業(yè)快速受益。利用“云物聯(lián)網(wǎng)核心Google IoT Core”，企業(yè)可以輕松連接并集中管理全球各地成百上千萬的物聯(lián)網(wǎng)設(shè)備。

　　當(dāng)用作更廣泛的谷歌云物聯(lián)網(wǎng)解決方案的一部分時，“云物聯(lián)網(wǎng)核心”可以吸納所有物聯(lián)網(wǎng)數(shù)據(jù)并連接到谷歌云最先進的分析服務(wù)，包括Cloud Pub/Sub、Dataflow、Bigtable、BigQuery和Machine Learning。微軟最新推出的Azure IoT Edge服務(wù)，是一個為物聯(lián)網(wǎng)準(zhǔn)備的邊緣服務(wù)。它會用各種傳感器和小型計算設(shè)備追蹤工業(yè)場景中的數(shù)據(jù)，然后由微軟的云和AI工具分析，通過這項功能將計算能力由云推向邊緣。使用微軟的Azure IoT Edge，不僅能采集和分析數(shù)據(jù)，還開始將Azure機器學(xué)習(xí)及AI認(rèn)知服務(wù)帶進設(shè)備端，讓設(shè)備想要就近結(jié)合機器學(xué)習(xí)變得更容易多了。Azure IoT Edge使得IoT設(shè)備能夠?qū)崟r運行云服務(wù)，處理數(shù)據(jù)，并與傳感器和其它與之相連的設(shè)備進行通信。通過處理、分析和運行數(shù)據(jù)源，Azure IoT Edge幫助用戶做出更快、更智能的決策，同時將關(guān)鍵信息發(fā)送到云進一步分析來降低帶寬成本。

　　蘋果則發(fā)布了Core ML平臺，堅持不在云端實現(xiàn)機器學(xué)習(xí)，核心是加速在iPhone、iPad、Apple Watch上的人工智能任務(wù)，支持深度神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)、支持向量機、樹集成、線性模型等。Core ML為設(shè)備性能進行了優(yōu)化，從而減少了內(nèi)存占用和功耗。嚴(yán)格在設(shè)備上運行能夠確保用戶數(shù)據(jù)的隱私，并且能保證各種應(yīng)用在沒有網(wǎng)絡(luò)連接時也能夠工作和響應(yīng)。由于Core ML減少了很多不必要的內(nèi)容，就算不在云端運行也不會性能變差。

　　六、邊緣智能領(lǐng)域的初創(chuàng)企業(yè)更值得關(guān)注。

　　首先來說說我經(jīng)常提到的FogHorn公司。FogHorn 為工業(yè)和商業(yè)物聯(lián)網(wǎng)應(yīng)用提供邊緣智能計算平臺，這一平臺能夠在各類工業(yè)和企業(yè)中，發(fā)揮機器學(xué)習(xí)和高級分析的作用，推動新一類的監(jiān)控和診斷、資產(chǎn)性能優(yōu)化、運營智能化和預(yù)見性維護程序的發(fā)展。

　　FogHorn解決方案通過提供一個高度微型化的復(fù)雜事件處理CEP引擎(也被稱為分析引擎)和強大而富有表現(xiàn)力的域特定語言(DSL)，在多個傳入的傳感器數(shù)據(jù)流上表達(dá)規(guī)則，從而解決這一問題。然后，這些表達(dá)的輸出可用于立即防止費用高昂的機器故障或停機時間，并可實時提高工業(yè)運行和處理的效率及安全性。Foghorn最新的機器學(xué)習(xí)平臺Lightning ML，僅有256MB大小，將機器學(xué)習(xí)能力嵌入到邊緣設(shè)備，使得AI能夠運行在計算能力高度受限的邊緣設(shè)備上，例如PLC、工業(yè)PC、Raspberry Pi系統(tǒng)和多種IoT網(wǎng)關(guān)。

　　關(guān)鍵特點：可在小型環(huán)境、高吞吐或網(wǎng)關(guān)環(huán)境內(nèi)運行高度可擴展的高效CEP引擎，可作用于未來流傳感器數(shù)據(jù)在帶有豐富數(shù)據(jù)訪問的邊緣進行復(fù)雜應(yīng)用開發(fā)和部署跨越云和邊緣的應(yīng)用移動性云與邊緣之間先進的機器學(xué)習(xí)(ML)和模型傳輸FogHorn支持主要的工業(yè)數(shù)據(jù)提取協(xié)議(如 OPC-UA、Modbus、MQTT、DDS 等…)以及其他數(shù)據(jù)傳輸協(xié)議。

　　此外，用戶還可輕松地將自定義協(xié)議適配器插入FogHorn的數(shù)據(jù)提取層。另外一家初創(chuàng)企業(yè)來自中國，名為北京輕停網(wǎng)絡(luò)科技有限公司，正在進行邊緣智慧方面的有益嘗試。“輕停”顧名思義就是輕松停車，這家公司從智能停車場景切入，進而抽象通用能力，發(fā)布了EdgeOn企業(yè)級物聯(lián)網(wǎng)開發(fā)套件，讓更多的企業(yè)開發(fā)者和集成商，有能力像輕停一樣把優(yōu)質(zhì)的IoT服務(wù)做到各行各業(yè)。

　　EdgeOn IoT Suite針對物聯(lián)網(wǎng)行業(yè)應(yīng)用構(gòu)建，具有非常顯著的特點：

　　1. 它可以實現(xiàn)異構(gòu)的IT和OT系統(tǒng)的集成，支持所有工業(yè)協(xié)議的解析。2. 它支持行業(yè)模板，比如說一座大樓的樓宇、消防、安防等控制系統(tǒng)已經(jīng)運行了4-5年，并且需要24小時連續(xù)工作，輕停確保從系統(tǒng)數(shù)據(jù)庫里獲取業(yè)務(wù)數(shù)據(jù)上傳到云端、再回寫到系統(tǒng)，每一個環(huán)節(jié)都安全可靠。3. 通過與青云QingCloud的合作，輕停在行業(yè)內(nèi)首發(fā)混合云部署架構(gòu)，支持企業(yè)各種云環(huán)境，實現(xiàn)全數(shù)字化轉(zhuǎn)型。4. EdgeOn行業(yè)模板里內(nèi)置的API可以幫助服務(wù)提供商快速集成和構(gòu)建物聯(lián)網(wǎng)服務(wù)。當(dāng)今技術(shù)的迭代速度明顯高于人們的預(yù)期，人工智能也不是萬能的，它還處于初級階段，而且人工智能的投資正在經(jīng)歷泡沫化，市場迷霧越來越濃。細(xì)節(jié)方向或許迷茫，不過，錯過邊緣智能浪潮的戰(zhàn)略性失誤，那絕對是不可饒恕的。