隨著人工智能(AI)和機(jī)器學(xué)習(xí)(ML)的發(fā)展,以算法形式處理大量數(shù)據(jù)的能力變得越來越重要。
為了使數(shù)十億連接設(shè)備上的數(shù)據(jù)應(yīng)用程序能夠更高效、更有價(jià)值德爾使用,處理從集中式第三方云服務(wù)器遷移到分散的、本地化的設(shè)備上(通常稱為邊緣計(jì)算)的勢(shì)頭越來越大。根據(jù)SAR Insight & Consulting最新的人工智能/機(jī)器學(xué)習(xí)嵌入式芯片數(shù)據(jù)庫(kù)顯示,在2019-2024年,全球支持人工智能的設(shè)備和邊緣計(jì)算的CAGR將以64.2%的速度增長(zhǎng)。
在邊緣進(jìn)行數(shù)據(jù)計(jì)算,不需要網(wǎng)絡(luò)
Edge AI將算法和處理數(shù)據(jù)盡可能地接近物理系統(tǒng),在這種情況下,本地需在硬件設(shè)備上進(jìn)行處理。其優(yōu)點(diǎn)是數(shù)據(jù)處理不需要連接。數(shù)據(jù)的計(jì)算發(fā)生在網(wǎng)絡(luò)的“邊緣”,也就是數(shù)據(jù)被開發(fā)的地方,而不是集中數(shù)據(jù)處理中心。對(duì)于設(shè)備、技術(shù)和組件提供商來說,在邊緣處理的能力和應(yīng)該能力之間取得適當(dāng)?shù)钠胶鈱⒊蔀樽钪匾臎Q策之一。
在生產(chǎn)深度學(xué)習(xí)預(yù)測(cè)模型的訓(xùn)練和推理引擎中,邊緣處理通常需要來自Intel、Qualcomm、Nvidia和谷歌等供應(yīng)商的x86或Arm處理器,以及一個(gè)AI加速器,并且能夠處理10-14個(gè)核心高達(dá)2.5 GHz的速度。
為時(shí)間敏感的應(yīng)用程序提供實(shí)時(shí)結(jié)果
隨著市場(chǎng)的擴(kuò)大,計(jì)算數(shù)據(jù)和計(jì)算能力的服務(wù)和應(yīng)用需求也在不斷擴(kuò)大,這會(huì)對(duì)推動(dòng)邊緣計(jì)算發(fā)展起到積極作用。由于可靠、可適應(yīng)性強(qiáng)的情境資訊的需求不斷變化, 大多數(shù)數(shù)據(jù)都遷移到本地的設(shè)備上處理,從而獲得更快的性能和響應(yīng)時(shí)間(少于幾毫秒)、更低的延遲、更低的電源效率。此外,通過在設(shè)備上保留數(shù)據(jù)提高了安全性,以及通過最小化數(shù)據(jù)中心傳輸而節(jié)省了成本。
邊緣計(jì)算的最大好處之一是能夠?yàn)闀r(shí)間敏感的需求確保實(shí)時(shí)結(jié)果。在許多情況下,傳感器數(shù)據(jù)可以直接收集、分析和交流,而無需將數(shù)據(jù)發(fā)送到時(shí)間敏感的云中心。
關(guān)鍵是,跨各種邊緣設(shè)備的可伸縮性能夠幫助加速本地決策。為提供即時(shí)和可靠數(shù)據(jù)的能力建立了基礎(chǔ),也提高了客戶參與度,在許多情況下,還挽救了生命。想想家庭安全、航空航天、汽車、智能城市、醫(yī)療保健等這些行業(yè)——這對(duì)診斷和設(shè)備性能的即時(shí)解釋至關(guān)重要。
人工智能優(yōu)勢(shì)的發(fā)展
亞馬遜、谷歌、蘋果、寶馬、大眾、特斯拉、Airbus, Fraunhofer, Vodafone, Deutch Telekom, Ericsson, 和Harting等創(chuàng)新機(jī)構(gòu),現(xiàn)在都在為AI下著巨大的砝碼。此外,許多這樣的公司正在建立行業(yè)協(xié)會(huì),如歐洲邊緣計(jì)算聯(lián)盟(EECC),它可幫助教育和激勵(lì)中小型和大型企業(yè),以推動(dòng)制造業(yè)和其他工業(yè)市場(chǎng)采用邊緣計(jì)算。
歐洲邊緣計(jì)算產(chǎn)業(yè)聯(lián)盟旨在支持歐洲和世界各地的大中小型企業(yè)采用相關(guān)技術(shù),尤其側(cè)重于 OT 技術(shù)與 ICT 技術(shù)的融合。ECCE將推動(dòng)在制造業(yè),運(yùn)營(yíng)商以及企業(yè)與 IoT 等相關(guān)領(lǐng)域解決方案中采用邊緣計(jì)算技術(shù),注重發(fā)現(xiàn)和推動(dòng)現(xiàn)有的技術(shù),標(biāo)準(zhǔn)的應(yīng)用并持續(xù)貢獻(xiàn),使得聯(lián)盟成員的產(chǎn)品更加符合用戶對(duì)邊緣計(jì)算解決方案的需求。聯(lián)盟成立的目標(biāo)包括:邊緣計(jì)算參考架構(gòu)模型(ECCE RAMEC)、邊緣計(jì)算全棧技術(shù)實(shí)現(xiàn)(邊緣計(jì)算節(jié)點(diǎn))、識(shí)別產(chǎn)業(yè)發(fā)展的短板并通過對(duì)不同路徑的評(píng)估比較找到最佳實(shí)踐(ECCE Pathfinders),與相關(guān)產(chǎn)業(yè)/標(biāo)準(zhǔn)化組織積極互動(dòng),對(duì)聯(lián)盟的成果進(jìn)行推廣。
邊緣計(jì)算的參考體系結(jié)構(gòu)模型
從邊緣往下看
人工智能和機(jī)器學(xué)習(xí)的發(fā)展為創(chuàng)造智能設(shè)備提供了大量的機(jī)會(huì),這些設(shè)備能夠感知周圍的環(huán)境。對(duì)智能機(jī)器的需求將受益于多感官數(shù)據(jù)的增長(zhǎng),這些數(shù)據(jù)能夠以更高的精度和性能進(jìn)行計(jì)算。邊緣計(jì)算可以將人工智能數(shù)據(jù)轉(zhuǎn)化為幾乎所有行業(yè)的“實(shí)時(shí)”價(jià)值。智能邊緣是人工智能技術(shù)發(fā)展和成功的下一個(gè)階段。
延伸閱讀
華為攜手多家合作伙伴,成立歐洲邊緣計(jì)算產(chǎn)業(yè)聯(lián)盟
在第二屆歐洲邊緣計(jì)算論壇(ECF)上,華為與多家合作伙伴達(dá)成意向,將共同努力,聯(lián)合建立歐洲邊緣計(jì)算產(chǎn)業(yè)聯(lián)盟(ECCE)。ECCE旨在為智能制造、運(yùn)營(yíng)商、企業(yè)與IoT等領(lǐng)域的廠商與組織提供全方位的邊緣計(jì)算產(chǎn)業(yè)合作平臺(tái),通過產(chǎn)業(yè)協(xié)同,開放創(chuàng)新和示范推廣,深化行業(yè)數(shù)字化轉(zhuǎn)型,共同推進(jìn)邊緣計(jì)算產(chǎn)業(yè)的蓬勃發(fā)展。
邊緣計(jì)算橫跨多個(gè)領(lǐng)域,涉及網(wǎng)絡(luò)聯(lián)接、數(shù)據(jù)聚合、芯片、傳感、行業(yè)應(yīng)用多個(gè)產(chǎn)業(yè)鏈角色。根據(jù)IDC統(tǒng)計(jì)數(shù)據(jù)顯示,到2020年將有超過500億的終端和設(shè)備聯(lián)網(wǎng),其中超過50%的數(shù)據(jù)需要在網(wǎng)絡(luò)邊緣側(cè)分析、處理與存儲(chǔ),邊緣計(jì)算市場(chǎng)之大顯而易見。另外,邊緣計(jì)算和5G相輔相成,5G 的加速推進(jìn)也會(huì)促進(jìn)邊緣計(jì)算的大規(guī)模部署。邊緣計(jì)算產(chǎn)業(yè)發(fā)展已進(jìn)入重要機(jī)遇期。
除了華為以外,此次參與合作的還有ADI、ARM、龐巴迪、貝加萊自動(dòng)化、德國(guó)人工智能研究中心(DFK)、IBM、英特爾、庫(kù)卡等來自世界各地不同行業(yè)的公司。
邊緣智能:現(xiàn)狀和展望
(摘自:湖南大學(xué)信息科學(xué)與工程學(xué)院,國(guó)家超級(jí)計(jì)算長(zhǎng)沙中心)
以云計(jì)算為代表的集中式處理模式將無法高效地處理邊緣設(shè)備產(chǎn)生的數(shù)據(jù),無法滿足人們對(duì)服務(wù)質(zhì)量的需求。其劣勢(shì)主要體現(xiàn)在以下兩個(gè)方面。
● 實(shí)時(shí)性不夠。在云計(jì)算服務(wù)模式下,應(yīng)用需要將數(shù)據(jù)傳送到云計(jì)算中心進(jìn)行處理,這增大了系統(tǒng)的時(shí)延。以無人駕駛汽車為例,高速行駛的汽車需要在毫秒級(jí)的時(shí)間內(nèi)響應(yīng),一旦由于數(shù)據(jù)傳輸、網(wǎng)絡(luò)等問題導(dǎo)致系統(tǒng)響應(yīng)時(shí)間增加,將會(huì)造成嚴(yán)重的后果。
● 帶寬不足。邊緣設(shè)備產(chǎn)生的大量數(shù)據(jù)全部傳輸至云計(jì)算中心,給網(wǎng)絡(luò)帶寬造成了極大的壓力。例如,飛機(jī)波音787每秒產(chǎn)生的數(shù)據(jù)超過5 GB,但飛機(jī)與衛(wèi)星之間的帶寬不足以支持?jǐn)?shù)據(jù)的實(shí)時(shí)傳輸。
邊緣計(jì)算模型應(yīng)運(yùn)而生。邊緣計(jì)算是部署在邊緣終端設(shè)備和云計(jì)算中心之間的一種新型計(jì)算模型。邊緣計(jì)算的資源是指從數(shù)據(jù)源到云計(jì)算中心路徑上的任意計(jì)算和網(wǎng)絡(luò)資源,是一個(gè)連續(xù)系統(tǒng)。在該模式下,邊緣設(shè)備上亦有計(jì)算。邊緣計(jì)算具有幾個(gè)明顯的優(yōu)點(diǎn):首先,邊緣設(shè)備處理了部分產(chǎn)生的臨時(shí)數(shù)據(jù),不再需要將全部數(shù)據(jù)上傳至云端,只需要傳輸有價(jià)值的數(shù)據(jù),這極大地減輕了網(wǎng)絡(luò)帶寬的壓力,且減少了對(duì)計(jì)算存儲(chǔ)資源的需求。其次,在靠近數(shù)據(jù)源端進(jìn)行數(shù)據(jù)處理,能夠大大地減少系統(tǒng)時(shí)延,提高服務(wù)的響應(yīng)時(shí)間。
而人工智能技術(shù)已成功應(yīng)用于目標(biāo)識(shí)別、智能搜索、語言處理、智能交通等領(lǐng)域。然而,由于人工智能方法包含大量的計(jì)算,當(dāng)前人工智能大部分計(jì)算任務(wù)部署在云計(jì)算中心等大規(guī)模計(jì)算資源集中的平臺(tái)上,這極大地限制了人工智能帶給人們的便利。
為此,邊緣智能應(yīng)聲而出。邊緣智能是指終端智能,它是融合網(wǎng)絡(luò)、計(jì)算、存儲(chǔ)、應(yīng)用核心能力的開放平臺(tái),并提供邊緣智能服務(wù),滿足行業(yè)數(shù)字化在敏捷連接、實(shí)時(shí)業(yè)務(wù)、數(shù)據(jù)優(yōu)化、應(yīng)用智能、安全與隱私保護(hù)等方面的關(guān)鍵需求。將智能部署在邊緣設(shè)備上,可以使智能更貼近用戶,更快、更好為用戶地提供智能服務(wù)。
邊緣智能面臨的挑戰(zhàn)
人工智能方法主要包括訓(xùn)練和推斷兩部分。訓(xùn)練主要是利用已知結(jié)果的大量數(shù)據(jù)來訓(xùn)練模型,即根據(jù)已有的大量數(shù)據(jù)來擬合模型及參數(shù)。推斷主要是用擬合好的模型對(duì)未知結(jié)果的數(shù)據(jù)結(jié)果進(jìn)行預(yù)測(cè)。訓(xùn)練過程需要大量的計(jì)算資源和存儲(chǔ)資源。將人工智能部署在邊緣設(shè)備上,主要面臨以下幾個(gè)挑戰(zhàn)。
● 計(jì)算、存儲(chǔ)、能耗等資源受限。相比于云計(jì)算中心等大規(guī)模服務(wù)器集群,邊緣計(jì)算的資源是指從數(shù)據(jù)源到云計(jì)算中心路徑上的任意計(jì)算和網(wǎng)絡(luò)資源(如攝像頭、網(wǎng)關(guān)等)。因而,邊緣設(shè)備的計(jì)算、存儲(chǔ)能力往往遠(yuǎn)遠(yuǎn)小于專用服務(wù)器的計(jì)算、存儲(chǔ)能力,無法滿足人工智能訓(xùn)練所需的大量計(jì)算和存儲(chǔ)資源。除此之外,部分邊緣設(shè)備采用蓄電池等小型供電設(shè)備,無法滿足計(jì)算所需的能耗。
● 邊緣網(wǎng)絡(luò)資源不足。根據(jù)Cisco云指數(shù)的預(yù)測(cè),到2021年,全球范圍將有超過500億的終端設(shè)備,每年產(chǎn)生的數(shù)據(jù)總量將達(dá)到847 ZB。相比而言,全球數(shù)據(jù)中心的存儲(chǔ)能力預(yù)計(jì)僅能達(dá)到2.6 ZB,而網(wǎng)絡(luò)流量為19.5 ZB。
● 人工智能在“邊緣”并行困難。人工智能是研究使計(jì)算機(jī)模擬人的某些思維過程和智能行為(如學(xué)習(xí)、推理、思考、規(guī)劃等)的學(xué)科。人工智能模型模擬人腦神經(jīng)元的互聯(lián)關(guān)系,模型復(fù)雜,各組成部分之間依賴性強(qiáng),在分布式環(huán)境下并行困難。