AI(Artificial Intelligence)*1的應(yīng)用范圍正在不斷擴(kuò)大,例如,在生產(chǎn)現(xiàn)場檢測不良產(chǎn)品,輸入單詞和文章生成自然文章和圖像的服務(wù)等。
AI的核心是AI運算。實際上,現(xiàn)在AI系統(tǒng)中的大部分運算,一般都是經(jīng)由互聯(lián)網(wǎng)在云端執(zhí)行計算*2的云AI。但是在云端進(jìn)行AI運算時,存在因?qū)?shù)據(jù)傳輸?shù)皆贫硕鴮?dǎo)致機密泄露等安全隱患,同時也存在因網(wǎng)絡(luò)通信量增加而導(dǎo)致成本增加,進(jìn)而導(dǎo)致響應(yīng)時間延遲等隱患。
因此,在IoT等方面,“邊緣AI”不會將終端(邊緣設(shè)備)獲取的數(shù)據(jù)傳輸?shù)皆贫耍怯妙A(yù)先嵌入終端的AI模型執(zhí)行運算,該技術(shù)正備受矚目*2。
在此介紹邊緣AI的特征、優(yōu)缺點、邊緣AI的應(yīng)用例等基礎(chǔ)知識,同時解說村田對邊緣AI的概念以及為實現(xiàn)該概念所做的努力。
*1 AI有各式各樣的定義,本文以使用深度學(xué)習(xí)(深層學(xué)習(xí):自行提取并推測數(shù)據(jù)特征)方法的系統(tǒng)為前提來說明AI。深度學(xué)習(xí)是機器學(xué)習(xí)的一種,與以往的機器學(xué)習(xí)方法——事先被教授數(shù)據(jù)特征并推測——的顯著區(qū)別在于,深度學(xué)習(xí)會自行從數(shù)據(jù)中提取特征。
*2 計算有時僅指數(shù)據(jù)處理(運算處理或計算處理),但在此認(rèn)為是數(shù)據(jù)處理及一系列過程(如數(shù)據(jù)收集、傳輸和分析)以及與這些過程相關(guān)的服務(wù)組(SaaS:Software as a Service等)。另外,將AI在云端進(jìn)行數(shù)據(jù)處理的情況稱為云AI;同樣地,將AI在邊緣設(shè)備中進(jìn)行數(shù)據(jù)處理的情況稱為邊緣AI。
一般來說,AI使用通過經(jīng)驗性地學(xué)習(xí)已知數(shù)據(jù)而制作的AI模型*3進(jìn)行運算,并輸出“推理”的結(jié)果。例如,在工廠的生產(chǎn)線上,想通過產(chǎn)品的外觀圖像讓AI判斷“產(chǎn)品有損傷”時,會根據(jù)該生產(chǎn)線上設(shè)置的圖像傳感器的數(shù)據(jù),由判斷有無損傷的AI模型進(jìn)行推理,并輸出其結(jié)果。
在此,讓我們重點看一下AI模型在哪里進(jìn)行運算,并輸出推理結(jié)果。因其運算位置而備受關(guān)注的AI是在云端運算的“云AI”和在邊緣(網(wǎng)絡(luò)末端)運算的“邊緣AI”(圖1),彼此的特征有很大不同。
以下,還是以工廠生產(chǎn)線為例,以在云AI和邊緣AI中對產(chǎn)品持續(xù)流動的生產(chǎn)線進(jìn)行實時推定(推理)為例,說明其結(jié)構(gòu)和特征。
*3 AI模型是經(jīng)過學(xué)習(xí)(從大量數(shù)據(jù)中提取規(guī)律性和模式等特征)等過程制作的。因此,根據(jù)學(xué)習(xí)中使用的數(shù)據(jù)不同,AI模型也不同。例如,在圖像識別中,將人或物的圖像數(shù)據(jù)輸入AI模型時,對于該圖像數(shù)據(jù),該AI模型檢測和推理什么樣的人和物,取決于制作該AI模型時使用什么樣的圖像數(shù)據(jù)進(jìn)行學(xué)習(xí)。
首先,說明在云端運行AI的示例(圖1右)。云AI是在云端的大型服務(wù)器上執(zhí)行運算的機制,雖然可以處理大量的數(shù)據(jù)并進(jìn)行復(fù)雜的運算,但也存在以下?lián)鷳n。
因為總是使用云端資源,所以可能會導(dǎo)致成本增加
需要將在工序生產(chǎn)線上流動產(chǎn)品的視頻數(shù)據(jù)持續(xù)發(fā)送到云端,因其數(shù)據(jù)量大而對網(wǎng)絡(luò)造成負(fù)擔(dān)
在機密性高的生產(chǎn)線上應(yīng)用時,由于其視頻數(shù)據(jù)總是被發(fā)送到云端,因此存在泄露機密的風(fēng)險
如存在這樣的擔(dān)憂,可以通過在生成視頻數(shù)據(jù)的終端(邊緣設(shè)備)即圖像傳感器中搭載AI的邊緣AI(圖1左)來解決。
因為不使用云資源,所以可以控制成本
網(wǎng)絡(luò)負(fù)荷減輕,沒有云端處理的負(fù)荷,可以相應(yīng)地構(gòu)建效率較高的系統(tǒng)
生產(chǎn)線上流動產(chǎn)品的視頻原始數(shù)據(jù)不會被傳輸?shù)皆贫耍涣粼谠撛O(shè)備內(nèi),所以即使是機密性高的生產(chǎn)線也可以放心使用
在邊緣AI中,針對每個邊緣設(shè)備預(yù)先嵌入輕量的AI模型,執(zhí)行AI運算并得到推理結(jié)果。例如,對于有瑕疵的產(chǎn)品,邊緣設(shè)備只會發(fā)送“產(chǎn)品有瑕疵”的推理結(jié)果,而不是發(fā)送瑕疵圖像的數(shù)據(jù)。
在前項中,以事例為基礎(chǔ),涉及了邊緣AI的優(yōu)點——運用成本的控制、因通信量小而降低網(wǎng)絡(luò)負(fù)荷、來自邊緣設(shè)備的數(shù)據(jù)(原始數(shù)據(jù))的機密性。這里進(jìn)一步深入總結(jié)這些優(yōu)點以外的優(yōu)缺點(表1)。邊緣AI具有很多優(yōu)點,最近,其低功耗的優(yōu)點也備受矚目(<專欄>對邊緣AI的期待日益升高)。
No | 要點 | 優(yōu)點/缺點 | |
---|---|---|---|
1 | AI運算結(jié)果的響應(yīng)性 | 因為是在終端進(jìn)行AI運算,所以響應(yīng)沒有延遲,能夠?qū)崟r得到運算結(jié)果。 | |
2 | AI運算的處理能力 | 通過使用專用芯片,能夠針對特定任務(wù)實現(xiàn)AI運算的優(yōu)化。 另一方面,由于電池容量等的限制,無法搭載高速處理器, 因此難以進(jìn)行使用高階AI模型的運算等復(fù)雜處理。 | |
3 | 數(shù)據(jù)通信量 | 此外,由于全部的運算處理都能在設(shè)備上完成,運算結(jié)果的數(shù)據(jù)大小很小。 因此,數(shù)據(jù)通信量也很小。 | |
4 | 數(shù)據(jù)的保密性 | 因為來自邊緣設(shè)備的初始數(shù)據(jù)不會泄露到外部,所以初始數(shù)據(jù)的保密性很高。 | |
5 | 脫機連接 | 因為可以不需要連接到互聯(lián)網(wǎng),所以即使離線也可以工作。 | |
6 | 成本 | 引進(jìn) | 引進(jìn)時可以控制硬件的采購費用。但另一方面, 為了采購專業(yè)硬件或改良現(xiàn)有設(shè)備,有時需要花費很高的費用。 |
管理和運用 | 一旦安裝并運行系統(tǒng),就可以控制額外的費用。 但另一方面,需要確保具有專業(yè)知識的人才和進(jìn)行維護(hù)等費用。 | ||
7 | 功耗 | 憑借實時運算(因素1),可以避免不必要的計算和存儲器的使用, 通過面向特定任務(wù)優(yōu)化AI運算(因素2)來提高效率, 數(shù)據(jù)通信量小(因素3)等因素,可以降低功耗。 |
如上所述,邊緣AI具有運算結(jié)果響應(yīng)出眾,實時性和數(shù)據(jù)保密性高,以及通信成本低的優(yōu)勢。作為應(yīng)用該優(yōu)勢的代表用途:
利用圖像識別功能的監(jiān)視攝像頭;
利用語音識別功能的設(shè)備和機器人的操作。
以下,分別介紹各自的應(yīng)用例。
搭載了AI運算功能的攝像頭稱為邊緣AI攝像頭,是能夠?qū)D像數(shù)據(jù)進(jìn)行AI推理的邊緣設(shè)備。在我們身邊,正在研究將其應(yīng)用于通過臉部認(rèn)證解鎖房門的智能鎖。另外,除了臉部認(rèn)證以外,還可以通過手勢識別進(jìn)行人物檢測和人流檢測,因此可以用作監(jiān)視用途。此外,在基礎(chǔ)設(shè)施領(lǐng)域,可以檢測落在鐵路線路或道路上的物體或入侵者;在FA領(lǐng)域,可以進(jìn)行異物混入檢查或形狀檢查,以及作業(yè)人員對重型機械和機器人的接近檢測等,因此可以說它是對智能工廠化有很大貢獻(xiàn)的設(shè)備。
邊緣AI還支持語音識別。例如,可以通過語音對機器人進(jìn)行動作指示、控制照明的點亮和熄滅、亮度調(diào)節(jié)等設(shè)定指示。即使在工廠雙手不得空閑或手臟而無法操作平板電腦設(shè)備等情況下,也可以通過語音指示操作平板電腦設(shè)備。此外,還可操作可穿戴終端和IoT設(shè)備等小型設(shè)備。為了在提高用戶體驗的同時提供安全性方面的優(yōu)點,很多企業(yè)都在關(guān)注這項技術(shù)。
如上所述,邊緣AI是一種可以幫助解決云AI基本問題的技術(shù)。在這里,我將介紹村田對邊緣AI的措施和構(gòu)想,開發(fā)的邊緣AI模塊的性能以及前景。
村田面向智能手機等小型、薄型的高性能模塊進(jìn)行了開發(fā)并商品化,同時積累和運用了在此過程中開發(fā)的許多技術(shù)訣竅。而且,迄今為止,村田一直努力滿足以通信IC為首的多種小型封裝技術(shù)相關(guān)的顧客要求。能否將邊緣AI芯片也模塊化?來自主要IC供應(yīng)商的這一請求是村田開發(fā)邊緣AI模塊的契機。
在本模塊的開發(fā)中,首要關(guān)注的是為避免發(fā)熱而導(dǎo)致的運行障礙的散熱措施。模塊的部件集成度高,一般來說模塊的散熱對策很困難,我們通過下述措施來實現(xiàn)了散熱效率高的邊緣AI模塊:
安裝的芯片零部件的布置等設(shè)計上的措施;
通過電路布局的走線來確保散熱面積等結(jié)構(gòu)上的措施;
樹脂封裝所用材料上的措施。
此外,在采取散熱措施的同時,為避免因噪聲導(dǎo)致的運行問題,還注重遏制電磁噪聲的屏蔽措施,確保了更高的可靠性。
邊緣AI也搭載在最近幾年更加普及的單板計算機/單板微機(以下簡稱SC/OM)上。現(xiàn)對SC/OM和村田邊緣AI模塊進(jìn)行比較。
SC/OM的特點是可以與多種外部模塊協(xié)作,擴(kuò)展性很高。利用該特長,例如通過利用攝像頭模塊和圖像識別用的庫,可以構(gòu)建邊緣AI攝像頭的系統(tǒng)。另一方面,由于使用了通用的AI芯片,所以AI推理的速度較低,在AI運算部中需要使用冷卻風(fēng)扇的散熱措施,另外,有時還面臨著需要AI芯片和周邊IC用電源的設(shè)置空間問題。
另一方面,在村田的邊緣AI模塊的AI運算部,芯片采用了Google公司制造的AI運算功能專用的“Coral”,以2W以下的低功耗實現(xiàn)了比一般的SC/OM更高速的4TOPS*4的運算能力。此外,如前所述,由于采用了本公司專有的不使用冷卻風(fēng)扇的散熱措施,因此可以在不降低運算速度的情況下工作。
憑借這一性能,不僅應(yīng)用于攝像頭,還可以應(yīng)用于智能手機和行車記錄儀等多種邊緣設(shè)備。另外,還可以在嵌入式AI芯片等零部件上外置,系統(tǒng)設(shè)計靈活度高。
*4 TOPS:是Tera operations per second的縮寫,表示每秒可以進(jìn)行1兆次運算的單位。
毫無疑問,隨著邊緣設(shè)備的普及,其使用數(shù)量的增加,需要可以應(yīng)對多種用途的邊緣AI。為了適應(yīng)這一趨勢,不僅需要做到體積更小、運行速度更快、功耗更低,而且還需要運行穩(wěn)定性和可靠性更高的邊緣AI模塊。
村田今后將通過形成AI推理功能專門化的模塊,提供小型、高速且低功耗運行的芯片,即邊緣AI模塊,為實現(xiàn)眾多邊緣設(shè)備所需的AI推理功能的應(yīng)用不斷做出貢獻(xiàn)。
預(yù)計在2030年,包括智能手機和平板電腦在內(nèi),全世界連接了互聯(lián)網(wǎng)的攝像頭以及工廠等的機器人設(shè)備/FA設(shè)備上搭載的傳感器等邊緣設(shè)備的數(shù)量將達(dá)到290億臺。因此,全球邊緣AI市場預(yù)計將從2022年的156億美元增長到超過1074億美元。
另外,邊緣AI的處理器市場預(yù)計到2032年也將達(dá)到約110億美元(2022年達(dá)到約27.5億美元),在這10年間以15.56%的年均增長率增長。
這種邊緣AI市場預(yù)期擴(kuò)大的背景,可以考慮以下幾點:
可利用云AI所沒有的邊緣AI的規(guī)格優(yōu)勢——運算結(jié)果的實時響應(yīng)、數(shù)據(jù)隱秘性高、數(shù)據(jù)通信量低、可脫機連接——的領(lǐng)域,特別是在IoT中的普及
隨著數(shù)字社會和DX化的推進(jìn),移動端和互聯(lián)網(wǎng)數(shù)據(jù)流量的增加(圖4)有望遏制功耗(表1 No.7)
近幾年,邊緣AI的遏制功耗這一優(yōu)點也越來越受到期待。
如上所述,現(xiàn)在的社會基礎(chǔ)設(shè)施的網(wǎng)絡(luò)形態(tài)一般是云端計算,但由于云端服務(wù)器的一直運行和數(shù)據(jù)的遠(yuǎn)距離傳輸帶來的熱損失等導(dǎo)致的功耗很大,因此被指出功耗的效率差。這個情況對云AI來說也是一樣。
因此,近年來,社會各界紛紛開始推進(jìn)通過分布式處理來提高功耗效率的邊緣計算和邊緣AI,而不是集中處理數(shù)據(jù)的云端計算。邊緣AI不依賴云端服務(wù)器即可在邊緣設(shè)備內(nèi)完成數(shù)據(jù)的AI運算,數(shù)據(jù)傳輸帶來的熱損失也很小,因此可以為數(shù)字社會的基礎(chǔ)設(shè)施中的大幅節(jié)省能源做出貢獻(xiàn)。
洪先生
陳小姐
劉先生
范小姐
李小姐
服務(wù)熱線
洪先生:15817466086
陳小姐:13725830898
劉先生:13763237688
范小姐:13544662096
李小姐:13712202849