AI進(jìn)入下半場(chǎng) 目標瞄準“舉重若輕”“大材小用”

  ICC訊 人工智能算法的復雜度急劇攀升，神經(jīng)網(wǎng)絡(luò )計算的能耗代價(jià)越來(lái)越高，數據洪水式地涌積堰塞……這些年，人工智能的發(fā)展遇到了越來(lái)越多的瓶頸。如何將人工智能模型及其計算載體前端化、輕量化成為亟待解決的問(wèn)題。最新興起的輕量化人工智能被寄予厚望，以“輕量化”為賽點(diǎn)的人工智能競賽下半場(chǎng)已經(jīng)來(lái)臨。為此，4月27日，科技日報記者采訪(fǎng)了中國科學(xué)院自動(dòng)化研究所的相關(guān)專(zhuān)家。

  輕量化成為人工智能下半場(chǎng)賽點(diǎn)

  人工智能技術(shù)在行業(yè)應用中，大多依賴(lài)海量的訓練數據和大規模服務(wù)器的算力支持。

  然而，近年來(lái)，隨著(zhù)信息技術(shù)領(lǐng)域的摩爾定律逐步放緩，硬件的發(fā)展越來(lái)越難以滿(mǎn)足當前人工智能模型動(dòng)輒萬(wàn)億級規模的存儲和算力需求，數據堰塞、存儲暴漲、隱私泄露、能耗高企等問(wèn)題隨之而來(lái)。

  “當前，對于人工智能設備和應用的快速響應、隱私保護以及節能減排的需求越發(fā)凸顯，輕量化人工智能應運而生，并被寄予厚望。2020年，《麻省理工科技評論》將輕量化人工智能列為‘全球十大突破性技術(shù)’?！敝袊茖W(xué)院自動(dòng)化研究所研究員程健說(shuō)。

  所謂輕量化人工智能，是指以一系列輕量化技術(shù)為驅動(dòng)提高芯片、平臺和算法的效率，在更緊密的物理空間上實(shí)現低功耗的人工智能訓練和應用部署，不需要依賴(lài)與云端的交互就能實(shí)現智能化操作的人工智能。

  輕量化人工智能被評入“全球十大突破性技術(shù)”，《麻省理工科技評論》給出的評選理由是，輕量化智能使現有的服務(wù)，比如語(yǔ)音助手、手機拍照等，變得更好更快，不必每次都需要連接云端才能運行深度學(xué)習模型；此外，輕量化人工智能也將使新的應用成為可能，比如基于移動(dòng)端的醫學(xué)檢測分析、對反應時(shí)間要求更快的自動(dòng)駕駛汽車(chē)；此外，本地化的人工智能更利于隱私保護，用戶(hù)的數據不再需要離開(kāi)設備就能實(shí)現服務(wù)功能的進(jìn)化。

  “更重要的是，輕量化人工智能將人工智能推向更主流，它大大降低了人工智能系統的部署難度和成本，把人工智能從一場(chǎng)高門(mén)檻的科技巨頭競賽變成更容易普惠民生的智能生態(tài)?！背探≌f(shuō)，在人工智能領(lǐng)域的角逐中，以輕量化為賽點(diǎn)的下半場(chǎng)已經(jīng)來(lái)臨。

  極致效率、極低能耗是最終追求

  在表現上，輕量化人工智能是在做減法，降低能耗、降低對硬件平臺性能指標的要求、降低與云端的通訊需求等。

  然而，“實(shí)質(zhì)上，輕量化的內核卻是在做加法?！敝袊茖W(xué)院自動(dòng)化研究所副研究員冷聰說(shuō)，產(chǎn)業(yè)的需求決定了要完成的人工智能任務(wù)越來(lái)越復雜，輕量化人工智能必須通過(guò)提高運算速度、計算密度才能實(shí)現極致的效率。

  在程健看來(lái)，在精度接近無(wú)損的前提下，將人工智能模型及其計算載體輕量化，是一個(gè)極具挑戰性的任務(wù)。

  解決這一問(wèn)題，需要對神經(jīng)網(wǎng)絡(luò )進(jìn)行輕量化設計、計算加速以及設計新的計算架構以實(shí)現模型的硬件化，這需要從軟件和硬件兩方面來(lái)著(zhù)手。

  在軟件上，進(jìn)行模型和算法創(chuàng )新，通過(guò)輕量化模型設計、矩陣分解、稀疏表示、量化計算來(lái)實(shí)現模型的微型化和計算加速；而在硬件上，則要通過(guò)流水線(xiàn)設計、存儲模式設計等手段進(jìn)行硬件架構的創(chuàng )新，通過(guò)軟硬協(xié)同設計和優(yōu)化實(shí)現人工智能的輕量化。

  “雖然執行神經(jīng)網(wǎng)絡(luò )計算的是硬件，但神經(jīng)網(wǎng)絡(luò )結構和人工智能平臺決定了計算量的大小和運算方式?！崩渎斕寡?，所以極致的輕量化必須是軟件和硬件的協(xié)同輕量化——基于復雜的人工智能應用場(chǎng)景，將芯片、平臺和算法充分結合以聯(lián)合加速。

  作為人工智能的硬件載體，人工智能芯片必須達到更高的性能、更高的效率、更低的功耗和更小的體積。這樣才能有足夠平價(jià)高效的計算平臺滿(mǎn)足產(chǎn)業(yè)需求，承載復雜的人工智能任務(wù)，并且使推理和運算從云端遷移到終端。

  同時(shí)，輕量化的人工智能平臺要以更低的功耗來(lái)訓練和運行人工智能算法，最大化的發(fā)掘硬件的能力。更重要的是，應用輕量化技術(shù)的神經(jīng)網(wǎng)絡(luò )模型要小規模、少運算量并保持良好的精度。

  未來(lái)輕量化人工智能將賦能萬(wàn)物

  程健介紹，中國科學(xué)院自動(dòng)化研究所是輕量化人工智能的先行者，很早就開(kāi)始了軟硬協(xié)同輕量化的技術(shù)研究，并走在國際前列。

  早在2016年，卷積神經(jīng)網(wǎng)絡(luò )大規模邁向應用之初，中國科學(xué)院自動(dòng)化研究所就在國際人工智能頂級期刊發(fā)表了多篇神經(jīng)網(wǎng)絡(luò )模型輕量化領(lǐng)域的重要論文，成為國際上最早開(kāi)始人工智能輕量化研究的機構之一，相關(guān)成果引起了國內外諸多專(zhuān)家的廣泛關(guān)注。

  “我們設計開(kāi)發(fā)的輕量化人工智能平臺QEngine及輕量化算法已經(jīng)在數十萬(wàn)終端上部署。2019年，在國際神經(jīng)信息處理系統大會(huì )的微型網(wǎng)絡(luò )挑戰競賽中，我們與ARM、IBM、高通、Xilinx等國際一流芯片公司同場(chǎng)競技，獲得了輕量化神經(jīng)網(wǎng)絡(luò )架構圖像類(lèi)的雙冠軍?！背探”硎?。

  2020年，中國科學(xué)院自動(dòng)化研究所自主研發(fā)的全球首款極低比特量化神經(jīng)處理芯片（QNPU）成功流片，繞開(kāi)了芯片計算領(lǐng)域備受關(guān)注的“內存墻”難題，在芯片成本、功耗、計算結構、邊緣計算等方面實(shí)現革命性的變革。

  “該芯片的面世，也標志著(zhù)自動(dòng)化研究所成為了全球為數不多的擁有‘人工智能芯片—平臺—算法’全棧輕量化人工智能技術(shù)的機構之一?！崩渎斦f(shuō)。

  未來(lái)，以人工智能驅動(dòng)的小型化設備會(huì )越來(lái)越多出現在我們身邊。由人工智能芯片、平臺和算法組成的輕量化人工智能終端將在越來(lái)越多的場(chǎng)景中應用。

  “比如，在電力行業(yè)，我國的輸電線(xiàn)路覆蓋廣，野外自然環(huán)境復雜，檢修維護作業(yè)危險系數高、難度大，我們設計的自主巡檢無(wú)人機、缺陷識別分析便攜終端、通道可視化智能感知攝像頭具備多種智能識別、檢測和分析功能，能夠保障輸配電線(xiàn)路的安全和電力系統穩定?！背探∨e例說(shuō)。

  同時(shí)，在消費電子行業(yè)，暗光增強、超分辨率等自動(dòng)化所設計的輕量化算法及輕量化神經(jīng)網(wǎng)絡(luò )計算架構，也為手機終端、安防終端提供了影像增強效果。

  程健表示，輕量化人工智能未來(lái)將賦能萬(wàn)物，讓每個(gè)設備都具有環(huán)境感知、人機交互、決策控制的能力。