微芯片設(shè)計將推動AI實時邊緣計算

AI邊緣計算是AI+邊緣計算結(jié)合的深度應(yīng)用，然而，在實時性方面，AI邊緣計算一直未有突破。不過，最近的微芯片設(shè)計將有力的推動這一領(lǐng)域的發(fā)展。

為了應(yīng)對人工智能對計算機網(wǎng)絡(luò)的爆炸性需求，普林斯頓大學的研究人員近年來從根本上提高了專門的人工智能系統(tǒng)的速度并減少了其能源使用。現(xiàn)在，研究人員通過創(chuàng)建共同設(shè)計的硬件和軟件，使設(shè)計者能夠?qū)⑦@些新型系統(tǒng)融合到他們的應(yīng)用中，使他們的創(chuàng)新更接近于廣泛使用。

通過減少電力需求和從遠程服務(wù)器交換數(shù)據(jù)的需要，用普林斯頓技術(shù)制造的系統(tǒng)將能夠把人工智能應(yīng)用，如無人機的駕駛軟件或高級語言翻譯帶到計算基礎(chǔ)設(shè)施的最邊緣。新的芯片基于模擬計算，它使用電路來模擬正在解決的方程，而不是像數(shù)字計算機那樣產(chǎn)生1和0。兩年前，普林斯頓大學的研究團隊制作了一種新的芯片，旨在提高神經(jīng)網(wǎng)絡(luò)的性能，而神經(jīng)網(wǎng)絡(luò)是當今人工智能的精髓。該芯片的性能比其他先進的微芯片好幾十到幾百倍，在幾個方面標志著一種革命性的方法。

事實上，該芯片與目前用于神經(jīng)網(wǎng)絡(luò)的任何東西都有很大的不同，以至于它對開發(fā)者構(gòu)成了挑戰(zhàn)。在接下來的兩年里，研究人員努力完善該芯片，并創(chuàng)建一個軟件系統(tǒng)，使人工智能系統(tǒng)能夠利用新芯片的速度和效率。

在2021年2月舉行的國際固態(tài)電路虛擬會議上，主要作者、Verma研究實驗室的研究生Hongyang Jia描述了新軟件將如何讓新芯片與不同類型的網(wǎng)絡(luò)一起工作，并讓系統(tǒng)在硬件和軟件的執(zhí)行方面都具有可擴展性。

Verma的團隊開發(fā)了新的芯片，以應(yīng)對日益增長的人工智能需求和人工智能對計算機網(wǎng)絡(luò)的負擔。人工智能使機器能夠模仿學習和判斷等認知功能，在圖像識別、翻譯和自動駕駛汽車等新技術(shù)中發(fā)揮了關(guān)鍵作用。

理想情況下，無人機導航等技術(shù)的計算將基于無人機本身，而不是在一個遠程網(wǎng)絡(luò)計算機中。但數(shù)字微芯片的功率需求和對內(nèi)存存儲的需求會使設(shè)計這樣的系統(tǒng)變得困難。通常情況下，該解決方案將大部分計算和內(nèi)存放在一個遠程服務(wù)器上，該服務(wù)器與無人機進行無線通信。但是這增加了對通信系統(tǒng)的要求，并引入了安全問題和向無人機發(fā)送指令的延遲。

為了解決這個問題，普林斯頓大學的研究人員從幾個方面重新考慮了計算。首先，他們設(shè)計了一個芯片，在同一個地方進行計算和存儲數(shù)據(jù)。這種技術(shù)被稱為內(nèi)存計算，削減了用于與專用存儲器交換信息的能量和時間。這項技術(shù)提高了效率，但也帶來了新的問題：由于它將兩種功能塞進了一個小區(qū)域，內(nèi)存計算依賴于模擬操作，而模擬操作對電壓波動和溫度尖峰等來源的破壞很敏感。為了解決這個問題，普林斯頓大學的團隊使用電容器而不是晶體管設(shè)計他們的芯片。電容器是儲存電荷的設(shè)備，可以以更高的精度制造，并且不受電壓變化的影響。電容器也可以非常小，并放置在存儲單元的頂部，增加處理密度并削減能源需求。

為了解決這個問題，普林斯頓大學的研究人員從幾個方面重新考慮了計算。首先，他們設(shè)計了一個芯片，在同一地方進行計算和存儲數(shù)據(jù)。這種技術(shù)被稱為內(nèi)存計算，它削減了與專用存儲器交換信息所需的能量和時間。這項技術(shù)提高了效率，但也帶來了新的問題：由于它將兩種功能塞進了一個小區(qū)域，內(nèi)存計算依賴于模擬操作，而模擬操作對電壓波動和溫度尖峰等來源的破壞很敏感。為了解決這個問題，普林斯頓大學的團隊使用電容器而不是晶體管設(shè)計他們的芯片。電容器是儲存電荷的設(shè)備，可以以更高的精度制造，并且不受電壓變化的影響。電容器也可以非常小，并放置在存儲單元的頂部，增加處理密度并削減能源需求。

但是，即使在使模擬操作變得強大之后，仍然存在許多挑戰(zhàn)。模擬核心需要有效地集成在一個主要是數(shù)字的架構(gòu)中，以便它能與其他功能和軟件相結(jié)合，使實用系統(tǒng)實際運作。 一個數(shù)字系統(tǒng)使用開關(guān)來表示1和0，計算機工程師用它來編寫構(gòu)成計算機編程的算法。模擬計算機則采取了完全不同的方法。在IEEE Spectrum的一篇文章中，哥倫比亞大學教授Yannis Tsividis將模擬計算機描述為一個物理系統(tǒng)，被設(shè)計為受與程序員想要解決的問題相同的方程所支配。例如，一個算盤就是一個非常簡單的模擬計算機，一個水桶和一根軟管可以作為某些微積分問題的模擬計算機：要解決一個積分函數(shù)，可以進行數(shù)學運算，或者可以直接測量水桶里的水。

模擬計算是貫穿第二次世界大戰(zhàn)的主導技術(shù)。它被用來執(zhí)行從預測潮汐到指揮艦炮的功能。但模擬系統(tǒng)建造起來很麻煩，而且通常需要訓練有素的操作員。在晶體管緊急出現(xiàn)后，數(shù)字系統(tǒng)被證明更加有效和適應(yīng)性強。但新技術(shù)和新的電路設(shè)計使工程師們能夠消除模擬系統(tǒng)的許多缺點。對于像神經(jīng)網(wǎng)絡(luò)這樣的應(yīng)用，模擬系統(tǒng)具有真正的優(yōu)勢。現(xiàn)在，問題是如何將兩個世界的優(yōu)點結(jié)合起來。

這兩類系統(tǒng)是相互補充的。數(shù)字系統(tǒng)發(fā)揮著核心作用，而使用模擬芯片的神經(jīng)網(wǎng)絡(luò)可以極其快速有效地運行專門操作。這就是為什么開發(fā)一個能將這兩種技術(shù)無縫、高效地整合起來的軟件系統(tǒng)是如此關(guān)鍵的一步。