Page 28 - 軟體定義汽車時代變的何止是車

26
類比運算將是
下一個人工智慧創新時代的關鍵
Tim Vehling，Mythic產品與業務開發資深副總裁
隨著人工智慧(AI)應用在越 來越多的產業中變得越來越流 行，對更多運算資源、更多模型儲 存容量，以及更低功耗的需求變 得越來越重要。目前用於人工智 慧應用的數位處理器難以滿足這 些極具挑戰性的要求，尤其是對 於在邊緣運作的大型機器學習模 型。類比運算提供了一種創新的 解決方案，能夠幫助人們以更低 的功耗和更小的外形尺寸獲得更 高的性能，同時極具成本效益。
還有許多二級系統級效應可 以大幅降低功耗;例如，當使用類 比運算將功耗降低多達10倍時， 因為不再需要主動冷卻，熱管理 系統將得到極大的簡化。
類比運算系統還具有成本優 勢，因為內建嵌入式揮發性記憶 體的處理器可以用成熟的半導體 製程節點製造。與所有產能都被 少數公司佔用的前瞻節點相比， 這些製程節點通常成本更低，供 應鏈的可用性更廣。此外，類比 CIM可以使用單個快閃記憶體電 晶體來同時儲存神經網路權重和 執行乘法與累加操作。這樣用單 顆晶片就能完成非常密集的神經 網路權重儲存和高性能人工智慧 處理，不再需要增加外部DRAM及 相關組件的成本。
Tim Vehling
成本、延遲優勢
與數位運算相比，類比運算 的速度和功效值長期以來就一 直很有前景。從歷史上看，開發 類比系統存在許多障礙，包括類 比處理器的尺寸和成本。最近的 方法顯示，一種稱為記憶體內類 比運算(analog compute in- memory，CIM)的組合方法可以 消除這些障礙，該方法將類比運 算與快閃記憶體等揮發性記憶體 (NVM)配對使用。
數運算。 因此，雖然數位處理系統在
與依賴消耗過多功率的高 傳輸量DRAM的數位運算系統不 同，類比CIM系統可以利用令人 難以置信的高密度快閃記憶體 進行資料儲存和運算，這樣就消 除了在數位運算系統中訪問和維 持DRAM中的資料所帶來的高功 耗。使用類比CIM方法後的處理
透過在快閃記憶體陣列內執 行大規模平行向量矩陣乘法和加 法運算，可以獲得顯著的功耗優 勢。微小的電流透過儲存神經網 路權重的快閃記憶體陣列加以引 導，矩陣乘法結果利用一系列類 比數位轉換器(ADC)得以累積。 透過利用類比運算進行推理操 作，可以消除DRAM訪問和數位運 算的功耗開銷，從而實現人工智 慧推理處理總功耗的大幅下降。
類比CIM系統的另一個好處 是它們的速度可以非常快，因為 它們不受資料透過處理器中的數 位邏輯閘和記憶體傳播，以及讀 寫外部DRAM的延遲的影響。可以 在晶片上執行大規模平行矩陣運 算，所需時間僅為數位處理系統 的一小部分。這種速度使得類比 CIM系統成為運算密集型人工智 慧工作負載的理想選擇，例如用
www.eettaiwan.com | 2022年3月
Mythic產品與業務開發資深副總裁
(來源:Mythic) 器能以快速和低功耗的方式操作 和組合整個儲存庫中的小電流， 從而在揮發性儲存單元內完成算
不斷增加的深度學習工作負載和 更高的功耗方面遇到困難，但類 比CIM系統可以執行即時處理。 即使是多個大型、複雜的深度神 經網路，其功耗也只是數位處理 系統的一小部分。
OPINION