Page 38 - 助力製造業無痛轉型 智慧工廠教戰守則揭密
P. 38
34
容量,卻不一定是最重要的。旺 宏(Macronix)技術行銷總監Jim Yastic認為,AI熱潮的發展週期類 似於目前在車用、工業和安全性設 定中扮演要角的物聯網。
選擇記憶體
Rambus研究員Steve Woo 就指出,長遠來看,從運算技術 的發展歷史就可以預測AI系統中 記憶體的未來;「今天的超級電 腦會是明日的智慧型手機。」一些 需要高階硬體的較早期AI模型現 在已經可以用更主流的記憶體來 處理;「現在更容易的部分原因是 產業界已經將記憶體元件更進一 步小型化,硬體成本也降低了。」
市場研究機構IDC預測,到 2023年,有70%的物聯網(IoT)部 署都將包括AI,用於實現自主或邊 緣決策,其中電腦視覺是成長最快 的邊緣AI應用之一。
其他適合工業與車用AI的 記憶體元件,可能包括通用快 閃記憶體、NAND快閃記憶體 SSD、DRAM甚至SRAM。
Yastic指出,AI的分散式策略 是有道理的,因為在資料中心做所 有事情都成本高昂。正如IoT裝置 也在本地承擔更多處理任務一樣, 更多AI運作正移出資料中心,同時 得決定哪些需要送回中央雲端。
在眾多生態系統中,尤其是 車用領域,可靠性、安全性都是永 恆不變的,這就是為什麼現有記 憶體仍是首選,對AI任務來說也 是如此。今日的車輛就像是「有輪 子的伺服器」,也是多種嵌入式端 點設備的集合,包括配備板載記憶 體的感測器和攝影機,而這些記 憶體需要和車輛一樣維持較長的 使用壽命。
今日的HBM2可能很快會成為 少數透過CXL (Compute Express Link)介面連結的DDR DIMM和其 他記憶體;Woo表示:「我們將能 夠達到在如今看來似乎是遙不可 及的性能水準。」
在工業和車用領域,邊緣AI的 記憶體需求是由各種類型的感測 器決定,這些感測器都執行某種程 度的過濾,並透過將選定的資料送 回中央,以建立更好的ML模型;這 些新的模型接著會被下載。
Yastic預期,NOR快閃記憶 體的高可靠性與長命,將會讓它在 車用AI領域長期佔據一席之地;該 類記憶體可以在嚴苛環境中運作 十年以上的時間,也因為具備快 速啟動能力而受到汽車業者的青 睞。旺宏的OctaFlash SPI NOR 快閃記憶體就提供快速啟動和高
Woo將AI的主流化與智慧型 手機十年來的演進作為類比,「各 種開發人員不斷提出使用該技術 的新方法;」隨著規模不斷擴大, 市場已經進展到因為需要支援低 功耗的記憶體數量增加,而有專 屬記憶體的開發,他AI記憶體也 能產生一樣的協同效應,「成本 將繼續下降,此時出現專屬元件
Yastic認為這種方法是有必 要的,因為汽車等系統根本無法
www.eettaiwan.com | 2021年12月
在很短時間內處理TB等級的資 料。即使有5G,本地系統也必須 快速做出一些明智的決策,不須 來回傳輸大量資料。在自動駕駛 車輛中,5G支援自動駕駛輔助系 統(ADAS)功能和AI功能。
速介面,可應用於自動駕駛車輛 的大多數端點裝置。
圖1:Lenovo的ThinkEdge等邊緣裝置利用DDR DRAM和快閃記憶體固態硬碟(SSD)來處理和儲存 資料,實現本地AI和安全的雲端管理。
(來源:Lenovo)
Yastic表示,不同裝置需要 做出決策的速度,決定了AI系統 的架構也決定了以性能和密度來 衡量的記憶體需求;「根據不同 應用,可能只會需要一片嵌入式多 媒體卡(embedded multimedia card,eMMC)。」
所有記憶體技術都不可避免 地要提高密度和性能,同時朝向成 本更低、尺寸更小、功耗更低的趨 勢發展。資料中心仍然需要高性能 記憶體來處理AI和ML工作負載, 但市場上現有記憶體也有機會滿 足分散式系統中的許多AI需求。
這也有助於節省成本,Yastic 指出,NOR快閃記憶體已經存在了 很長時間,其價位已經下降。
INDUSTRY TRENDS