Page 36 - 助力製造業無痛轉型 智慧工廠教戰守則揭密
P. 36
32
受益者。在此同時,對IoT保護的 需求不斷成長,其商機也吸引網 路設備業者以及越來越多的純網 路安全方案供應商;ABI指出,前
者包括愛立信(Ericsson)、諾基亞 (Nokia)和中興通訊(ZTE)等,後者 則有Fortinet和IoTerop等公司。
越來越顯著,Menting強調未來 IoT網路必須具備安全性;「安全 性的整合對於開發可信任網路至 關 重 要。」
隨著市場對人工智慧(AI)的炒作逐 漸退燒,以及該技術面臨新的工程 挑戰,與記憶體相關的需求漸成為 焦點──並非每一種機器學習和 推論任務都需要先進的記憶體技 術,經市場驗證的傳統記憶體反而 可以因應邊緣AI應用,而這種分散 式AI可能是5G真正需要的。
間裡的攝影機可以進行非常簡單 的AI處理,偵測房間內的人數,進 而調節冷暖空調;」O’Donnell表 示,這看似簡單,但這些任務可以 在一個配備了適當運算/記憶體能 力的建築群中進行本地處理,無需 將資料在雲端與裝置間來回傳送。
中,三星(Samsung)就指出,該技 術最終可以被運用於其他類型的 記憶體以支援AI工作負載,其中可 能包括LPDDR5,用於將AI帶到各 種邊緣端點裝置,不需要連結資 料中心。
不過,基本的推論運作已經 變得更複雜;整體而言,記憶體 預期將在推論方面發揮更大的作 用。市場研究機構TECHnalysis Research總裁暨首席分析師Bob O’Donnell認為,AI是實現5G願 景不可或缺,只有兩者結合才能實 現新的應用。
O’Donnell補充,還有一種 折衷方案,即邊緣裝置在本地處 理資料,同時具備足夠的智慧, 知道何時將檔案發送到資料中心 進行「深度處理」,結果之一是 將經過改善的演算法發送回邊緣 「這是一種持續演進的循環,」他 表示,「也是事情開始變得非常有 趣的地方。」
三星展示了將LPDDR5-PIM 用於語音辨識、翻譯和聊天機器 人等應用時,其性能提高了一倍以 上,功耗則降低超過60%。
O’Donnell指出:「諷刺的 是,所有人都認為它們是各自獨立 的物種,5G是一回事、邊緣是另 一回事,而AI又是另外一回事。需 要將這些東西結合起來,才能讓它 們任何一個都能真正發揮作用。」
根據O’Donnel預測,分散式 AI應用專屬記憶體會相對較低階, 這類記憶體適合多種應用,像是分 散式邊緣裝置。「我想LPDDR類型 記憶體是最合乎邏輯;」即使是低 功耗DDR也能獲得提升,超越在智 慧型手機、汽車和各種邊緣端點使 用的典型元件類別。
Nvidia首席平台架構師 Robert Ober指出,一些需要記憶 體的分散式AI正在助力5G基地台 的運作。邊緣的5G基礎設施有時 具備的頻寬,比它所連結之舊基礎 設施設備更大,因此需要一些推論 功能來管理網路事務;「以外顯程 式編寫(explicit programming) 來做太過複雜。」
隨著邊緣處理器演進,以及 LPDDR等類型記憶體被運用在邊 緣裝置處理一般AI任務,分散式AI 已經在一定程度上獲得實證。「房
在最近一個有關將記憶體內 處理(PIM)技術推向主流的新訊息
許多邊緣AI應用案例都很平 凡,使用的嵌入式裝置需要小體 積、小功率記憶體。Ober認為挑 戰在於,即使是最基本的AI功能, 例如在邊緣進行影像識別和分
www.eettaiwan.com | 2021年12月
隨著朝向5G NR過渡的趨勢
無所不在的AI應用其實只需要傳統記憶體
Gary Hilson,EE Times特約記者
AI與5G
INDUSTRY TRENDS