Page 37 - 助力製造業無痛轉型 智慧工廠教戰守則揭密

INDUSTRY TRENDS
類，其工作量也很大──高達4K 的高解析度影像，加上更多資訊 與情境，意味著這些神經網路變 得更複雜。
將AI任務關聯的資料轉移到 合適的記憶體，是資料中心AI面臨 的最大挑戰之一，也因此減少了將 所有工作負載都發送到中央雲端的 需要，但這對記憶體資源帶來了更 大的壓力。
「如果是視訊，你還需要按時 間從多個影格(frames)中提取含 義;」Ober表示:「此時記憶體就 相 當 重 要。」
Ober預見對新型高頻寬、低 功耗大型記憶體的需求會增加， 因為其本質上是非揮發性的。現 在已經有一些在嵌入式裝置(例如 工業端點設備)中處理AI工作負載 的動作，而將一些任務轉移到本 地的5G連網基地台。
他指出，Nvidia專注於資料 中心的訓練工作負載，在這裡記 憶體容量和頻寬至關重要，降低 功耗也同樣重要。因此，不同的 記憶體技術可以在未來的AI應用 中扮演要角，例如電壓調控MRAM (voltage-controlledMRAM)，可 降低功耗、維持頻寬並釋放算力; 「從長遠來看，會有一些非常有趣 的解決方案。」
更複雜的任務則會被發送到 雲端資料中心;「目前已經有一些 工作以這種方式分層，因為老實 說，沒有足夠的頻寬可以讓這些 任務回到核心。」
Ober補充，即使記憶體能力 不斷提高以滿足AI需求，業界的期 望也會不斷提高，因為AI的複雜性 始終是以倍數成長。
聯合式學習
「你能編纂的知識越多，AI可 以做的事情就越多，」訓練網路本 質上就是資訊的編纂，能偵測到 一隻狗對一個邊緣裝置來說已經 不夠了;他指出，「人們還會想知 道那是哪一種狗、牠在做什麼、牠 是快樂還是傷心?人們的期望值也 會呈指數上升。」
Ober表示，分散式AI的層級 式方法支援漸進式訓練或是「聯 合學習」(federated learning)， 從而實現持續的改善;「神經網路 不斷被重新訓練並更新，因此必 須有一些非揮發性記憶體或其他 記憶體，可以將這些更新推送到所 有 裝 置 中，無 論 其 大 小。」
隨著機器人進行影像檢測 和分類等的功能不斷改進，資料 中心的AI和ML工作負載也會更 多。Ober表示，市場對高性能運 算的需求會持續，並且總會有更複 雜、需要更多時間和更多機器智慧 的新AI任務出現。
例如Lenovo的ThinkEdge (參 考圖1)，包括一個配備AI功能的邊 緣裝置，採用高性能DDR4 DRAM 和大容量SSD支援用於倉儲、物流 追蹤或自動化製程電腦視覺的AI 與機器學習模型。
不過對於工業機器人以及 自動駕駛車輛等車用案例來說， 可能需要更多的記憶體頻寬和
2021年12月 | www.eettaiwan.com
33