Page 41 - 智慧邊緣運算實現更環保、更安全與高效的社會
P. 41
INNOVATIONS
化、而非最高速度的半導體製程技 術著手，也意味著設計出的電路只 能消耗足夠完成手頭任務的功率， 並且在不需要時關閉;還意味著需 要選擇合適的處理器架構，例如 ArmCortex-M33處理器核心、DSP 核心和專門的神經處理單元，能夠 以盡可能最少的電池電量，透過協 作完成既定的推理任務，而非著重 於盡可能降低延遲。還意味著為攝 影機和麥克風提供晶片上低功耗記 憶體和週邊介面。
秒產生10次推論的情況下，使用一 顆電池可以達到近三年時間的運 作時間。
取得成功有賴一個由硬體、 軟體和IP供應商組成的協作生 態系統。例如Synaptics與像是 Edge Impulse這樣的機器學習作 業(MLOps)公司合作，有助於加快 這個過程。將Synaptics的Katana 平台與Edge Impulse環境結合，使 用者可以在幾天內打造出模型的原 型，並在幾個月內建立生產模型。這 意味著降低風險，以及快速部署具 差異化、超低功耗的邊緣AI裝置。
對於將在現場使用、需要處理 敏感個資的SoC來說，安全性也是 首要考慮的問題。金鑰的安全儲存、 安全的開機與程式碼更新，還有硬 體輔助加密，都是必須在硬體層級 解決的問題。
影像偵測性能和超低功耗的 結合，為廉價、無人值守和不須綁 定的智慧攝影機開闢了新的應用領 域。但從歷史上看，視訊推理系統 的編程工作複雜到令人沮喪——因 此產業界才出現一種所謂的AI專家 副業。如果使用神經加速器SoC的 第一步，是得聘請一組AI專家和資 料科學家，大概很少有應用能負擔 得起。
能期待怎樣的實踐結果?
在這個領域，得力的SoC需要 得力的開發環境。因此Synaptics 與Eta Compute合作為KA 10000 提供了TENSAI Flow開發平台。該 平台包括一個可在KA 10000運算 系統上最佳化實現模型的編譯器; 用於人員偵測和工業安全等任務， 經過預先設計、訓練驗證的機器學 習模型;以及構成系統的中介軟體 和裝置驅動程式。
對於以低成本全自動攝影機來 因應具效率、特定應用案例機器學 習的需求，晶片產業首次做出了回 應。目前市面上的解決方案能以極 具吸引力的成本和性能，提供非專 家也能使用的開發環境，搭配完整 的神經網路強化SoC。這為低功耗 人員偵測和其他視覺偵測方案開 拓了更大的市場，並將以多種方式 改善人們的生活。
這種專注於超低功耗設計的 方案是否成功?對此Synaptics表 示，KA10000在連續處理視訊並每
想要自己開發模型的使用者可 以在TENSAI平台使用TensorFlow， 但是模型開發任務程序相當複 雜——得透資料收集、資料過濾生 成最相關的資料集，並使用該資料 集訓練神經網路模型、最佳化該模 型以適應超低功耗SoC的記憶體 限制，然後透過編程將模型導入可 執行的二進位韌體檔案中。
2022年5月 | www.eettaiwan.com
39
低功耗嵌入式視覺系統應用已越來越廣泛。
對於非專業軟體開發者來說， 這些任務令人卻步，其過程可能需 要6~9個月——如果出現任何問題 就要花費更長時間——因此邊緣AI 裝置的部署可能會是一項耗時的工 作，從而讓產品開發時間表、預算 甚至上市時程置於風險之中。
