Blumind以類比半導體架構助力AI推論

由於現行電腦系統結構（computer architectures）的限制，AI發展和使用遭遇嚴重的能源不足問題。為了解決這項挑戰，加拿大新創Blumind發明類比半導體架構，可以低耗能的方式有效支持神經網路。

Blumind共同創辦人兼營運長Niraj Mathur表示，該公司2022年送交製造第一顆晶片，已取得良好成果；目前正在設計更多測試晶片，目標在2024年投產。

低耗能的半導體架構

創立於2020年的Blumind，希望以自身的半導體技術促進AI推論。Mathur說，AI的「訓練（training）」是以巨量數據訓練神經網路；AI推論是訓練後的下個階段，是神經網路要去執行的功能。

他舉例，鏡頭採用經過訓練的神經網路，可以判斷蒐集的畫面裡是否有人類出現，這就是AI推論。這個不斷重複的過程會消耗AI大部分的工作量，因為必須隨時提供最佳的使用者經驗。

Mathur表示，業界已在發展高效率、永續性的AI上碰到困境。首先，要以使用數十年的馮紐曼架構（von Neumann computer architecture）去滿足未來機器學習（machine learning）和神經網路處理（neural network processing）的需求，會相當有挑戰性。

此外，隨著摩爾定律（Moore’s law）所預言的趨勢陷入停滯，必須付出更高的成本才能提升效能，問題變得更嚴重。

為了協助業界提供更優質的AI科技，Blumind共同創辦人兼技術長John Gosson研發類比半導體架構執行神經網路處理，已取得專利。連同執行長Roger Levinson在內，Blumind的三位創辦人在半導體業界共有超過70年的資歷。

Mathur說，Blumind架構的運作方式和人腦類似；人腦就是經過長時間的訓練，才可以藉由眼睛、耳朵、鼻子等生理感測器接受到的訊息，作各種決定。

他也指出，Blumind的類比架構可減少100至1,000倍的耗能，對永續環境非常重要。根據業界評估，若AI效率保持目前水準，AI運算可在30年內消耗現今90%由人類製造的能源。他說，這顯然無法達到環境永續，機器學習必須以更有效率的方式執行。

利用類比架構減少耗能理論上可行，但Mathur表示，要能用於大量生產的狀況是另一連串不同的挑戰；這項解決方案還必須在極端溫度等環境下穩定運作，Blumind已一一克服這些困難。

鎖定邊緣人工智慧（edge AI）

Blumind的解決方案可用於眾多領域，目前先鎖定邊緣AI推廣；根據Mathur說明，是指那些使用電池、在電源或溫度控制上受限制的感測器和裝置。

他舉例，Blumind的科技可用於汽車或智慧交通（smart mobility）裝置的鏡頭上，協助車輛或裝置閃避物體。也適合使用神經網路的心電圖（ECG）監測、血糖監測器，直接在病人體內偵測、處理感測器所蒐集到的數據，只會消耗少量電力，甚至支援能量採集（energy harvesting）。

Blumind的解決方案也可應用於擴增實境(AR)裝置。Mathur說，AR需要大量運算，又因為裝置小、要求極短的反應時間，在電源、延遲（atency）和溫度上都有限制。Blumind的晶片可以讓AR裝置在不配備大型電池的情況下，有效率地處理手勢資訊。

台灣是發展亞洲市場的跳板

Mathur表示，Blumind於2023年1月完成第二輪募資，接下來將往A輪募資努力。他說，目前和幾家頂尖公司合作定義產品，希望未來晶片投產時，這些公司能成為潛在客戶。

Mathur也說，Blumind希望和台灣的半導體產業接觸，除了因為有台積電、聯電等知名企業，也因為該公司的解決方案可用於像智慧感測器和智慧城市等，這些應用在亞洲和歐洲發展較快速。Blumind希望以台灣為出發點，未來進軍更大的亞洲市場。

Mathur已和台灣的半導體生態圈有部分接觸，獲得令他印象深刻的回饋。他將到台灣參加COMPUTEX 2023，也說他非常期待到訪和面對面交流的機會。

責任編輯：陳奭璁