智慧手機進化停滯 大廠AI晶片問世再添助力 智慧應用 影音
EVmember
ST Microsite

智慧手機進化停滯 大廠AI晶片問世再添助力

  • DIGITIMES企劃

台大資工系教授洪士灝指出,各大廠近年積極推出行動AI晶片,將有助於智慧手機的再次進化。
台大資工系教授洪士灝指出,各大廠近年積極推出行動AI晶片,將有助於智慧手機的再次進化。

雲端架構逐漸普及,嵌入式系統的應用隨之起飛,尤其是AI在近兩年開始啟動後,各類型嵌入式設備的功能越來越強大,然而向來與其他嵌入式設備同步發展的智慧型手機,近年來出現停滯現象,大多應用程式都只在停留在酷炫有趣階段,更智慧的應用仍未到位,台大資工系教授洪士灝指出,原因出在目前軟硬體效能仍不足,智慧手機必須更智慧,才能有進一步發展。

以全球最大的社群媒體臉書使用者為例,現在許多人上臉書所使用的手機都是2~3年前的產品,運作依然順暢,再加上其他上網、相機等程式也不需要過於強大的效能,因此對硬體功能的需求並不高,這對AI的發展並非好事。未來如果AI要順利啟動,現在的手機效能顯然不足,不過是硬體刺激需求成長,還是需求帶動硬體規格的提升?洪士灝也認為這是雞生蛋、蛋生雞的問題,很難一刀切出責任歸屬所在,只是他也指出,現在的手機功能的確還需要再演化。

要因應AI趨勢再演化,需要解決的問題相當多,下一代的手機不僅運算能力要足夠,隨之而來功耗問題也必須解決,而且這些問題不能用軟體繞過,要以硬體真槍實彈的解決。目前各晶片廠商也意識到此問題,紛紛著手研發加速器,發展比GPU更適用的深度學習專用晶片。不過他也指出,此類型的產品仍有門檻高、開發複雜、函式庫陽春,再加上供應商的開發工具支援不足等問題,這都降低了廠商的投入意願,因此市場都將眼光放在Google、NVIDIA等大廠身上,希望推出高效能、易開發的AI產品。

為符合本身機房需求並降低耗電,而且不願意投入鉅額費用購置GPU,Google在2014就已設計出自用的TPU,2015年佈署在自家的資料中心,不過一直到最近才開始將產品釋出到市場。洪士灝指出,Google向來強調開放性特色,Google Cloud NEXT 2018推出的AI晶片Edge TPU訴求小體積、高處理能力、可運作輕量版的TensorFlow Lite,並且內建加速器,可將運算資源移轉到大型電腦的類神經網路。Google希望藉此複製過去Android的做法,在AI領域再創另一個產業生態系,透過大量廠商的使用測試,將觸角延伸到更多應用場域。

Google的頻頻動作也讓GPU大廠NVIDIA轉趨積極,其Tegra行動處理器本就以手機市場為目標,後因成效不佳退出。不過NVIDIA在GPU仍有優勢,之後轉戰嵌入式應用推出Jetson系列產品,近期問世的Jetson AGX Xavier處理器,則再次強化規格,具有8個64bit Arm處理器核心與512個Volta架構的CUDA Tensor Core,尺寸只有10cm x 10cm。此外NVIDIA最近再推出Jetson Nano,不但效能更強、體積再一次縮小,而且價格比Google的高效能TPU低50美元,搶攻智慧物聯網市場的意味十足。

從過去沒有晶片可用,到現在兩大廠分別推出產品,手機效能的進化看似指日可待,但洪士灝認為升級並非無痛,仍需要相關技術基礎才能發揮效益。他比較Google Edge TPU與NVIDIA Jetson AGX Xavier兩款AI運算晶片,若以效能與功耗比,Edge TPU較適合手機。然而TPU雖有工具可將運算資源移轉到其他平台,但過程中仍有許多細節需要微調,若對架構安排不熟盲目移轉,將損失TPU的整體運算效能,而要解決此一問題,他建議可將資源分開,數量較大的數據就近傳輸到電信商機房運算,尤其是未來5G上線後,其高速、高頻寬與低延遲特色,將進一步拓寬手機的AI應用。

AI被視為各類型智慧化系統的必要技術,結合物聯網而成的AIoT也成為政府與產業的重點發展架構,然而從這幾年的發展來看,應用成效並不彰。洪士灝指出,晶片效能對系統功能與應用發想影響極大,而系統功能不佳,民眾自然無感,這也是近年物聯網雷聲大雨點小的原因之一。

近期大型廠商紛紛推出高效能運算平台,嵌入式系統的選擇大增,現在開始會有更多的嘗試機會,從而開發出更多應用,因此他十分看好接下來的發展,智慧手機與嵌入式設備也將開始邁入下一個智慧世代。

2019嵌入式技術論壇即將於4/17(三)假台北萬豪酒店盛大舉辦,台大資工系教授洪士灝於會中將深入剖析「AI嵌入式系統的軟硬整合開發」,活動並邀集AMD、聯發科、TI、研華、宜鼎、Vicor等大廠連袂發表最新技術趨勢,內容包含AI雲端邊緣運算、AIoT、5G、48V電源等最新進展,歡迎即刻報名以保留入場席位:https://www.digitimes.com.tw/seminar/DForum_20190417/