掌握AI新趨勢脈 迎向未來黃金商機

台達研究院院長闕志克。DIGITIMES攝

Taiwan AI EXPO 2022不知講堂第二天延續第一天知識饗宴，探索你我有所不知的AI奧妙。由台達研究院院長闕志克的「從AI 1.0到AI 2.0，我們將走向何方」演說揭開序幕。

進入AI 2.0時代 該留意哪些議題？

闕志克表示，這波風行的AI，是基於深度神經網路(DNN)的機器學習(ML)，所謂ML，即是找出輸入到輸出的映射關係。5年前此事還算新奇，但如今得力於可用的開源工具眾多，以致大部分的人都懂得操作ML。

AI從2012年開始盛行至今近10年，已培養越來越多人才，彼此的技能差不多，越來越難分出高下；展望今後從AI 1.0推進到AI 2.0世代，競爭主題將如何演變？闕志克認為有幾個議題值得留意，首先是AI訓練過程的自動化，譬如人們可透過AutoML，自動探索DNN架構與調校超參數。

其次是小數據的ML，你只要給我高品質資料，哪怕數量上僅有傳統訓練流程的1/10，都足以執行訓練，尤其適用於製造業瑕疵檢測場景。再來是可解釋的AI(Explainable AI)，過去AI模組只告知結果、不解釋判斷依據，但今後有越來越多應用需要探究箇中邏輯，例如有人申請貸款遭拒，總是需要知道理由，才能加以改善。

接著為AI安全議題，重點不在於防範駭客侵入AI系統，而是確保AI模型不會遭人盜版，或在使用MLaaS的同時、確保雲端業者無法窺視其中訓練資料。

此外大家應留意新型DNN架構，如在自然語言處理上展現重大突破的GPT-3，有逾1,700億個參數供人調用，以致AI模型只要看過夠多的字，有足夠的運算資源支持，即可在一秒內產生深具內涵的文章；後續不只從字產生字、產生圖像，甚至有機會產生Computer Code。

建構可信任AI  實為當務之急

人工智慧科技基金會常務董事詹婷怡，拋出值得省思的議題，非科技相關的人如何看待AI？重點在於「信任」；必須透過規範、標準或Guideline，將「可信任AI」建構起來。

她指出，AI是重要的數位轉型工具，可創造許多產業價值；但AI若不能取信大眾，恐形成發展阻礙。針對如何營造信任，她提出幾點建議。第一在系統設計階段即需融入安全考量，不能只求事後防範。第二，IoT安全、執法、資安社群等團體須對話與協作。第三應重視AI和IoT的數位足跡及隱私保護。更重要的，任何形式的連網裝置，從研發、傳輸、資料收集、資料保護到裝置等多層次議題，皆與如何建立可信任AI有所關聯。

AI如何規範？不少人主張應趕緊立法，但這未必是最佳方式；只因科技一夕數變，任何規範若不是基於一個可能的原則，徒然限制太多，反倒會阻礙創新。如何形成與時俱進的原則？有賴科技、非科技的群體共同對話，討論出適當的AI紀律或指引。

綜觀國際上AI規範，詹婷怡點出歐盟執委會所成立的「人工智慧高級專家組」，其中包含技術專家、法律、社會學、社群公民等代表，透過彼此對話，才產生包含人類自主性和監控、技術穩健性和安全性…等7個「可信任AI」構成要素；其經由對話來形成AI規範的機制，頗值得台灣借鏡。

邁向跨域整合應用 開啟Edge AI新契機

國立成功大學客座教授林偉棻表示，在吳誠文前副校長、敏求智慧運算學院院長謝明得的帶領下，匯聚5G Edge AI、行動社群軟體及應用，為110全大運增添了類似奧運的「Fan Engagement」即時轉播元素，在賽道上疊加多項資訊，讓觀眾更清楚觀賞運動選手的核心技藝，締造台灣大型運動賽事的新典範。

林偉棻指出，110全大運背後有一個複雜的SoS(Systems of Systems)架構，整合許多科技業者的單一系統，變成一個更大型的系統，分布於成多個不同的Layer，由學校及業者們協同設計，克服諸多異質整合難題，嘗試將5G Edge AI轉變為可望在實現商業獲利的契機。

過去台灣產業擅長做系統或晶片裡頭的元件，但若想要有更佳的獲利前景，必須走向系統整合、跨域應用的道路。為此成大開始發想國際合作的可能性，假設在一個場景上，觀眾們人人都佩戴AR/VR/MR眼鏡，有望彙集每個人產生的不同視覺資料，開啟另一個新型態Multi-Edge運算平台，形成非常巨大的創新應用發展潛能。

林偉棻特別提醒，在Edge AI的創新發展過程中，「聯盟式學習」是值得關注的關鍵技術，它與傳統分散式AI有所不同，可將原始資料留在受保護的邊緣裝置，僅需匯聚各單位的在地訓練結果，就能產生大型的訓練成果，進而讓AI的價值定位，從工具、助理、夥伴再進化至管理者，幫助人類做出更具智慧的決策。

自督導式學習 展現三大驚奇

台灣大學電機工程學系副教授李宏毅表示，以往大家依賴督導式學習技術，來發展諸如語音辨識、機器翻譯等應用，惟需要收集多達10萬筆聲音訊號、再耗時產生大量標註資料，徒增AI落地困難。

因此越來越多AI研究人員開始擁抱自督導式學習新模式。它只需搭配大量無標註資料，即可為機器執行預訓練、培養基本能力，爾後再結合少量標註資料並適度微調，便能讓機器快速學會執行不同任務。

更有甚者，以自然語言處理為例，用戶只要從網路上收集大量文章，即可展開預訓練，打造出能夠「自問自答」的BERT模型，藉此過程快速學會判讀人類語句。

但問題來了，BERT是一個巨大模型，要訓練到它具備自問自答能力，其實是浩大工程。為解決此問題，李宏毅和其他學者共同打造SUPERB基本語料庫，讓BERT可輕易運用在各種自然語言處理或語音處理任務上，使每次訓練不需再餵進等同於3千套哈利波特全集的龐大文字量。

後來李宏毅從自督導式學習發現三大奇蹟，包括「跨語言」，如只學過英文卻能辨識中文；其次是「跨學科」，學過語言後，竟具備蛋白質分類、DNA分類能力；再者「沒做語言訓練卻具備基本能力」，僅用人工規則生成資料、一堆數位符號做訓練，之後卻能處理自然語言任務，顯見自督導式學習潛力無窮、值得持續研究。

利用AI/ML助長企業競爭力

AWS AI/ML產品經理鄭芝郁說，進入新經濟世代，我們需要透過數據，協助挖掘更多有用訊息，以提升用戶體驗、決策速度和品質及營運效率，並開創新產品與服務。

Amazon主要善用AI/ML優化用戶體驗，以促進營收成長。以Pan-European FBA為例，即透過AI/ML預測歐洲各國每日需求，進而調配庫存，好讓賣家僅需寄一份庫存至FBA，就能銷貨到各國，降低備貨門檻。

與此同時，AWS也提供多項AI/ML服務，協助全球逾10萬客戶驅動業務創新。例如東南亞電商Pomelo Fashion，利用Amazon Personalize進行行銷名單圈選、提供個性化內容推送，使整體CTR點擊率提升20%。此外Foxconn墨西哥工廠借助Amazon Forecast服務，有效預測產線需求並調配產線人員配置，每年因而節省55.3萬美元。

啟動數據思維  深化AI的經驗價值

開必拓數據執行長孫逢佑強調，欲啟動AI、須有數據思維，而數據思維即是經驗思維；隨著數據的累積，可促使AI展現越來越高的價值。

此外開必拓秉持「以始為終」原則，以客戶想要實踐的目標(如快速精準的瑕疵檢測)為導向，做出具一定完成度的AI，後續隨著經驗愈趨豐富，使AI逐步邁向完美。透過這般過程，開必拓協助製造業客戶省本增利，節約80%檢測時間、減少92%客訴。

惟鑒於部分場域所需辨識的物件極為多樣化，單靠開必拓再怎麼設計，都不足以應付多變需求；因而與客戶、設備業者三方互補合作，形成「同行致遠」效應，讓AI最終得以實現流程改善目標。

從設備智慧診斷出發  落實永續經營目標

詠鋐智能(Chimes AI)執行長謝宗震表示，企業可善用AI技術來建立智慧監控、報表管理機制，從能源管理、廠務節能、預防保養、製程優化等面向加速實現ESG。

惟傳統AI應用開發流程漫長且難以擴展，導致企業在邁向智慧永續製造時遭遇阻礙。Chimes AI自許為製造業AI軍火庫，透過企業級「No Code」AI平台、友善UI設計，讓AI更易於複製與擴展，幫助企業快步從0到1、從1到N，達成永續經營目標。

台灣塑膠工業保養中心組長鄭琦聰也現身說法，闡述如何透過Chimes AI協助打造AI模型維運系統，使模型校正時間從原本1.5天驟減為1小時，從而針對冷卻水泵、壓縮機、風車等重要廠務設施建立智慧監診機制，以提高設備穩定度，降低工安與環保衝擊。

借助邊緣運算　加速企業AI落地

宜鼎國際總經理特助張獻文說，近年各方關注AI，也帶動AI邊緣運算設備蓬勃發展。故宜鼎體認Edge AI已成趨勢，為此加強布局。

宜鼎有感於不同領域客戶，皆對AI有所需求。為協助客戶加速AI落地，著手強化軟硬體整合，透過旗下AI iCAP雲服務提供iSeries Software Tool / SDK，可針對不同模組埋入軟體，方便SI抽取模組中數據、整合到他們的系統。

此外宜鼎也在AI iCAP中間層提供iVINNO，協助進行GPU、FPGA、ASIC異質化整合，讓客戶加速測試與部署AI應用。

另值得一提，近年宜鼎力推雙頻管理，已針對OOB頻外管理部分發展創新應用，例如以InnoAgent模組化方式，協助系統商輕易實現OOB設備的遠端快速還原，有助AI軟體公司進行包裝與加值。

終端AI崛起　記憶體角色益發吃重

華邦電子DRAM產品行銷部經理曾一峻指出，Edge/Endpoint AI模型尺寸不大，但欲進行快速計算，仍需倚靠較大記憶體頻寬來支援，故華邦特別推出對應產品。

近年大家思考能否利用手邊終端裝置或感測器承載AI？幾十MB模型雖不大，但對MCU仍顯沈重，以致有人提出TensorFlow Lite，將AI模型壓縮上百上千倍，使之運行於在MCU，支援如智慧門鈴、智慧門鎖等簡單AIoT裝置的推論。

曾一峻說，早年記憶體屈居綠葉，但在AI時代已搖身變為主角，只因要應付Access Traffic需負擔。為求改善，華邦持續精進GP-Boost DRAM產品線，新增HyperRAM產品，容量介於4~32MB，足以支撐經過壓縮的小模型，而頻寬效能達250MHz，並支持16個I/O，要執行某些簡單推論並無問題。

總之，遙望AI的大未來，還有許多值得我們持續探索、精進的空間。企業唯有掌握AI技術趨勢、培養更完善的決斷能力，才能真正駕馭AI、將智慧應用觸角伸展到各營運構面。