研揚科技全方位解決方案 加快邊緣運算與AI創新步伐

英特爾平台研發協理王宗業（左二）在演講中指出，預計到2026年全球AI支出將突破3,000億美元大關。研揚

數位轉型與AI浪潮帶來前所未有的挑戰與機遇。作為Intel架構運算平台的領導者，研揚科技成立30年以來，始終致力於提供企業完整解決方案，從雲端訓練伺服器到邊緣運算主機，助力企業提升競爭力。為幫助企業掌握最新技術，研揚科技近日舉辦了「2024研揚科技 Solution Day」，邀請多位專家深入解析邊緣運算的市場趨勢及解決方案。

研揚科技業務處資深經理丁國平在致詞時表示，儘管AI的軟硬體應用已廣泛討論，邊緣運算仍是較少被觸及的領域。然而，研揚科技早已在該領域耕耘多年，並累積了豐富經驗。此次活動重點放在邊緣運算的應用潛力，透過研揚解決方案幫助企業掌握智慧化商機。

迎接AI浪潮 英特爾與APMIC深化技術布局

英特爾平台研發協理王宗業在「使用Intel AI軟硬體微調大語言模型」的演講中指出，AI發展速度驚人，預計到2026年全球AI支出將突破3千億美元大關。邊緣運算和生成式AI尤其備受矚目，目前已有58%的執行長積極投資AI，預計2026年將有超過75%的邊緣部署採用AI技術。因應此趨勢，英特爾全力推動AI在各領域的應用，無論是個人電腦還是企業資料中心，均提供完整的AI軟硬體整合方案。英特爾解決方案強調開放性與易用性，其AIPC產品支援CPU、GPU、NPU等不同硬體平台，在會議摘要、聊天機器人、圖像增強等多元應用場景已有應用實例。在大型語言模型領域，英特爾可運用旗下軟硬體平台，對如Llama 2等模型進行微調優化。此外英特爾使用OpenVINO和LangChain等開放標準與工具，優化生成式AI模型。

未來企業將透過AI提升人力作業、自動化工作流程和部門運作效率，後續的發展趨勢將朝向部署AI Agent，並運用企業專屬資料強化AI的智能與應用價值。王宗業認為，此趨勢不僅改變企業的運作模式，也將為各領域帶來新機遇與挑戰。對此，英特爾將提供從個人電腦到雲端的大規模參考設計，確保AI的擴展性、安全性和可靠性。在此同時，英特爾也高度重視開放生態系統，並將企業資料安全視為首要考量，希望藉由全面性的策略，加速AI技術普及，提供企業更多選擇。

APMIC亞太智能機器共同創辦人暨產品負責人林益弛，也在演講中分享企業加速大型語言模型私有化的策略。APMIC成立於2017年，專注於自然語言理解（NLU）領域，提供企業LLM即服務工具箱。隨著AI技術快速發展，LLM私有化已成為企業的重要課題。他指出，生成式AI雖然強大，但也帶來了安全風險。對此，企業需採用負責任的AI（rGAI）策略，確保AI生成內容的安全性與可靠性，因應此一挑戰，林益弛建議可使用通過參考外部知識庫優化LLM輸出的RAG（檢索增強生成）技術，在生成式AI和模型微調方面，APMIC提供了多種大語言模型選擇，使用者可透過指令微調和人類回饋強化學習（RLHF）提升模型效能，滿足不同企業的特定需求。

林益弛接著表示，APMIC已針對在企業私有化LLM訓練流程，推出包括資料前處理、持續微調、抗毒性處理、RAG技術應用在內的全面解決方案，此流程可協助企業精準掌握複雜格式資料，並降低生成式AI模型中的幻覺（hallucination）問題與惡意攻擊風險，協助企業將AI技術效益最大化，從而提升競爭優勢。

多年深耕累積強大技術能量 研揚科技讓邊緣運算效益最佳化

研揚科技在邊緣運算不僅產品布局完整，而且已應用於各垂直領域中。資深產品經理蘭之怡在「選擇高效能邊緣運算硬體:Intel方案的全面解析」演講提到，1992年成立的研揚科技，已成為工業嵌入式解決方案的領導廠商，2011年獲得華碩投資後，整體實力更上層樓，目前總部位於台北，在全球16個地點設有辦事處。研揚的產品組合十分豐富，涵蓋嵌入式主板、工業用電腦、網路應用設備和單板電腦等，特別針對智能自助服務設備、智慧零售和機器學習等垂直市場需求設計。

研揚科技推出了多款創新產品，如EPIC-RPS9和PICO-MTU4等。這些硬體產品具備強大的靈活性，能夠滿足從輕量級AI推論到大型生成式AI模型的各種部署需求。研揚科技的解決方案不僅大幅提高AI推論效率，還能從圖像和影片中快速提取關鍵資訊。為滿足不同客戶的需求，研揚科技提供專用AI引擎硬體，支援生成式AI、電腦視覺和傳統機器學習等多種應用。此外，研揚科技還根據功耗需求將AI應用場景分為輕、中、重三類，進一步優化產品在各種場景下的性能表現。

研揚科技的技術可用於自動化測試設備、5G通訊塔和零售超市等多個場景，有效強化應用場域的效率和智能化程度。蘭之怡指出，研揚科技產品側重靈活快速的設計支援與混合模組的高效測試能力，藉此滿足應用市場的特定需求，並為智慧城市和工業4.0的發展奠定堅實基礎。整體而言，研揚科技善用英特爾的邊緣運算硬體產品，提供各類垂直市場高效能AI解決方案，無論是輕量還是重度AI運算，客戶都能夠找到合適產品，在多變市場中保持競爭優勢。

研揚科技產品經理詹雅淇在活動中介紹了公司的UP邊緣運算解決方案。她強調，UP系列產品專為邊緣運算設計，具備高度靈活性與敏捷性，能滿足各種工業應用場景，為不同邊緣運算應用場域提供全方位支援。在後疫情時代，因應無接觸服務、遠端工作和智慧監控等新興需求，UP系列產品適時推出針對性解決方案，不僅可解決人力短缺問題，還能協助企業推動自動化升級與數位轉型。此系列的一大特色是產品線多元化，從小巧的卡片尺寸UP Core到功能強大的口袋大小UP Xtreme i12，均能為不同規模和效能需求的邊緣運算應用提供豐富選擇。所有UP系列產品都搭載Intel®處理器，並支援開放式AI SDK，有效縮短智慧化設備的開發時程。

在AI邊緣運算效能方面，UP系列產品表現卓越，在電腦視覺和生成式AI應用中，更展現出強大的處理能力，最高可支援52 TOPS運算效能。透過支援OpenVINO架構，UP系列可有效提升AI訓練和推論效率，優化企業生產力與成本效益。詹雅淇提到，研揚UP系列產品在邊緣運算領域展現出全面技術優勢，無論是因應後疫情時代新挑戰，或推動自動化和AI應用發展，都可提供是市場創新且高效的解決方案。隨著物聯網和AI技術持續進步，UP系列產品將在工業自動化、智慧城市和智慧製造等領域扮演關鍵角色，成為企業數位轉型的強力後盾。

研揚科技的邊緣運算解決方案，目前已有豐富的成功應用案例，業務經理王品中在演講中提到，該公司的邊緣運算產品線涵蓋強固型無風扇系統、強固型平板電腦和工業級主機板，可滿足市場多元需求。在強固型無風扇系統方面，研揚的BOXER系列分為超薄型、強固型和擴展型三個等級，適應不同應用環境例如，中國大廠的無人搬運車、無人送貨車就採用BOXER系列產品。研揚科技強固型平板電腦產品線同樣亮眼，支援Windows和Android作業系統，提供7吋到11.6吋不同尺寸選擇，還可依需求配置2D條碼掃描器、NFC等功能模組，適用於現場檢查、機械維修和庫存管理等作業流程。工業級主機板方面，研揚產品支援多種平台，具備長效命週期和高可靠性特色。

王品中強調，研揚解決方案的優勢不僅體現在豐富產品線，更反映在實際應用案例中。除前述的無人搬運車和無人送貨車，中國上海的街道監控系統也採用其解決方案。由此案例可看出研揚產品在各種極端環境下的效能和穩定性，進一步證明其在自動化、工業和智慧監控領域的領先地位。從多元應用與使用端回饋來看，研揚科技解決方案已能滿足各類型場域業者需求，未來將進一步延伸應用觸角，推動產業智慧化和數位轉型進程，加快AI邊緣運算普及速度。

隨著物聯網和AI技術持續發展，市場對邊緣運算的需求將快速浮現，研揚科技善用自身強大技術能量，並與英特爾緊密合作所打造的解決方案，將可開啟AI邊緣運算應用的無限可能，協助企業以創新力迎接智慧新未來。