Intel於微軟深度學習加速平台提供即時AI技術 智慧應用 影音
E-Mobility
Event

Intel於微軟深度學習加速平台提供即時AI技術

  • 鄭斐文台北

人工智慧(Artificial Intelligence)和深度學習(Deep Learning)將轉變人類與世界互動以及企業運作的方式,從而使人們做出更明智的決策,而英特爾技術正在實現這場變革。微軟將運用英特爾人工智慧技術來運行複雜的深度學習模型,這些模型的實際應用囊括了智慧型手機臉部辨識、語音辨識到自動駕駛。

微軟最新的深度學習加速平台(代號:Project Brainwave)內含Intel Stratix 10 FPGA為關鍵硬體加速器,這個基於FPGA的深度學習加速平台可提供即時人工智慧技術,使雲端基礎架構在超低延遲下來儘可能快速地處理與傳輸數據。

微軟先前發布介紹採用英特爾FPGA的Project Brainwave平台如何以前所未有的高效能與高彈性,靈活處理複雜的深度學習模型。微軟在Hot Chips 2017會議上展示了基於FPGA的深度學習平台。身為第一家在其公有雲基礎架構中部署FPGA的大型雲端服務提供商,微軟透過搭載英特爾Stratix 10 FPGA展現的技術進展,加速深度神經網路(DNN)發展,讓機器可以模仿人類大腦思維進行思考。

英特爾提供多元的技術以推動人工智慧市場成長,包括Intel Xeon處理器,Intel FPGA及Intel Nervana ASIC技術;相較於專為優化單一工作負載處理的深度學習硬體加速器,Intel FPGA的高彈性能夠讓用戶客製化硬體以滿足特定的工作負載需求,並可隨著深度學習工作負載及使用模式的更改而快速重新配置硬體。Intel Stratix 10 FPGA結合了硬化處理器模組,提供更高水準的持續效能及效率,並具備可程式化的架構以滿足用戶客製化需求。

目前許多人工智慧加速器需要將多個請求(requests)分批處理以實現高效能。微軟的Project Brainwave平台運用英特爾Stratix 10技術,單個請求可達到每秒超過39萬億次浮點運算的效能,建立了在雲端環境中完成即時人工智慧運算的新標準,Stratix 10 FPGA的特色在於不僅提升雲端環境中的即時人工智慧運算能力,且具有創記錄的低延遲、高效能以及無需批量處理人工智慧請求。

微軟研究院NExT的傑出工程師Doug Burger表示,微軟透過英特爾FPGA的高彈性來快速運用創新成果,且效能等同於甚至超過許多基於ASIC的深度學習處理器。微軟正在建置Project Brainwave至Azure雲端服務,讓Azure用戶最終能夠以創記錄的高效能運行複雜的深度學習模型。

透過加速模型訓練、高速評分和高度可擴充的基礎架構,搭載英特爾技術的機器學習平台可將資料轉化為可直接運用的商業情資。結合最新的Intel Xeon可擴充處理器,Intel FPGA提供客製化與可編程化設計,實現超低延遲及彈性化的精準度。與單獨的Intel Xeon處理器相比,在深度學習推論中帶來每瓦特更高的效能。