黃仁勳曝NVIDIA切入服務業務 AI即服務再推升營運動能 智慧應用 影音
DForum0927
DForum0925

黃仁勳曝NVIDIA切入服務業務 AI即服務再推升營運動能

  • 梁燕蕙綜合報導

距離台灣時間21日晚間11點,NVIDIA執行長黃仁勳發表GTC主題演講倒數計時,其近日接受多家媒體訪問,透露公司擬將跨入服務業務的訊息。

綜合TechMonitor、CNBC等報導,儘管支撐OpenAI火紅ChatGPT等AI模型的雲端大廠微軟(Microsoft),目前仍高度仰賴NVIDIA高階AI晶片A100、H100建置,然由於亞馬遜(Amazon)AWS、Google等超大規模雲端業者開發自有AI晶片,已成競爭之勢,NVIDIA傳將提出AI即服務(AI-as-a-service)全新模式。

NVIDIA執行長黃仁勳發表GTC主題演講倒數計時,其近日接受外媒訪問,透露公司擬將跨入服務業務。法新社

NVIDIA執行長黃仁勳發表GTC主題演講倒數計時,其近日接受外媒訪問,透露公司擬將跨入服務業務。法新社

黃仁勳表示,許多公司在取得啟動AI運作所需的資源和技能上,面臨「無法逾越的障礙」,這也是NVIDIA進入服務業務的原因。

NVIDIA AI Cloud將允許客戶直接向NVIDIA購買AI服務,部署預先訓練的生成式AI模型,並使用該公司的 DGX AI超級電腦。全部細節預計將在稍晚發表GTC主題演講中宣布。黃仁勳指出,透過NVIDIA新的商業模式,客戶可以在私有雲和任何公共雲中使用NVIDIA的全方位AI運算。

NVIDIA主流AI GPU A100 現在售價約為1萬美元,而訓練大型語言AI模型(LLM)的系統,一次使用數千張處理器,以微軟替OpenAI構建、用於訓練其模型的AI超級電腦為例,即配備1萬張NVIDIA的GPU。

Gartner報告指出,訓練這些AI模型需要大量的算力資源,而這正是NVIDIA獲利所在,由於其產品具有良好的高效能、通用運算能力,能夠同時做很多不同的事情,再加上市場上LLM和相關工具的數量與日俱增,高階AI晶片的需求正在推動該公司業務飆升,因此NVIDIA的GPU短期內成為眾家爭搶的對象,出現短缺也在預期之內。

延伸報導AI處理器需求激增 恐重演車用晶片供應困境
究竟NVIDIA對於跨入服務業務、並提供與亞馬遜、Google這些雲端業者大客戶競爭的服務產品,有多認真?

Forrester報告指出,沒有人會進入並嘗試全面與超大規模業者競爭,與超大規模雲端大廠競爭的啟動成本至少要10億美元,但NVIDIA仍有可能針對特定AI產品,提供用戶所亟需的特定算力,可望成為NVIDIA在主要硬體業務以外,另闢蹊徑成為新業務來源之一。

有鑑於此,競合與共贏預期將是NVIDIA的思考邏輯,而非取代雲端大廠的服務。


責任編輯:張興民