亞馬遜加入AI晶片戰局!AWS推新一代AI訓練晶片 效能提升更具成本效益 智慧應用 影音
DForum0116
Event

亞馬遜加入AI晶片戰局!AWS推新一代AI訓練晶片 效能提升更具成本效益

  • 施沛予台北

在2024年AWS re:Invent全球大會上,AWS不僅宣布了現有Trainium2晶片的重大突破,更預告了下一代Trainium3的發展計劃,直接挑戰 各大廠在AI晶片市場的地位。這波進展不僅展現了AWS在AI加速器領域的實力,更可能重新定義整個AI運算市場的競爭格局。AWS
在2024年AWS re:Invent全球大會上,AWS不僅宣布了現有Trainium2晶片的重大突破,更預告了下一代Trainium3的發展計劃,直接挑戰 各大廠在AI晶片市場的地位。這波進展不僅展現了AWS在AI加速器領域的實力,更可能重新定義整個AI運算市場的競爭格局。AWS

AWS新一代AI晶片的技術突破

目前已經正式推出的Amazon EC2 Trn2執行個體,採用AWS Trainium2晶片,比現有GPU解決方案提供了30~40%的成本效益提升。每個執行個體配備16個Trainium2晶片,可提供高達20.8 Petaflops的浮點運算效能,特別適合訓練具有數10億參數的大型語言模型。更重要的是,AWS推出的Trn2 UltraServers更進一步將效能推向極限,透過64個相互連接的Trainium2晶片,實現了超過83.2 Petaflops的運算能力。

AWS的最新進展顯示,AI訓練市場正在改變。AWS執行長Matt Garman宣布,預計在2025年底推出的Trainium3將採用台積電3奈米製程,不僅運算效能將比Trainium2提升兩倍,更能實現40%的能源效率提升。這種效能與效率的雙重突破,直接挑戰各大廠在高階AI運算市場的地位。AWS

AWS的最新進展顯示,AI訓練市場正在改變。AWS執行長Matt Garman宣布,預計在2025年底推出的Trainium3將採用台積電3奈米製程,不僅運算效能將比Trainium2提升兩倍,更能實現40%的能源效率提升。這種效能與效率的雙重突破,直接挑戰各大廠在高階AI運算市場的地位。AWS

AI運算市場的新格局

AWS的創新不僅限於硬體效能的提升。透過與知名AI公司Anthropic的合作,AWS正在打造名為Project Rainier的大規模運算叢集,預計使用數10萬顆Trainium2晶片,提供比Anthropic目前用於訓練模型的算力高出五倍的效能。這項計劃完成後,很可能成為全球最大的AI運算叢集,徹底改變AI訓練的遊戲規則。

AI運算的新競爭時代來臨

AWS在AI晶片領域的突破性進展,標誌著AI運算市場即將進入一個更具競爭力的新時代。透過持續的技術創新和策略合作,AWS不僅為企業客戶提供了更具成本效益的選擇,更可能重新定義整個產業的發展方向。AWS的進展清楚地表明,AI晶片市場的競爭格局正在發生根本性的改變。這種良性競爭最終將推動整個產業的創新,為企業帶來更多元化且實惠的AI運算解決方案。

關鍵字