SambaNova新雲端推論系統 可供Llama 3.1每秒生成132 Token
- 徐畇融／綜合外電
曾被業界稱為最有機會挑戰NVIDIA在人工智慧（AI）基礎設施市場地位的AI基礎設施新創SambaNova宣稱其雲端推論服務，可提供Meta最大的4,050億參數大型語言模型（LLM）Llama 3.1在16位元精確度下，每秒生成132個Token。
會員登入
會員服務申請/試用
申請專線：
+886-02-87125398。
(週一至週五工作日9:00~18:00)
+886-02-87125398。
(週一至週五工作日9:00~18:00)
關鍵字
