大型語言模型(LLM)如今進展放緩,科技巨擘與新創企業正在將目光轉向小型語言模型(SLM),以降低成本、提升速度並專注於特定任務。
AI資料中心用電激增 邊緣模型需求成長
AI資料中心耗能龐大,對於電力需求激增,然專家指出,除從冷卻系統、核心運算等IT基礎設施的架構優化設計外,AI模型本身的發展走向也與電力需求息息相關,包括邊緣A... 小模型扛起獲利大任 本地運行AI降低成本
近年來,科技巨擘紛紛投入數十億美元發展大型語言模型(LLM),支援生成式人工智慧(Generative AI)產品。然而,LLM不僅價格昂貴,還需要龐大的運算...