Oracle Cloud Infrastructure提供企業級生成式 AI 服務

Oracle宣布推出限定版本的Oracle Cloud Infrastructure （OCI）生成式AI服務。全新的生成式AI服務可支援大型語言模型（LLM），協助企業自動化端對端業務流程，改善決策和客戶體驗，同時確保資料的安全性和私密性。

OCI Generative AI服務是一項託管服務，由OCI與知名的企業AI平台Cohere合力打造而成，協助使用戶透過可用的API將LLM整合到自己的應用程式中。全面上市後，此服務和Cohere模型將可與AI Vector Search 搭配使用。AI Vector Search是Oracle Database 23c的其中一項功能，可提供檢索增強生成（RAG）技術。

這是一種結合預先訓練的LLM和專屬業務資料的生成式AI技術，可提供更高準確度的回應。這項服務是生成式AI功能的基礎，將內嵌至Oracle SaaS應用程式套件中，包括Oracle Fusion Cloud Applications Suite、Oracle NetSuite和Oracle Cerner等產業應用程式。

憑藉其低成本、安全、高速的AI基礎架構，OCI能夠協助客戶使用Cohere的模型作為專門針對企業用例的託管服務。OCI Generative AI服務的客戶可在Oracle的AI Supercluster架構上的專用基礎架構中執行工作負載，自行控制特定成本和傳輸量需求，像是使用自己的資料來微調模型，或是部署客製化模型。

全新的OCI Generative AI服務包括下列模型：

一、Command：此模型可接受使用者的提示並產生文字。Command有兩種不同的大小，可依據業務用例進行高度客製化，包括文字產生、文字彙總、RAG和交談。

二、Summarize：此模型對文字進行抽象彙總，並使使用者能夠利用各種參數來設定結果，以支援獨特的用例。例如，此模型可協助法務團隊彙總複雜的文件，協助客戶服務代表彙總技術支援文件，或是協助忙碌的員工彙總冗長的電子郵件鏈。

三、Embed：此文字表示模型將文字轉譯為模型可以理解的數值向量。此模型為各種用例提供英文和多語言模型（支援超過100種語言），包括語意搜尋、文字分類、RAG搜尋引擎和舊有項目搜尋改善功能。

Cohere 總裁暨營運長Martin Kon表示：「Oracle 和 Cohere 的企業級AI 產品以資料安全、模型客製化、低延遲等原則為中心，協助企業以經濟高效的方式，快速、有意義且負責任地部署AI技術。我們正與 Oracle 密切合作，並採用資料安全和隱私優先的策略，協助企業利用AI來推動業務發展。」

除了推出 OCI Generative AI服務，Oracle AI還繼續為具有多個有限可用性方案的現有服務新增增強功能，當中包括：

Oracle Digital Assistant：新增生成式AI功能，讓客戶能夠將LLM和其他生成式功能整合至數位助理中。同時，開發人員可以使用生成式AI，更快且更有效率地打造數位助理。

OCI Language Healthcare NLP：透過自然語言處理，提高醫療資訊的洞察力。此OCI Language 服務的新功能可協助客戶更妥善地處理醫療領域的語言。新模型將有助於辨識各種記錄中的醫學術語、關係和實體，例如臨床試驗記錄、病患進度記錄和電子健康記錄。

OCI Language Document Translation Experience：新增文件翻譯功能，以支援各種格式（Word、PPT、HTML、JSON 和 Excel），確保內容保持完整，並在不同文件類型中進行翻譯。

OCI Vision：新增Facial Detection功能，可辨識影像中的人臉和臉部特徵，並擴展OCI Vision用例的數量。

OCI Speech：新增辨別技術，可將說話者的資訊內嵌至音訊轉錄內容中。此技術為OCI Speech錦上添花，可用於組織和分析人聲對話，並從中擷取有意義的資訊。

OCI Data Science：新增Feature Store，這是一個用於管理資料科學團隊開發功能的中央儲存庫。Feature Store提供一個統一的架構，以簡化的方式記錄、共用、儲存及提供服務。

Wikibon資深分析師Marc Staimer表示：「OCI Generative AI服務是全新的生成式AI雲端服務，可提供市場需要的企業級安全性、靈活性和使用者調校功能。此服務提供嚴格的安全和治理來保護使用者的專有資料，也能夠確保僅讓客戶使用和查看該模型。同樣重要的是，客戶可以控制專用的OCI Supercluster AI基礎架構，微調模型或部署客製化模型，同時還能滿足特定的成本和傳輸量需求。OCI Generative AI服務是兼具企業功能和成本效能的理想組合。」