CyberArk推出突破性開源工具FuzzyAI

身分安全廠商Cyber​​Ark推出FuzzyAI，一個先進的開源專案，能破解所有主要測試過的AI模型。FuzzyAI協助企業識別並解決AI模型的漏洞，例如繞過防護機制和產生有害輸出等問題，適用於雲端託管和內部部署的AI模型。

AI模型正透過創新的應用改變各行各業，包括客戶互動、內部流程改進及自動化。然而，這些模型的內部使用同時也帶來了大多數企業尚未準備應對的新資安挑戰。

FuzzyAI透過為企業提供一種系統化的方法來測試AI模型對各種對抗性輸入的反應，協助解決部分這些挑戰，揭示其安全系統中的潛在弱點，使AI的開發和部署更加安全。

FuzzyAI的核心是一個功能強大的模糊測試工具，專門用於揭露軟體缺陷和漏洞，能夠揭露超過十種不同攻擊技術進而找出漏洞，從繞過道德過濾器到揭露隱藏的系統提示。

CyberArk產品長Peretz Regev表示，FuzzyAI的推出凸顯CyberArk對AI安全的承諾，並協助企業在解決AI模型使用演進中固有的安全問題上邁出重要一步。由CyberArk Labs開發的FuzzyAI已展示其破解所有主要測試過的AI模型的能力。FuzzyAI讓企業和研究人員能夠識別弱點，並積極加強其AI系統以抵禦新興威脅。

FuzzyAI的完全可擴展平台已於2024年12月起在CyberArk Labs的GitHub頁面上以開源軟體形式提供。