身份安全公司CyberArk推出了FuzzyAI，一个旨在破解各种主流AI模型的开源项目。
FuzzyAI能帮助企业发现并解决AI模型的安全漏洞，如绕过防护机制和产生有害输出，适用于云端和内部部署的AI系统。
随着AI在客户互动、内部流程改进及自动化等方面的广泛应用，企业面临着新的网络安全挑战。FuzzyAI通过系统化测试AI模型对对抗性输入的反应，揭示安全系统中的潜在弱点，提升AI的开发和部署安全性。
FuzzyAI的核心是一个模糊测试工具，能揭露超过十种攻击技术，发现从绕过道德过滤器到隐藏系统提示等多种漏洞。
CyberArk产品负责人表示，FuzzyAI的发布体现了CyberArk对AI安全的承诺，是企业在应对AI使用演进中安全问题的重要一步。
