Gartner发布风险和安全管理领域的生成式人工智能创新指南

Gartner发布风险和安全管理领域的生成式人工智能创新指南：三大应用场景及其需要的七大能力 生成式人工智能带来了三类新风险：内容异常、数据保护和人工智能应用安全。使用或构建 GenAI 应用程序的 IT 领导者可以利用这项研究来了解市场动态并评估新兴的 GenAI TRiSM 技术和解决新风险的提供商。 主要发现 在企业应用中集成大型语言模型（LLM ）和其他生成人工智能（GenAI）模型会带来三类新风险：内容异常、数据保护和人工智能应用安全。 托管 GenAI 模型的供应商没有提供一套完整的控制措施来减轻这些风险。相反，用户需要获取解决方案来增强托管供应商的有限控制。 IT 领导者必须信任大多数托管 LLM 供应商能够保护其数据，但无法验证其安全和隐私控制。 GenAI TRiSM 解决方案的市场仍然很小，新兴解决方案在很大程度上尚未经过测试。目前它的目标是保护LLM的使用，而不是保护多模式模型的使用。