检验验证阶段安全风险。检验验证阶段是指检查人工智能系统是 否按照预期需求工作以及是否完全满足预定目标。这个阶段的安全风 险主要表现为测试验证不充分,未及时发现和修复前序阶段的安全风 险。 部署阶段安全风险。部署阶段是指在目标环境中安装和配置人工 智能系统的过程。这个阶段的安全风险主要表现为人工智能系统部署 的软硬件环境不可信,系统可能遭受非授权访问和非授权使用。 运行监控阶段安全风险。运行监控阶段,人工智能系统处于运行 和可使用状态,主要包括运行监控、维护升级等过程。这个阶段的安 全风险主要表现为恶意攻击者对人工智能系统发起的对抗样本、算法 后门、模型窃取、模型反馈误导、数据逆向还原、成员推理