网络安全标准实践指南：人工智能应用安全指引总则

1范围 本文件规定了人工智能应用安全总则，包括基本原则以及人工智能应用的前期规划、设计开发、验证确认、部署、运行和监控、持续验证评估、退役下线等各阶段的通用安全指引。 本文件适用于各行业领域组织开展人工智能应用的安全风险防范与管理，可为有关监管部门和第三方测试评估机构提供参考。 2规范性引用文件 本文件附录A中所列文件中的内容通过本文件中的规范性引用而构成本文件必不可少的条款。其中,注日期的引用文件,仅该日期对应的版本适用于本文件；不注日期的引用文件,其最新版本(包括所有的修改单)适用于本文件。 3术语和定义 GB/T25069和GB/T41867以及本文件附录B中界定的术语和定义适用于本文件。 4缩略语 本文件附录C中的缩略语适用于本文件。 5基本原则 人工智能应用安全基本原则包括： a）造福人类，促进发展。人工智能的应用以造福人类、服务社会和可持续发展为导向，在开展应用前明确其社会价值，避免人工智能技术的盲目应用。 b）识别风险，分级保护。面向人工智能应用全过程进行安全风险识别，对人工智能应用进行分级保护，实现资源的合理配置与精准的安全治理。 c）提高能力，覆盖全程。对人工智能安全能力成熟度进行评估，提高人工智能应用全过程的安全能力，提升人工智能应用整体安全水平。 d）加强测评，客观验证。加强人工智能应用安全测评，客观验证人工智能应用安全状态及防护措施的有效性，为人工智能应用的监管提供依据。 e）面向变化，动态调整。建立动态适应人工智能技术迭代与应用风险变化的调整机制，更新技术与管理相关安全防护措施，提升人工智能应用的安全性、可靠性。 f）以人为本，可管可控。坚持以人为本，确保人工智能最终控制权归属于人类，避免人工智能应用脱离人类控制。