AI组织责任：核心安全责任

前言 本报告是一份工作草案，重点关注开发和部署人工智能（AI）和机器学习（ML）系统的过程中，在信息和网络安全方面的组织责任。本报告综合了专家推荐的核心安全领域的最佳实践，包括数据保护机制、模型漏洞管理、机器学习运营（MLOps）流水线强化以及负责任地训练和部署人工智能的治理政策。 报告中讨论的要点包括： 数据安全和隐私保护：数据真实性、匿名化、假名化、数据最小化、访问控制以及安全存储和传输在人工智能训练中的重要性。 模型安全：涵盖模型安全的各个方面，包括访问控制、安全运行环境、漏洞和补丁管理、MLOps流水线安全、AI模型治理和模型安全部署。 漏洞管理：探讨了AI/ML资产清单、持续漏洞扫描、基于风险的优先级排序、修复跟踪、异常处理和报告指标的对于有效漏洞管理的重要性。报告采用可量化的评估标准、RACI（“执行、负责、咨询、知情”）角色定义模型、高层实施策略、持续监控和报告机制、访问控制映射以及对基本准则的遵循，逐一分析了各项责任。这些内容基于行业最佳实践和标准，如NISTAIRMF、NISTSSDF、NIST800-53、CSACCM等。 本文旨在为企业提供指导，通过在安全及合规的关键领域提出建议，帮助企业在AI设计、开发和部署方面履行负责任且安全的义务。