安恒信息：七部门联合发文 “数据”“安全”成高频词 AI安全监管势在必行

近日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》（以下称《办法》），自2023年8月15日起施行。国家互联网信息办公室有关负责人表示，出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

近年来，生成式人工智能技术快速发展，赋能于千行百业，也产生了数据安全、隐私保护、知识产权、虚假信息等诸多问题，AI安全监管是势在必行。

纵观世界范围，打造一个可信的人工智能生态系统都是重中之重，美国、欧盟同样在探索人工智能治理之道，通过《人工智能问责政策》、《人工智能风险管理框架》、《人工智能法案》等法律法规来规范人工智能发展。

本次《办法》的出台，以目标导向和问题导向，鼓励生成式人工智能创新发展的同时，更重要的是划定了底线，提出了规范要求、明确了责任及监管主体，既为促进生成式人工智能的健康发展指明了方向，也为AI安全监管奠定了基础。在《办法》中，“数据”和“安全”成为高频词，出现次数分别高达18次和14次。

《办法》明确了对生成式人工智能的数据安全治理规范。《办法》第七条对预训练、优化训练阶段的数据处理活动，涉侵犯个人信息、知识产权问题，数据来源合法性，数据内容真实性、准确性等“数据源风险”提出了明确的要求，并需要遵循《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律法规的其他有关规定和有关主管部门的相关监管要求。《办法》第八条规定，生成式人工智能服务提供者（以下简称“提供者”）应在生成式人工智能的研发阶段合规的数据标注规则、对数据进行质量评估、抽样核验，并对标注人员从技术规范和法律法规层面进行必要的培训和监督指导。

此外，《办法》明确了应用运行阶段提供者的安全主体责任和服务规范。《办法》第九条明确了提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。服务使用者可能在服务使用时输入的个人信息，提供者应依法承担个人信息处理者责任，履行个人信息保护义务。《办法》第十一条对提供者的个人信息保护提出要求，强调个人信息收集以“必要性”为前提，并强调不得非法“留存”和“提供”。《办法》第十四条明确了提供商对生成内容的责任和要求，发现生成非法内容时应中止行为、整改并上报，对非法使用者，应依法依约采取处置措施并上报。

在网络安全从业者看来，生成式人工智能技术在安全视角下存在着“矛”与“盾”的一体两面。一方面，技术如“利刃”打破原有安全壁垒，安全需求与应用场景发生重大变革。另一方面，技术也促进了安全产品和服务革新，有助于网络安全防护“盾”优化升级。本次《办法》出台，促进生成式人工智能的加速发展，进入我国人工智能技术跃迁的重要窗口期。安恒信息认为，未来应依托《办法》的合规指引，在模型训练、应用运行、模型优化阶段建立全生命周期安全体系能力。安恒信息也将牢牢把握时代发展机遇，专注于人工智能安全与人工智能在安全领域应用，构筑安全堡垒，助力各行各业安全合规的人工智能。