事关生成式人工智能服务 国家网信办出手 数据安全产业发展政策规范

据国家互联网信息办公室官网消息，为促进生成式人工智能技术健康发展和规范应用，根据《中华人民共和国网络安全法》等法律法规，国家互联网信息办公室起草了《生成式人工智能服务管理办法(征求意见稿)》(以下简称《征求意见稿》)，其中提出生成式人工智能产品提供服务前需申报安全评估。

生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。《征求意见稿》要求，利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

《征求意见稿》指出，国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。

提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合以下五方面要求。

一是：利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。

二是：在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。

三是：尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。

四是：利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

五是：尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。

此外，《征求意见稿》提出， 提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。法律法规另有规定的，从其规定。

提供者不得根据用户的种族、国别、性别等进行带有歧视性的内容生成。

目前，各大科技巨头陆续推出相关数据大模型，产品涵盖语言、矿业、制造、电商、搜索引擎等多个领域。有机构指出，随着各类大模型逐步落地，对应的数据需求有望持续增长，拥有数据的相关公司有望受益。

此外，国家网信办近日也发布了《生成式人工智能服务管理办法(征求意见稿)》，数据要素生态得到进一步完善。受消息提振，数据要素、数据确权等相关数据产业链个股今日大幅走强。

生成式人工智能服务管理办法发布 我国数据安全产业发展政策规范

随着AI在各行业渗透率不断提升，各国均加快对相关领域的政策规范，目前，各类大模型不断涌现，其所使用数据的安全性和合法性也成为监管的关键要点。

近年来，我国数据安全相关政策也陆续落地，今年年初，工业和信息化部、国家网信办、国家发展改革委等十六个部门联合发布《关于促进数据安全产业发展的指导意见》，文件中明确，到2025年，数据安全产业基础能力和综合实力明显增强。

国家互联网信息办公室发布《生成式人工智能服务管理办法(征求意见稿)》(以下简称“《征求意见稿》”)对生成式人工智能服务提供者及其产品提出了多项规制。

一天前，中国支付清算协会发布《关于支付行业从业人员谨慎使用ChatGPT等工具的倡议》(以下简称“《倡议》”)，倡议相关单位不上传关键敏感信息，包括国家及金融行业涉密文件及数据、公司非公开的材料及数据、客户资料、支付清算基础设施或系统的核心代码等。

此前，全球范围内发生了多起因使用ChatGPT导致的数据泄露事件。意大利、加拿大等国监管机构先后宣布将关注ChatGPT及其背后公司OpenAI带来的数据安全风险，并将开启监管调查。

对于近期生成式人工智能引发的数据安全问题，受访专家建议，应关注人工智能领域的新兴监管工具;同时，可以考虑将代表性人工智能公司纳入治理体系，同监管机关合作开发与技术发展和市场竞争相适应的监管框架。

根据中研普华研究院《2023-2028年中国数据安全服务市场深度分析及发展趋势预测报告》显示：

数据安全是数字经济产业的基石之一。

数据安全产业链主要包括上游安全芯片等软硬件供应商，中游防火墙、VPN、商用密码、数据要素等产品与解决方案提供商，下游应用则涵盖政府、国防、电信、金融、能源等关键领域。

我国十分重视数字技术发展，同时也关注人工智能发展过程中的风险和问题。2023年1月份，工业和信息化部等十六部门联合印发《关于促进数据安全产业发展的指导意见》提出，提升产业创新能力，加强核心技术攻关。

到2025年，我国数据安全产业规模超过1500亿元，年复合增长率超过30%，将建成5个省部级及以上数据安全重点实验室，培育若干具有国际竞争力的龙头骨干企业、单项冠军企业和专精特新“小巨人”企业。

从网络安全法、数据安全法、个人信息保护法相继实施，到去年《中共中央 国务院关于构建数据基础制度更好发挥数据要素作用的意见》(以下简称“数据二十条”)出台，近年来，我国数据信息保护的制度“篱笆”不断扎牢，充分回应了广大群众的共同关切。

中国电子技术标准化研究院党委书记、副院长，中国网络安全产业联盟(CCIA)秘书长杨建军表示，国家、社会、企业在数据安全与更新保护方面做了大量工作，法律法规、政策文件、标准规范逐年增加完善。

但同时，随着社会、技术、产业及新兴技术应用的发展，数据安全问题也正在不断演进，需要更创新的治理模式和方法。

针对如何解决“数据看不见、风险搞不清、监管欠细化”等问题，北京理工大学法学院教授洪延青强调，要从动态的角度去理解数据安全的概念。

“动态就是随着情况的变化，很多原本没有问题的事情也会发生问题。”他指出，不能简单地把数据安全理解成数据的保密性、完整性、可用性，应该形成包括合规在内的“大安全”概念，在“数据二十条”的背景下，从动态的角度实现“关系型安全治理”，即在管理规则基础上，用技术支撑管理规则落地，保障管理规则可视、可控、可干预。

“落实数据安全和个人信息保护，各个主体行动缺一不可。”中国科学院信息工程研究所工程师李敏表示，从相继实施的国家法律层面可以看出，维护数据安全和个人信息保护需要政府、企业、相关行业组织共同参与，维护网络空间良好生态。

多位行业从业者还指出，目前互联网企业正面临一个数据安全风险事件频发的大环境，数据泄露、个人信息违规使用与违规收集事件频繁发生。这从另一方面要求相关企业从产品自身设计上加强用户权益保障，积极参与行业标准建设，积极推动合规要求落地。

《2023-2028年中国数据安全服务市场深度分析及发展趋势预测报告》由中研普华研究院撰写，本报告对该行业的供需状况、发展现状、行业发展变化等进行了分析，重点分析了行业的发展现状、如何面对行业的发展挑战、行业的发展建议、行业竞争力，以及行业的投资分析和趋势预测等等。报告还综合了行业的整体发展动态，对行业在产品方面提供了参考建议和具体解决办法。