人工智能安全迎顶层聚焦 深度检测 数字水印等技术被关注
通讯LiBO2023/5/31
据央视新闻5月30日报道，习近平主持召开二十届中央国家安全委员会第一次会议。会议强调，国家安全工作要贯彻落实党的二十大决策部署，切实做好维护政治安全、提升网络数据人工智能安全治理水平、加快建设国家安全风险监测预警体系、推进国家安全法治建设、加强国家安全教育等方面工作。
兴业证券认为，AI大模型技术的发展，需要海量大数据支撑，其中潜在的数据泄露风险逐渐引起多国立法者关注，将有新的制度来管理生成式AI技术本身、以及管理AI大模型在行业侧的落地应用。
随着AI监管政策落地，数据安全、隐私保护等安全需求将进一步上升，网络安全防护范围、防护主体将进一步扩大，有望打开行业成长新空间。
同时长江证券指出，从海外来看人工智能风险分级、合规安全测试等是重要方法，我国或采取对应方式，大模型或存在牌照审核等方式加以控制，在实际AIGC管理过程中，数据分类分级、敏感词屏蔽与监管、内容深度审核等多种方式或互相结合，立体防护。
落地到投资， 结合产业及技术，内容深度检测、数据隐私保护、数字水印(提示和标记人工智能内容生成)等方面会有较好的应用。
公司方面，据安信证券、国泰君安等表示，包括：绿盟科技：公司已经开展相关ChatGPT文本生成内容检测工具的研究。
北信源：公司与百度将在产品研发、标准制定包括数字水印等多个领域展开深化合作。目前公司水印系统涵盖两大类：明水印、隐水印。
随着网络信息技术的升级，针对用户日趋复杂的网络环境和实际需求，网络安全技术正朝着更复杂化、多元化、个性化、智能化的方向发展，且技术迭代时间愈发缩短，对网络安全企业的产品研发提出了更高的要求。
网络安全主要市场的份额开始向具有一定技术实力和品牌知名度的厂商汇聚，市场集中度正逐步提高。
近日，意大利宣布禁止使用ChatG? PT，并限制OpenAI处理意大利用户信息，同时，个人数据保护局开始对此前ChatGPT立案调查。
截至目前，关于个人数据保护的概念，大多是在欧洲被率先定义，如数据的知情同意权、被遗忘权等。因此，意大利援引全世界最严格的数据保护条例，对现在仍在测试阶段的ChatGPT进行封禁，虽显突然，但又顺理成章。
近期，各国纷纷发布了一些关于AI监管的政策。德国已经发布ChatG? PT禁令;美国已经开始研究是否需要对ChatGPT等工具进行审查;法国、爱尔兰、西班牙等国也开始考虑对AI聊天机器人采取更严格的监管。
伴随着网络空间安全形势的复杂化，网络武器、网络间谍、网络水军、网络犯罪、网络政治动员等新威胁相继产生，网络空间所面临安全问题的范围由传统领域拓展至政治、经济、文化、社会、国防等诸多领域，并呈现综合性和全球性的新特点。
同时，网络安全主管部门不断加大安全检查与实网攻防演练的力度，使得关键信息基础设施的运营者及全社会对网络安全的重视与投入快速提升，政府部门和大中型企业需要能够保障IT基础设施、应用与数据、业务与管理的综合性安全防护体系，以及具备全国性的服务支持与应急响应能力，所以具有丰富产品线和规模化服务能力的综合性安全厂商竞争力将日益增强。
根据中研普华研究院《2023-2028年中国网络安全行业竞争分析及发展趋势预测报告》显示：
自3月份以来，AI安全问题就频受关注。3月25日，OpenAI发布公告，证实部分网络安全Pl us服务订阅用户的个人隐私和支付信息存在泄露。
3月29日，包括马斯克在内的众多人工智能专家和高管联名呼吁，所有人工智能实验室应立刻暂停训练比GPT-4更强大的大模型。
4月2日，三星在引入网络安全不到20天里，发生了三起半导体机密资料外泄事故，包括两起“设备信息泄露”和一起“会议内容泄露”。
再观国内，4月11日，我国网信办发布《生成式人工智能服务管理办法(征求意见稿)》，促进相关技术健康发展和规范应用。其中提出生成式人工智能产品提供服务前需申报安全评估等具体措施。
根据IBM发布的《2022年数据泄露成本报告》，数据泄露的平均成本创下435万美元的历史新高，比2021年增长了2.6%，自2020年以来增长了12.7%。
研究首次发现，83%受访组织已经不是第一次发生数据泄露事件;60%的受访组织在事后提高了商品和服务价格，把数据泄露造成的损失转嫁到消费者身上。
毋庸置疑，从漏洞攻击到数据窃取、从经济损失到合规成本、从系统安全到隐私保护，以安全与隐私为主题的风险正成为影响数字经济发展的关键因子。
全球近100个国家和地区已制定数据保护相关法律，数据安全、算法应用有关立法进程加快，合规本地化的全球性趋势将进一步加强。
近日，上海银保监局召开2023年度信息科技监管工作会议。会议一方面通报了2022年度辖内银行业保险业信息科技工作和风险管理情况，另一面也部署2023年信息科技重点工作。4月20日，上海银保监局官网对此次会议主要内容进行披露。
据悉，2023年上海地区银行业保险业的信息科技建设工作，将围绕“切实筑牢数据安全防线”“持续加强信息科技外包管理和业务连续性风险管理”等四个重点领域展开。
其中关于数据安全防线，上海银保监局明确提出，要严格落实有关法律法规要求，强化数据安全管理职责，着力构建数据安全防护体系，建立健全客户信息保护制度、机制、流程。
加强数据安全风险监测与处置，将数据安全、客户信息保护纳入全面风险管理体系，严格落实国家关于数据出境安全评估和安全审查要求，强化第三方数据的安全评估，防范外部数据源合规风险。
随着数字化、网络化、智能化在更广范围、更深层次上推进，网络安全形势愈发严峻复杂，网络安全的“压舱石”和基础保障作用日益凸显。
党的二十大报告提出构建全域联动、立体高效的国家安全防护体系，以新安全格局保障新发展格局，为推进网络安全能力建设提供根本遵循。
在党中央关于网络安全工作部署要求的指引下，网络安全“四梁八柱”逐步确立，顶层设计和总体布局不断优化，形成以国家政策为指引，以行业为抓手，以地区为牵引的多层次网络安全政策体系。
在国家层面，2021年以来，我国充分发挥立法引领作用，《中华人民共和国数据安全法》《关键信息基础设施安全保护条例》《中华人民共和国个人信息保护法》等法律法规陆续出台，《网络产品安全漏洞管理规定》《网络安全审查办法》等重要规章制度加紧落地。
在行业层面，电信、互联网、医疗、金融等重要行业的“十四五”规划、管理办法、指导意见集中释放，网络安全成为各方关注焦点。
在地区层面，网络和数据安全成为江苏、江西及广州等省市数字经济发展的重要着力点，湖南、河南及武汉等省市密集出台基础设施保护、人才培养的相关政策，推动网络安全产业高质量发展。
在国家、行业及地区多层次网络安全政策体系协同发力作用下，我国网络安全产业发展进入“快车道”，区域网络安全市场逐步成型，重要行业网络安全能力建设稳步推进，网络安全技术、产品和服务迭代升级，为应对新形势下网络安全挑战提供了坚实基础。
当前，我国网络安全产业处于快速成长期，根据中国信息通信研究院预测，2022年我国网络安全产业规模接近2200亿元;从长期发展趋势来看，近5年我国产业规模平均增速高出全球约4~5个百分点，产业发展活力显著增强。
部署的产品形态结构正在发生渐进式调整，以终端安全、身份管理与访问控制等为代表的软件产品在网络安全销售中的占比快速增加，2022年调研数据显示，软件占比超四成，表明行业用户安全产品部署从“重硬轻软”到“软硬结合”逐步优化。
我国各地区网络安全市场稳步发展，基本形成“三强四促”的市场格局。其中，华北、华东和华南地区成为网络安全发展前三强，市场份额占比分别达到30.7%、27.7%和13.5%，较高的数字经济产值和信息化建设水平为上述区域网络安全市场提供先发优势。
此外，华中、西南、西北和东北四大区域正在蓄力赶超，多地政府出台促进网络安全产业发展的规划举措。
如河南省自2016年起先后出台70余项网络安全政策规定，不断加快网络安全体制机制建设;四川省于2022年5月获批建设国家网络安全产业园区(成渝地区)，将打造引领西部网络安全产业的创新发展高地。
随着数字化、网络化、智能化的深入推进，网络安全对各行各业的保障和赋能作用愈加凸显，成为行业平稳发展的基础和底线。
政府、金融、电信、能源等关乎国计民生的重要领域面临的网络威胁持续升级，遭受的攻击长期位居前列。
在此背景下，重要领域的安全能力构建正在加速推进，拉动相关安全建设投资增长，根据2022年调研数据，来自政府、金融和电信三大领域的营收合计占网络安全企业营收的六成左右。
《2023-2028年中国网络安全行业竞争分析及发展趋势预测报告》由中研普华研究院撰写，本报告对该行业的供需状况、发展现状、行业发展变化等进行了分析，重点分析了行业的发展现状、如何面对行业的发展挑战、行业的发展建议、行业竞争力，以及行业的投资分析和趋势预测等等。报告还综合了行业的整体发展动态，对行业在产品方面提供了参考建议和具体解决办法。
-
关注公众号
免费获取更多报告节选
免费咨询行业专家
