AI浪潮下，数据安全挑战诸多 AI安全行业分析报告2023

人脸识别、语音识别、智能算法推送……当前，人工智能(AI)技术加速融入社会生活，伴随着智能产业的蓬勃发展，各式各样的海量数据也在人们的生活中被大量收集、存储和利用。数据安全和隐私保护问题由此成为人工智能系统在开发和应用中面临的严峻挑战。

在享受人工智能带来高效和便利的同时，如何进一步扎紧守护个人隐私和公共数据安全的藩篱?

人工智能数据安全挑战诸多

在人工智能不断走入人们的工作和生活场景时，数据的采集、存储和应用也越来越面临诸多风险。“概括来说，数据安全问题体现在五个方面：可复制、易泄露、来源广、危害大、监管难，这是由数据的特性决定的。

在具体危害表现上，一方面，最常见的是对数据保密性的侵害，如在金融领域，通过网络窃取人工智能系统用户的交易账单、理财情况来了解其个人资产状况和基于在线行为的支付意愿，从而快速有效地定位金融诈骗的受害者和目标群体;或是通过各种网络漏洞，窃取大量用户的指纹、虹膜、面孔、身形等个人隐私信息数据用于犯罪;也有一些手机应用软件违法违规收集用户个人信息等用于商业目的。

另一方面也有对数据完整性和可用性的侵害，如通过技术手段对大数据进行窜改、造假和干扰，对投入应用的人工智能系统输入非真实的训练数据，以获得与目标背道而驰的结果。“利用所获取的数据，也可能出现更改、拼接、制作高度逼真的假视频或音频，用于视频、语音诈骗乃至扰乱社会治安稳定等情况，这一问题因此也越来越受到各国的高度关注。”北京师范大学互联网发展研究院院长助理、网络法治国际中心执行主任吴沈括说。

实际上，人工智能数据采集、存储、利用等方面所面临的威胁，不仅侵害公民的合法权益，更加不利于人工智能相关产业的发展。山东大学信息科学与工程学院教授刘治举例，如研发智能超声技术——运用机械手臂进行胸腔和腹腔的超声波扫描，需要为系统提供大量的人体超声扫描数据，但若训练数据中掺杂着许多非正常或不规范的样本，则最终的技术效果将大受影响，这也成为影响人工智能技术落地的一个关键因素。

作为数字时代“抵御风险”的关键能力，AI安全可信技术的研究和应用，将被广泛地应用于反欺诈、反洗钱、反赌博、数字身份识别、企业联合风控等领域，极大地助力企业提升风险控制能力。

AI安全产业发展现状

当前，新一轮科技革命和产业变革正在萌发，在5G、大数据、云计算、深度学习等新技术的共同驱动下，人工智能(AI)作为新型基础设施的重要战略性技术加速发展，并与社会各行各业创新融合，引发链式变革。特别是在网络空间安全防护领域，人工智能在威胁识别、态势感知、风险评分、恶意检测、不良信息治理、骚扰诈骗电话检测、灰黑产识别等方面有其独特的价值和优势，应用需求呈现跨越式发展，产生了显著的溢出效应。

为探索解决行业安全应用前沿问题，打造AIinSecurity(人工智能赋能安全)最佳实践“样板间”，并推动全球信息通信行业对人工智能在在安全领域形成共识，形成普及应用和规模发展，提升网络空间智能安全防护水平。

据中研产业研究院《2023-2028年中国AI安全行业发展前景及投资风险预测分析报告》分析：

伴随着信息产业的不断发展，网络安全行业的涵义日益广泛，网络安全产品及服务不断升级发展，市场规模持续扩大。中国网络安全市场规模在过去三年中达到了14.57%的年复合增长率，从2018年的402.5亿元增长至2020年的528.4亿元。未来，随着信息安全的边界不断延伸，网络安全产业需求将持续增长。2018-2020年我国网络安全市场规模持续增长，2018-2020年年复合增长率达到14.57%，市场规模从2018年的402.5亿元增长至528.4亿元。未来，随着信息安全的边界不断延伸，网络安全产业需求将持续增长。

2021年2月，全球移动通信系统协会(GSMA)发布了《AI in Security人工智能赋能安全应用案例集》，其中包含了来自国内多家网络通信及安全厂商的30个人工智能在网络信息安全领域应用的优秀案例(其中启明星辰的案例有5个)，涵盖通信安全、数据安全、内容安全、业务安全、终端安全等诸多应用场景，正是人工智能技术在赋能网络安全防御方面所发挥出的切实作用的真实写照。

AI安全行业供需状况

从产品布局和应用领域的角度，我国AI安全行业主要竞争对手在该领域的产品布局类似，都是以大数据分析驱动的安全管理类平台产品为主。从技术特点和技术水平的角度，我国企业的产品以大数据平台为基础，通过收集多元、异构的海量日志，利用关联分析、机器学习、威胁情报等技术，为安全运营人员提供安全运营工具。行业企业依靠关联、规则、统计等融合建模场景进行完整的构想、掌握和实施，通过主动监测、精准防护、智能分析、运营协同实现对安全对象的主动管理、安全事件的及时分析，与国内主要竞争对手差异不大。

从客户类型的角度，行业企业产品的主要客户包括金融、政府、电信运营商、能源、医疗、制造等，与国内竞争对手无显著差别。

AI安全行业发展态势

AI已成为后疫情时代的重要创新方向之一，长期看ai安全市场规模空间广阔。根据报告，ai安全将是未来十年增长最快的商业领域之一。2025年全球ai安全软件的市场规模将达到1218亿美元，自2020年起的复合年增长率为31.9%。

AI安全行业新一轮科技革命和产业变革正在萌发，在5G、大数据、云计算、深度学习等新技术的共同驱动下，人工智能(AI)作为新型基础设施的重要战略性技术加速发展，并与社会各行各业创新融合，引发链式变革。ai安全行业企业重视人才的培养与管理，2021年上半年年内核心技术人员队伍稳定，但是仍然面临行业竞争对手争夺人才资源的风险。

我国网络安全行业市场空间已颇具规模，多年来保持了快速增长态势，为公司提供了获取更大市场份额的机会。但随着用户对网络安全产品及服务的需求不断增长，行业内原有竞争对手规模和竞争力的不断提高，加之新进入竞争者逐步增多，可能导致公司所处行业竞争加剧。

我国网络安全产业规模占全球网络安全产业规模的比重较低，整体发展水平相对较弱，与网络安全相关的产业链尚不完善，对网络安全相关投资整体以合规为导向，还未做到真正的重视。另一方面，由于网络安全的特质，导致只有安全问题产生时，用户才会意识到自身对网络安全的真实需求。因此对网络安全企业开展业务提出了挑战。

如果公司在市场竞争中不能有效保持技术领先水平，不能充分利用现有的市场影响力，无法在当前市场高速发展的态势下迅速扩大自身规模并增强资金实力，公司将面临较大的市场竞争风险，有可能导致公司的市场地位出现下滑。

想要了解更多AI安全行业详情分析，可以点击查看中研普华研究报告《2023-2028年中国AI安全行业发展前景及投资风险预测分析报告》。我们对AI安全行业进行了长期追踪，结合我们对AI安全相关企业的调查研究，对我国AI安全行业发展现状与前景、市场竞争格局与形势、赢利水平与企业发展、投资策略与风险预警、发展趋势与规划建议等进行深入研究，并重点分析了AI安全行业的前景与风险。报告揭示了AI安全市场潜在需求与潜在机会，为战略投资者选择恰当的投资时机和公司领导层做战略规划提供准确的市场情报信息及科学的决策依据，同时对银行信贷部门也具有极大的参考价值。