人工智能大模型“百花齐放” 生成式人工智能带来的安全挑战

人工智能大模型“百花齐放”

今年以来，中国人工智能产业发展迅猛，包括百川在内的多家人工智能大模型产品陆续上线。人工智能技术，特别是大模型技术不仅将重塑现有产业，更将创造全新价值。

中国人工智能大模型“百花齐放”，产业落地已过“尝鲜期”，产业落地实效成为大模型价值的重要评估维度。

生成式人工智能带来的安全挑战巨大。如果说搜索引擎是一个有限责任公司的话，人工智能大模型产品就是一个无限责任公司，因为前者输出的结果都是有记录，出了问题也是可溯源的;后者输出的内容都是自己生成的，容易出现所谓“一本正经胡说八道”等风险问题。

面对挑战，中国已经开展了相关探索，加强技术理论研究，持续构建第三代人工智能，加强技术手段建设，提升训练数据质量和安全评测能力，并在人工智能安全靶场等方面取得实践成果。

人工智能(AI)产品市场份额占比

近期投资银行摩根大通在其投资报告中称，凭借GPU和网络产品等硬件产品，英伟达今年将在人工智能(AI)产品市场中占据高达60%的份额。

据悉，由于游戏部门的周期性放缓，该公司2024财年第一财季的营收同比下降13%，至71.9亿美元。但同期，其数据中心业务营收达到创纪录的42.8亿美元，同比增长14%，这部分营收占其总营收的60%;游戏业务营收为22.4亿美元，同比下降38%，占其总营收的31%。

目前，英伟达在AI领域处于领先地位，它在AI处理器市场上占据大约80%的份额，其高端处理器已被用于训练和运行各种聊天机器人。该公司备受投资者青睐，被认为是满足AI计算能力需求的关键供应商。

根据中研普华研究院《2023-2027年中国人工智能行业全景调研与发展战略研究咨询报告》显示：

AI产业链通常由上游的数据和算力层、中游算法层和下游应用层构成。近期，市场更为关注上游产业链，尤其是算力板块。AI硬件涌现出很多新的投资机会，AI软件应用的背后靠硬件的算力支撑。

国内AI算力需求将保持增长势头

在ChatGPT持续催化下，国内AI算力需求将保持增长势头，算力服务器厂商有望受益。据估算，ChatGPT的总算力需要7个至8个投资规模30亿元、算力500P的数据中心支撑运行。在数字经济时代，全球数据总量和算力规模将呈现高速增长态势。

随着AI服务器与AI芯片需求同步看涨，预计2023年AI服务器(包含搭载GPU、FPGA、ASIC等主芯片)出货量将接近120万台，年增38.4%，占整体服务器出货量近9%，至2026年占比将进一步提升至15%，该机构同步上修2022-2026年AI服务器出货量年复合增长率至22%，而AI芯片2023年出货量预计将增长46%。

该机构表示，英伟达GPU已成为AI服务器所搭载芯片的主流，市占率约60-70%，其次为云计算厂商自主研发的ASIC芯片，市占率逾20%。

相比通用服务器,AI服务器使用多张加速卡,其PCB采用高多层HDI结构,价值量较高,而且主板层数也远高于通用服务器,AI服务器PCB价值量是普通服务器的价值量的5-6倍。

英伟达创始人兼CEO黄仁勋在NVIDIA Computex2023演讲中宣布，生成式AI引擎NVIDIA DGXGH200现已投入量产。从演示中可以观察到新发GH200服务器架构相对DGXH100有较大变化。GH200相对DGXH100的PCB变化，减少的是1张UBB和1张CPU母板，增加的是3张NVLink模组板，同时加速卡性能大幅度提升，PCB单机价值量应当有所增加，由此可见AI升级将持续带动PCB板块价值增值。

算力资源作为数字经济发展的重要底座，数字化新事物、新业态、新模式推动应用场景向多元化发展，算力规模的不断扩大带动算力需求持续攀升。据工信部数据披露，2022年全国在用数据中心机架总规模超过650万标准机架;近5年，算力总规模年均增速超过25%。当算力在千行百业落地应用时，不同精度的算力需要“适配”多样化的应用场景。特别是随着人工智能技术的高速发展，算力结构随之演化，对智能算力的需求与日俱增。

政策层面看，我国高度重视AI产业发展，智能算力发展的基础逐渐夯实。2022年2月，四部委再次联合印发通知，同意在8地启动建设国家算力枢纽节点，并规划10个国家数据中心集群。至此，全国一体化数据中心体系完成总体布局设计，随着“东数西算”工程全面实施，智算中心建设也进入了加快发展的新阶段。数据中心作为数据枢纽和应用载体，是人工智能发展的基础，长期来看数据中心需求有望恢复。预计2024年IDC市场规模达6123亿元，2022-2024年复合增速达15.9%，数据中心将进入新一轮上升期。

人工智能的未来发展方向

人工智能属于很多概念的总和，但其中有些概念很难被测量和验证，例如让机器理解什么是社会、什么是责任，虽然能输出一个表征，但很难检验机器是否真正理解这些概念，因此可在一些可验证、可测量的概念上做出一个闭环，而具身智能刚好是这样的闭环，是迈向通用智能很好的起点。

不断高速发展的AI大模型，有望突破局限，让机器人生“智”。

机器人的大模型包含LLM(大语言模型)、VLM(视觉-语言模型)、VNM(视觉导航模型)。机器人的“大脑”AI域不局限于ChatGPT运用的语言大模型，谷歌在LM-Nav的研究中提到，LLM+VLM+VNM三个模型相互结合，从自然语言(冗余口语化描述)到文本(地标的字符串)到图像(根据文本找图像中的物体)，能够最终生成机器人的路径规划。以此行为模式为基础，机器人能进行人机互动，同时实现一定程度的“随机应变”。

不久前，上海交通大学卢策吾教授在机器之心AI科技年会上发表主题演讲《具身智能》，提出PIE方案，认为具身智能包括3个模块：具身感知(Perception)、具身想象(Imagination)和具身执行(Execution)，有望加速推动具身智能落地。

目前看来，AI+机器人或许正是“具身智能”当前的落点。

由于具身智能相较于非智能普通人形机器人有更高的工作效率，其具备的理解力、交互力、规划能力等，在机器人进入千行百业后，拥有极强的落地实用性。同时其能够用自然语言控制的特性，是未来规模化协助普通工作人员的必要条件。

因此，未来可关注目前可用大模型进行改造的硬件机器人类型及应用场景，例如对话为主的服务机器人、工业机器人、复杂场景下的人形机器人等领域。

诸多大厂已在具身智能领域进行布局，谷歌发布史上最大通才模型PaLM-E;微软探索如何将ChatGPT扩展到机器人领域;阿里巴巴-千问大模型正在实验接入工业机器人等。

《2023-2027年中国人工智能行业全景调研与发展战略研究咨询报告》由中研普华研究院撰写，本报告对该行业的供需状况、发展现状、行业发展变化等进行了分析，重点分析了行业的发展现状、如何面对行业的发展挑战、行业的发展建议、行业竞争力，以及行业的投资分析和趋势预测等等。报告还综合了行业的整体发展动态，对行业在产品方面提供了参考建议和具体解决办法。