新兴的机器学习算法再现奇迹? 深度学习未来发展及趋势分析

新兴的机器学习算法再现奇迹?

深度学习本质上是一种新兴的机器学习算法，其基本模型框架是基于ANN的，如含有多隐层的感知器。其可以通过对数据的底层特征进行学习从而得到更加抽象的隐藏特征，从而特到数据的分布式规律，进而预测或分类数据。深度学习是一种学习数据表征的算法，它可以从无规律、抽象的观测值即输入值中学习到数据的隐藏特征，比如CNN算法通过输入的图片像素点RGB值可以学习到图片的内部特征，例如图片中的实体、数字等。深度学习的好处是其用高效的特征提取算法替代了原始的手工获取特征的手段。

深度学习未来发展及趋势分析

深度学习概念由Hinton于2006年在《Science》上发表的论文《DeepLearning》提出。提到：1、在ANN中，感知器的隐层数量越多，对于数据隐藏特征的学习能力就越强，而且学习到的特征会更好的帮助理解数据，从而能够更好的对数据进行可视化或分类;

由于ANN层数越多，参数就会以几何倍数的增加，因此ANN的层数会加大对整个网络的训练效率，由此Hinton提出了基于无监督学习的“逐层初始化”来有效克服该难题。在深度学习领域中，最先出现的算法是Hinton提出的限制玻尔兹曼机(RBM)以及基于此提出的深度置信网络(DBN)，这两种算法为解决复杂的优化难题提供了思路，为解决多层复杂网络带来了希望。之后提出的自动编码器算法也风靡一时。

此外Hinton的得意弟子Lecun等人提出的卷积神经网络(CNN)真正将深度学习研究领上了高潮，其本质上是用来解决图片或视频中的实体识别等难题的，它利用图片2维或3维空间特性有效的减少了网络的训练参数。

国外的深度学习研究在整体上呈现出三个基本趋势：一是关注真实课堂条件下深度学习与学生素养发展的实证研究;二是从个别具体操作策略的探讨转向为一般化操作模式的建构;三是从单纯关注深度学习的技术性支持转向为情境性的环境支持系统设计。深度学习研究又呈现出两个较为明显的特点。

据中研普华产业研究院的报告《2021-2025年中国深度学习发展及趋势专项研究报告》分析

深度学习应用覆盖更广泛，市场增速加快

深度学习除了在已经广泛应用的领域不断深化完善，也在持续拓展新的应用领域，推动各个行业的智能化。2017-2018年期间，得益于硬件和算法的进步，深度学习的强大能力逐渐显现。这种进步体现在连续学习过程中使用模式识别的算法，使它们能够自主训练执行任务，而不需要显式编程代码。

图表：全球深度学习软件喜营收(按区域) : 2017-2025

数据来源：Tractica

一些较成功的深度学习应用集中在图像识别、文本分析、产品推荐、欺诈预防和内容管理等领域的增量和实际改进上。深度学习可能会带来未来更强大、更具颠覆性的应用发展，如无人驾驶汽车、个性化教育和预防性医疗保健。Tractica 预测，随着应用的不断拓展，全球深度学习软件市场将从2017 年的30 亿美元增长到2025 年的672 亿美元。深度学习的市场机会跨越了广泛的行业和地理区域，尤其是在具有海量数据需求和实体的特定领域市场，以及那些使用视觉和语言处理技术的机器感知应用不断增长的市场，这种机会具有特别大的颠覆性。

深度学习技术研究持续深入

深度学习除了在应用领域的快速扩张，一些基础技术研究依然保持着很高的热度。主要可以分成以下几个方向：深度学习的基础理论研究;深度学习和其他方法的结合扩展;深度学习一些优势的深耕和发扬光大;深度学习现阶段一些局限性的解决。当然这几个方面也是相互影响，相互交织的。

深度学习的理论性研究侧重给出对深度学习有效性更好的解释，对深度学习的泛化能力更好的证明，以及如何更快收敛更好地学习等。

在和其他方法结合方面，一方面最成功的当属深度强化学习，从静态监督学习扩展到动态交互时序学习，这在AlphaGo 上已经得到了验证。但是对于深度强化学习是否就是最接近人工智能的解决方案还是存疑的。另一方面是在一些非游戏类的实际应用中，深度强化学习发挥好的效果往往需要针对性的设计和实验。除此之外，也有很多关于神经和符号相结合的探索、数学模型和认知心理学方法相结合的探索。

在深度学习的优势深耕方面，预训练模型与迁移学习比较有代表性。深度学习下的特征表示学习特性，可以构造出可扩展、可迁移的强大的预训练模型。例如，自然语言处理领域最近出现的Bert 模型就是一个代表，通过大规模无标注语料训练出的基础表示模型，可以大大降低具体任务下对标注数据的依赖量并显著提升效果。

在解决深度学习现阶段的一些局限性方面则有更多的探索。这包括针对深度学习下网络设计需要较大成本问题而出现的自动化深度学习技术，可以自动进行网络结构设计和超参数寻优，使深度学习更加自动化。针对深度学习在监督学习任务上表现更优异的问题，更多考虑半监督、无监督任务下的深度学习，包括近期持续火爆的对抗学习网络，将生成模型和判别模型一起学习，大大提升了深度学习的生成效果。针对传统深度神经网络更多适用于无结构数据的问题提出图神经网络，使得深度学习可以作用于图结构上，非常适用于知识图谱等场景，为深度学习的推理能力、可解释性提升提供了新思路。

边缘计算将给深度学习和芯片带来更多市场

人工智能的计算大多在基于云端的数据中心完成，而这些计算的主要内容是对深度学习模型的训练，这需要大量的计算能力。在过去的6年中，计算需求方面经历30万倍的增长，GPU提供了强大的算力支持。随着人工智能应用多样性的增长，越来越多的深度学习计算将在边缘设备中进行，而不是在一个集中的、基于云的环境中进行。到2025年，全球人工智能边缘设备的出货量将从2018 年的1.614亿台增加到26亿台。依据设备类别，主要的AI 边缘设备为：手机、智能音箱、个人电脑设备、头戴式显示器、汽车、无人机、消费者和企业级机器人、监控摄像头等。

图表：全球边缘计算设备出货量(按设备种类): 2017-2025年

数据来源：Tractica

在评估云与边缘计算时，需要考虑隐私、安全、成本、延迟和带宽等。根据人工智能应用程序和设备类别，可用于执行人工智能边缘计算的芯片包括中央处理器(Central Processing Unit，CPU)、图形处理器(Graphics Processing Unit，GPU)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)、系统芯片(System on Chip，SoC)等。

深度学习芯片迎来高速发展的阶段

GPU和CPU 在市场上处于领先地位，但FPGA、ASIC、SoC 加速器和其他新兴芯片组的影响正在不断扩大。虽然解决深度学习训练和推断工作量的芯片组市场仍然是一个新兴市场，但形势正在迅速变化——在过去的一年中，超过60 家各种规模的公司宣布了某种深度学习芯片组或知识产权(IP)设计，之后将开始市场验证。2019 年和2020 年是深度学习芯片组数量增长的关键时期。

图表：全球深度学习芯片收入(按类型):2016-2025年

数据来源：Tractica

到2025 年，深度学习芯片组的市场将从2017年的16 亿美元增加到663 亿美元。系统芯片(SoC)加速器(如移动设备中的加速器)将在预测期结束时在绝对数量上领先市场，随后是专用集成电路(ASIC)和图形处理单元(GPU)。就收入而言，到2025 年，ASIC 市场将是最大的，其次是GPU 和中央处理器(CPU)。在边缘计算市场，即在设备上进行人工智能计算的市场，预计将占总市场机会的四分之三以上，其余在云或者数据中心。手机将是边缘计算市场的主要驱动力，其他突出的边缘类别包括汽车、智能相机、机器人和无人机等。

未来行业市场投资前景如何?想要了解更多行业详情分析，可以点击查看中研普华研究报告《2021-2025年中国深度学习发展及趋势专项研究报告》。

更多报告推荐

2021-2026年中国电子学习系统行业市场前瞻与未来投资战略分析报告