行业需求决定了人工智能任务的复杂性，轻量化人工智能必须通过加快运算效率，提高计算密度来达到最大限度的效率深圳市人工智能行业协会。

人工智能算法的复杂性急剧上升，神经网络计算的能量消耗成本越来越高，数据洪流式地涌积成堰塞…这些年来，人工智能的发展遇到了越来越多的瓶颈。人工智能模型及其计算载体的前端化与轻量化成为一个亟待解决的问题。随着以“轻量化”为赛点的人工智能比赛进入下半场，最近兴起的轻量化人工智能备受期待。因此，科技日报记者于4月27日采访了中国科学院自动化研究所有关专家深圳市人工智能行业协会。

人工智能下半场轻量化成为赛点

人工智能技术在工业上的应用，主要依靠大量的训练数据和大型服务器的算力支持。

但近几年来，随着信息技术领域摩尔定律的逐渐放慢，硬件的发展越来越难以满足当前人工智能模型的大量存储和计算能力需求，伴随而来的问题是数据堰塞、存储膨胀、隐私泄露、能源消耗过多深圳市人工智能行业协会。

”“目前，对人工智能设备和应用的快速响应、隐私保护以及节能减排的需求日益突出，轻量化人工智能应运而生，并受到高度期望。中国科学院自动化研究所的一位研究员程健说：“到2020年，麻省理工科技评论将轻量化人工智能列为‘全球十大突破技术’。

我们所说的“轻量化人工智能”，是指利用一系列轻量化技术来推动提高芯片、平台和算法的效率，使人工智能在更接近的物理空间上进行低能耗的训练和应用部署，而不需要依靠与云端的交互来进行智能操作。

《麻省理工学院科技评论》将轻量化人工智能评为“全球十大突破性技术”，该评奖认为，轻量化智能可以让现有服务，如语音助手、手机拍照等，变得更快，而且不必每次都要连接云端来运行深度学习模型；此外，轻量化人工智能还可以使新的应用成为可能，例如基于移动端的医疗检测分析，对响应时间要求更快的自动驾驶汽车；此外，本地化的人工智能更有利于保护隐私，用户数据无需离开设备即可实现服务功能的进化。

更为重要的是，轻量化人工智能使其成为主流，极大地降低了部署人工智能系统的难度和成本，使其从一个高门槛的科技巨头竞争中脱颖而出，成为一个更容易惠及民生的智能生态系统。程健表示，在人工智能领域的竞争中，以轻量化为赛点的下半场即将到来深圳市人工智能行业协会。

极端高效，极端低耗是终极追求

就性能而言，轻量化人工智能正在做减法，降低能源消耗，降低硬件平台的性能指标要求，减少与云端通信的需求等等。

但是，“实际上，轻量型内核正在进行加法工作。”中国科学院自动化研究所副研究员冷聪说，工业的需求决定了人工智能要完成的任务越来越复杂，轻量化人工智能必须通过提高运算速度，计算密度来达到最大限度的效率。

程健认为，在接近无损精度的前提下，实现人工智能模型和计算载体的轻量化是一项具有挑战性的工作。

要解决这个问题，需要对神经网络进行轻量化设计，加快计算速度，并设计新的计算体系结构来实现模型的硬件化，这需要从软硬件两个方面入手。

通过轻量化模型设计、矩阵分解、稀疏表示、量化计算，在软件上实现模型的微型化和计算的加速；在硬件上，通过流水线设计、存储器模式设计等手段，在硬件结构上实现创新，通过软硬协同设计和优化，实现人工智能轻量化深圳市人工智能行业协会。

尽管是硬件执行神经网络的计算，但是神经网络的结构和人工智能平台决定了计算的数量和运行方式。因此，冷聪坦言，极致的轻量化必须是软硬件协同轻量化——基于复杂的人工智能应用场景，充分整合芯片、平台和算法，共同加速。

人工智能芯片作为人工智能的硬件载体，其性能必须提高，效率必须提高，功耗必须降低，体积必须减小。这使得具有足够平价、高效的计算平台能够满足行业需求，承载复杂的人工智能任务，并使得推理和运算从云转移到终端。

与此同时，轻量化的人工智能平台需要训练和运行人工智能算法，以更低的功耗，最大限度地挖掘硬件资源。而且，应用轻量化技术建立的神经网络模型，其体积小，运算量小，精度高。

将来人工智能的轻量化将赋予所有事物

程健介绍说，中国科学院自动化研究所作为轻量化人工智能的先驱，很早就开始了软硬协同轻量化技术的研究，并取得了国际领先地位。

2016年，卷积神经网络大规模进入应用阶段，中国科学院自动化研究所在国际人工智能顶级期刊上发表了多篇关于神经网络模型轻量化方面的重要论文，成为国际上最早开展研究的人工智能轻量化机构之一，相关成果引起了国内外众多专家学者的广泛关注。

他说：“我们设计开发的轻量化人工智能平台 QEngine和轻量化算法已部署到成千上万的终端。程健表示：“2019年，在国际神经信息处理系统会议的微型网络挑战竞赛中，我们与 ARM、 IBM、高通、 Xilinx等国际一流芯片公司进行了竞争，获得了轻量化神经网络构架图象类的双料冠军。

到2020年，中国科学院自动化研究所自主开发的世界上第一个超低比特量化神经处理芯片(QNPU)成功流片，解决了芯片计算领域备受关注的“记忆墙”难题，实现了芯片成本、功耗、计算结构和边缘计算等方面的革命性变革。

冷聪说：“这款芯片的出现，也标志着自动化研究所成为世界上拥有‘人工智能芯片——人工智能平台——算法——’全部轻量化人工智能技术的少数几家公司之一。

在未来，由人工智能驱动的小型设备将越来越多地与我们同在。轻量型的人工智能终端，包括人工智能芯片、平台和算法，将在越来越多的场景中得到应用。

例如，在电力工业中，我国输电线路覆盖广泛，野外自然环境复杂，检修维修作业危险系数高，难度大，我们设计的自主巡检无人机、缺陷识别分析便携终端、通道可视化智能感知摄像机等具有多种智能识别、检测和分析功能，可以保障输配电线路的安全和电力系统稳定。

与此同时，在消费电子行业，采用自动化设计的暗光增强、超分辨率等轻量化算法和轻量化神经网络计算架构，也为手机终端、安全终端提供图像增强效果。

程健表示，未来，轻量化人工智能将赋予每一种设备环境感知、人机交互、决策控制等能力。