adlik深度学习推理工具链的简单介绍

文中目录表：

• 1、致力神经网络架构创新 助推人工智能未来发展

致力神经网络架构创新 助推人工智能未来发展

——记南京大学电子科学与工程学院特聘教授王中风

提起人工智能（AI），你首先想到的可能是机器人，但现阶段，神经网络才是当红的技术。自上世纪40年代相关的理论被提出后，神经网络经历了几十年跌宕起伏的发展。现如今，深度神经网络因其良好的学习和表达能力，已经在图像处理、自然语言处理等多个领域取得了突破性进展，成为了人工智能领域应用最为广泛的模型。但是在实际运用过程中，深度神经网络庞大的参数量和计算量给传统计算硬件带来了处理速度和能耗效率等方面的严峻挑战，高能效深度神经网络加速器的优化设计与实现是新一代人工智能应用快速落地的关键。

基于以上需求，信号处理系统超大规模集成电路（VLSI）设计领域的国际著名专家，南京大学电子科学与工程学院特聘教授王中风，针对深度学习系统的算法优化与硬件加速展开了一系列研究。王中风教授兢兢业业、辛勤耕耘，为我国人工智能和集成电路设计等技术发展做出了突出贡献。

追逐梦想 秉承坚定科研情怀

王中风的人生与科研经历可谓丰富多彩，中专时期，他以顽强的毅力自学完成了高中和大学数学课程；青年时期，他放弃铁矿的“铁饭碗”，克服重重困难，通过自学以全县理科第一的成绩考上清华大学自动化系；大学期间，他从未停歇过前进的脚步，以优异的成绩提前完成本科学业并攻读硕士学位；毕业后，他先就职于北京一家高 科技 公司，之后出国深造，进入美国明尼苏达大学电机系继续攻读博士学位。读博期间，他努力付出，先后在行业顶级期刊上发表多篇高质量论文，且于1999年获得 IEEE 信号处理系统行业旗舰会议SiPS的最佳论文奖。

2000年博士毕业后，王中风先后进入美国国家半导体公司、俄勒冈州立大学电子与计算机工程学院以及美国博通公司工作，在不同单位都取得了一项又一项瞩目成绩。他曾先后参与十余款商用芯片的研发工作，主持设计的一些核心模块性能指标在行业处于领先地位。他的有关技术提案先后被IEEE等十余种网络通信标准所采纳。2015年，因在FEC（纠错码）设计与VLSI（超大规模集成电路）实现方面的突出贡献，他被评为IEEE Fellow。

虽然在美国有着优越的科研环境，王中风却清楚地知道，这并非他心之所向。“科学无国界，但科学家有国界”，身在海外，王中风一直心系祖国的发展，“那里才是家国和故土，要为她历尽所能”。 2016年，当祖国以“国际特聘专家”的形式召唤海外游子回国时，他毅然在事业的上升期回到祖国的怀抱，矢志为祖国的科研产业发展贡献自己的力量。

2016年，王中风进入南京大学电子科学与工程学院，同年，他牵头创建集成电路与智能系统（ICAIS）实验室，以数字通信与机器学习的设计与硬件优化为中心，面向智能制造、智慧工地及智慧社区等国家经济重大需求，和国内外诸多名校及一些顶尖企业开展合作，积极推动和引领中国集成电路设计领域发展，努力攻克技术瓶颈。如今，王中风的科研团队在国际集成电路设计领域已颇具影响，科研报国的梦想正在一步步实现。

开拓创新 突破人工智能芯片

“志之所趋，无远弗届。穷山距海，不能限也”。回国之后，王中风教授快速组建团队，精心布局，全面展开工作。凭借着20多年数字信号处理与IC设计领域丰富的研发经验，他带领团队以“算法与硬件架构协同设计优化”为中心，在人工智能算法与硬件架构，低功耗、强纠错能力信道编/解码硬件架构设计及可信计算加速等科研方向上全面发力，并取得了显著的学术成果。

具体到人工智能芯片设计方面，王中风带领团队开发了多维度的硬件友好型神经网络压缩算法和一系列高效深度学习的推理和训练硬件加速架构。在算法优化层面，他们创新了硬件加速架构对冗余信息的挖掘和处理方式，充分利用不同维度冗余信息的正交性，将动态计算调整与静态参数压缩相结合，在保证推理精度的前提下，显著降低了深度学习算法的计算复杂度和参数量。此外，团队就卷积神经网络等常用模型开展了全面系统地研究，创造性地开发了一系列计算优化及数据流优化方案，其中包括基于快速算法的卷积加速技术和层间融合复用的数据传输方案等，解决了其硬件设计在计算能力和传输带宽方面的两大瓶颈，大幅提升了系统计算效率、能效和吞吐率。

在硬件实现层面，针对神经网络中广泛存在的稀疏性及其并行处理时无法充分提升能效的瓶颈问题，他们引入了局部串行和全局并行的设计思想，可在不损失精度的前提下充分利用神经网络冗余性，明显提升了AI推理加速器的功耗效率。结合完整工具链的定制设计，该高效架构可以在不同场景中得到广泛应用。在训练加速器设计方面，王中风是最早 探索 新型数据表示格式的运用和可重构训练加速器架构设计的学者之一。他带领团队首次利用Posit数据格式，设计了一种高效深度神经网络训练方法和Posit专用低复杂度乘累加单元，在大幅降低计算、存储开销和带宽需求的同时，实现了与全精度浮点数据格式下相同的模型精度。此外，王中风带领团队将高速电路设计领域最常用的并行计算与流水线处理技术充分运用到神经网络加速架构中，突破了递归计算带来的系统时钟瓶颈，从而最终提高了加速器整体的吞吐率上限。

为了促进产学研的协同创新，王中风在2018年牵头创立了南京风兴 科技 有限公司，致力于人工智能芯片及智能系统解决方案等相关产品的研发。公司拥有国际领先的低功耗集成电路设计与优化技术，2020年独家推出了针对高性能智能计算的高能效稀疏神经网络计算芯片架构，支持常用深度学习算法，解决了AI芯片领域存在的通用性与高性能难以兼顾的难题，具有行业领先的能效比，可以满足云-边-端多种推理应用场景，减轻AI计算对内存带宽和存储的极高要求；在显著提升芯片性能的同时，能够大幅降低芯片成本，从而有效推动人工智能算法在诸多领域的实际落地。

天道酬勤，付出的汗水浇灌出了美丽的花朵，自2016年回国工作以来，王中风先后获得江苏省“双创人才”、“双创团队”领军人才、南京市“高层次创新人才”、“ 科技 顶尖专家集聚计划”A类人才等荣誉和奖励。2020年荣获吴文俊人工智能 科技 进步奖。2018-2021年，王中风共有7篇合著论文（均为通信作者）进入 IEEE 集成电路相关行业旗舰会议最佳论文奖的最终候选名单，其中关于AI硬件加速器设计方面的工作创纪录地在18个月内连续四次荣获IEEE权威学术会议的年度最佳论文奖。与此同时，王中风团队已经申请发明专利数十项，其中9项专利被产业转化，带动 社会 资本投资数千万元。这些成绩也激励着王中风教授不断拓宽研究方向，砥砺向前。