中科院自动化所程健研究员分享“深度神经网络优化计算”

  • 刘栋
  • 日期:2017-12-15
  • 1335

      从google,youtube专注的图像语音处理到facebook公司研究的社交网络,从基因编码到气候变化。不可否认,人工智能的浪潮已经汹涌而来,已经深入到各个科学领域。以模型创新为源头,以芯片和系统技术为载体,与领域快速融合并呈现颠覆性应用的人工智能生态正在快速形成。

      2017年12月8日晚,中科院自动化所程键研究员做客微电子学院主办的“类脑芯片技术与应用专题系列”科学前沿讲座,为国科大的同学们带来了人工智能背景下,关于“深度神经网络优化及计算”的讲座。

      在程健老师的理解中,芯片,大数据和深度学习是人工智能的三大要素,而芯片是人工智能的核心竞争力。上世纪80年代以来,人工智能计算已经走过了以CPU为核心的科学计算时代,正在经历以GPU为核心的智能计算时代,未来可能要进入新型微处理单元为核心的自主计算时代。


      在智能计算时代,程健老师表示,复杂模型和瞬时计算带来的密集计算问题,不同应用场景对计算设备的不同要求,摩尔定理的逐渐失效,是当今芯片产业的三种挑战。为了突破芯片发展的壁垒,人工智能芯片应运而生。一类是以模拟人类神经元的神经形态的芯片。如IBM公司研发的TrueNorth芯片,突破了冯诺依曼框架,做出了开创性的工作。但此类芯片仅仅得到了原理上的验证,性能有待提高。

      另一类是以MIT的Eyeriss芯片和中科院计算的寒武纪芯片为代表的神经网络芯片,结构采用卷积神经网络结构。卷积运算导致运算部件与cache和DRAM频繁的数据交换,产生大量的中间结果。因此,拥有更多片上cache的GPU芯片架构,更适合神经网络的芯片结构。

      接着,程健老师详细介绍了有关深度神经网络优化计算。为了方便同学们理解,程键老师引用了大量直观的图表和数据,介绍了低秩分解,剪枝,量化,低精度四种优化算法的基本原理,并展示了各种优化算法带来的芯片性能上的提高。对于一些艰深的理论,程老师紧紧结合同学们课堂学习经历。例如,将降低计算复杂度的低秩分解算法简化理解为矩阵的奇异值分解的降秩过程,使同学们更容易地领悟到了优化算法的精髓。

      讲座最后,同学们纷纷与老师交流,对于智能芯片的未来,对于深度神经网络优化算法的细节提出自己的疑问,表达不同的见解。讲座在热烈的讨论氛围中结束。

      本次讲座程健老师由人工智能的大背景切入,逐步深入,分享了关于人工智能芯片,神经网络芯片和深度神经网络优化计算最新的科研成果,引起了同学们极大的学习兴趣,使同学们获益匪浅。