【2020智能硬件高峰论坛】广东天波黄子洲—《新计算架构助力AI发展》 2022-06-17 02:52:39

作为智能硬件界的行业盛事,第六届智能硬件高峰论坛如期佛山举办。不过,受新冠疫情影响,2020年智能硬件高峰论坛转战线上,以直播形式举行,吸引了超过60万人次观看。智能硬件高峰论坛至今已举办六届,致力于成为行业提供行业心得分享和发展路向探讨的高端交流平台。


2020高峰论坛主界面_副本.png

 

广东天波信息技术股份有限公司作为智能硬件高峰论坛的主办方,20年深耕智能硬件行业,提供一站式智能硬件定制解决方案,深受合作伙伴与客户欢迎。

 

AI计算应用越广泛,需要存储和处理的数据量就越多,传统的计算架构已不能满足行业需求。如何通过创新来解决这一痛点呢?广东天波信息技术股份有限公司研发总监黄子洲先生,为我们讲解新计算架构如何驱动人工智能行业发展,以下为演讲节选:


研发黄总1_副本.jpg

 

今年,对大家工作生活最大影响的就是新冠疫情了。疫情对我们生活方式最大的改变就是人与人之间尽量减少接触,越来越多的智能机器人应用在消毒、问询服务、运送物品等场景,同时啊,在疫情防控方面,像我们天波推出的无接触式测温系列产品也在广泛的应用,可以说疫情给AI技术的发展带来更多机遇。

 

AI技术的发展,不单单体现在疫情的防控工作,在很多场景的应用也是特飞猛进的应用。正因为AI技术发展快速,它对算力的要求也是越来越高,据估算,要达到跟人接近的智能水平。算力要提高,不是提高几倍,是几个数量级。当前我们的计算架构还存在着很大的瓶颈,人工智能要有所突破,还必须采用新的计算架构。

 

半导体行业有个摩尔定律的发展规律,可是经过50年的发展,通过增加晶体管的数量来提升计算性能,变得越来越难了,就算我们现在常见的两核、四核、八核这种通过叠加处理器提升算力的方式也难以满足AI计算的发展需要,下一步怎么办?计算架构的创新才是出路!

 

传统的CPU是遵循冯诺依曼架构的,它是顺序执行指令的,虽然像上面我们提到的两核、四核、八核的架构,也是可以同时执行多个进程的,但是相对于AI计算所需要的大量乘法、加法这些运算,传统CPU架构效率很低,它适合进行逻辑运算控制,而AI计算更适合采用NPU这些专门特殊优化的处理器!

 

AI计算有分为云侧的训练推理以及端侧的计算。在云侧,全球大部分的云平台采用英伟达的GPU加速方案,英伟达在这方面占尽了先机!

 

而在端侧,大部分的芯片厂家开始采用NPU进行AI计算加速,在单个SOC里面,会有不同的分工,CPU负责逻辑推理、分配工作,GPU负责图形界面的,NPU就负责AI计算。那么,为什么端侧要采用这样的异构计算呢?

 

实际上这个还是跟端侧AI计算的特点有关的,端侧的设备,就好像一些手持设备,体积和功耗都要求很小的,还有算力和成本也是要做到极致!

 

所以说,NPU是端侧AI计算的发展趋势。我们从去年ARM正式发布了三个NPU IP核,也可以看到这样一个趋势。包括早期的华为麒麟970处理器,苹果的A11处理器也集成了NPU,此后,高通、联发科、三星、展锐等芯片厂商也纷纷开始在SoC当中集成自己的NPU内核,这些都表明了这样一个发展趋势!

 

NPU到底是什么呢?它是神经网络处理器的缩写,模仿生物神经网络而构建的,CPUGPU处理器需要用数千条指令完成的神经元处理,NPU只要一条或几条就能完成,因此在深度学习的处理效率方面优势明显。

 

NPU在人工智能技术的最大作用,就是使得运算处理更快速。


1614679883804866.jpg

 

虽然新的计算架构给人工智能技术带来了高速发展,但是也遇到了瓶颈。AI运算需要频繁搬运数据,正是因为数据在内存和中央处理器之间的来回存取,会消耗大量的时间,当运算能力达到一定程度,访问存储器调取和存放数据的速度无法跟上运算单元的速度,这就变得就算有更快速的运算单元也没用,就好像一台强劲的发动机,却因为输油管狭小导致动力没发挥出来,这个就是所谓的“内存墙”。

 

现在,很多科学家和芯片公司正在研究存算一体化的技术,将数据存储和处理的功能集中在相同的单元上,实现类似人的神经元触觉的高效整合形式,简单点理解,为什么人的大脑比计算机聪明,你看我们的记忆和思考都在大脑里,是没有分开CPU和存储器的,所以我们更加聪明。

 

最后,我们回顾一下天波智能硬件的发展历程,看看我们是如何让硬件终端更聪明的!我们是大概在12年开始把业务主线切入到智能硬件领域,在此之前我们的主要的终端产品还是基于单片机技术,在人机交互方面很不友好,在12年我们开始布局安卓智能终端,安卓系统友好的界面显示、触摸交互给这一代终端产品带来了生机,在最近我们一直在思考,人们需要的终端还不仅仅是交互体验好,而是希望它能真正替代人去做一些事情!

 

2020年,我们发布了很多基于NPU技术的AI计算新产品,例如我们新一代的人脸识别系列产品、测温终端产品,以及边缘计算系列产品,未来我们还会有AI摄像机、服务型机器人等一些新的AI产品跟大家见面,我们希望通过人工智能的研究和应用,让每个人都可以使用人工智能,并从中受益!

 

为人们生活创造丰富多彩的未来,这是我们公司的愿景,希望能够跟各位合作伙伴一起,为人类更加美好的未来作出贡献!