ai芯片最新架构,AI芯片最重要的是什么
ai芯片最新架构,AI芯片最重要的是什么正是看到AI与IoT领域的市场前景,去年在世界互联网大会期间,Arm中国推出AI平台「周易」。它主要包括两部分,一部分是平台上的软件框架Tengine,用来承载算法应用;另一部分是AI处理单元AIPU,专门处理深度神经网络为代表的AI计算。可以说,Tengine软件框架和AI处理单元构成了周易平台的核心要素。 Arm中国每年的销量统计数据也有力的支撑这一预测。Arm中国生态发展副总裁、OPEN AI LAB创始人兼CEO金勇斌也介绍道,从1991年到2017年,Arm花了近26年实现了1000亿基于Arm芯片的设备。但从2017年开始每年有250亿台基于Arm芯片的设备,预计到2020年,这4年就会实现第二个1000亿。以此估算,到2035年达到1万亿连接设备,这一观点并不激进。在最近的一次媒体沟通会中,Arm中国进一步介绍了周易平台,尤其是AIPU的特性,并着重介绍了周易平台的落地应用情
「在2020年之前,对整个产业来说谁的软件好用,谁就能真正的掌控市场。」
撰文 | 寓扬
去年11月份,面向广阔的物联网市场,Arm中国推出人工智能平台「周易」,它主要包括人工智能处理单元(AIPU),以及软件框架Tengine。当时Arm中国称,通过周易平台,能够把芯片的开发周期缩减3-5倍,提升人工智能应用开发的生产效率。
值得一提的是,2018年Arm在中国进行业务分拆后,Arm中国成为中方占主导的合资公司。周易平台也是由Arm中国自主研发。
在最近的一次媒体沟通会中,Arm中国进一步介绍了周易平台,尤其是AIPU的特性,并着重介绍了周易平台的落地应用情况,以及相比时下火热的RISC-V架构的优势。
AI芯片最重要的是什么?Arm中国给出的答案是,芯片背后的整套软件工具链。可以预测,在2020年之前,对整个产业来说谁的软件好用,谁就能真正的掌控市场。
1 周易平台降低AI芯片研发门槛软银董事长孙正义曾预测,2035年全球将有万亿级IoT设备在线。相比而言,PC时代的容量大约为10亿台,智能手机的容量约为60亿部,而物联网所带来的设备体量将会是成百上千倍的增长。
Arm中国每年的销量统计数据也有力的支撑这一预测。Arm中国生态发展副总裁、OPEN AI LAB创始人兼CEO金勇斌也介绍道,从1991年到2017年,Arm花了近26年实现了1000亿基于Arm芯片的设备。但从2017年开始每年有250亿台基于Arm芯片的设备,预计到2020年,这4年就会实现第二个1000亿。以此估算,到2035年达到1万亿连接设备,这一观点并不激进。
正是看到AI与IoT领域的市场前景,去年在世界互联网大会期间,Arm中国推出AI平台「周易」。它主要包括两部分,一部分是平台上的软件框架Tengine,用来承载算法应用;另一部分是AI处理单元AIPU,专门处理深度神经网络为代表的AI计算。可以说,Tengine软件框架和AI处理单元构成了周易平台的核心要素。
其中,Tengine框架不依赖于AIPU或者专用AI芯片,现有的成熟芯片通过Tengine框架可以把算力提取出来,在本地进行一些AI应用的处理,从而提高了芯片性能,并降低成本。
据金勇斌介绍,现在很多基于周易平台Tengine的使用场景已经落地,比如行车记录仪、ADAS、安防中的人脸识别门禁和闸机等。
他举例介绍道,一个客户开发了一套智能人口管理系统,在单元楼下安装摄像头后,以前需要将采集的人脸数据传到后端数据中心进行处理。现在通过Tengine架构,不需要改动硬件,摄像头就可以自动在前端进行人脸识别,这样大大减少了网络部署成本。据他估算,周易平台所带来的效率提升,可节省近10倍成本。
整体而言,金勇斌称,通过周易平台可以降低AI芯片开发的两个门槛:第一个是SoC集成AI功能的设计门槛,Arm中国可以提供参考设计,提供IP;第二点是降低上层软件的开发门槛,因为仅有芯片还远远不够,芯片之上的软件框架,以及这背后的整套软件工具链都尤为关键。软件最终决定能不能大规模使用,对整个产业来说谁的软件好用,谁就能真正地掌控市场。
2 DSP的局限周易平台的另一个核心要素是人工智能处理单元AIPU,Arm中国重点介绍了AIPU的特性,以及它相对于市面上另一种流行架构DSP的优势。
Arm中国资深产品经理高锦炜介绍道,AIPU的最大特点是拥有一套AI和神经网络优化指令集,这个指令集也遵循Arm一直以来的生态方式,接下来的每一代处理器都会向前兼容这个指令集,从而保证整体软件生态的延续。此外,周易AIPU还支持可扩展的指令集。
在硬件设计上,周易AIPU兼顾了神经网络处理器所需要的高效率,以及编程的灵活性。目前AI算法迭代很快,基本以一年为开发周期,而芯片的开发周期往往至少要3年。这种不对等性,就需要保持AI处理单元具有灵活的可编程性,从而适应不同的算法。
在软件方面,周易平台提供了一整套完整的工具链,从IP开发到软件开发,包括编译器、性能优化库等,从而提供一键式开发服务。
针对周易AIPU的落地情况,他称目前已经有唱衰基于AIPU做芯片设计,最快明年年中可以看到芯片推出。
目前产业界不少企业用DSP来做AI处理,针对这种状况,高锦炜提出了他的看法。他认为DSP跟CPU一样已经发展了二十几年,但一直没有形成一个比较好的生态,这是因为DSP在设计过程中存在一些缺陷。
一方面,目前存在多个DSP架构,不同DSP架构之间并不兼容,这分散了整个产业软件投入的资源和开发精力;另一方面,DSP的开发没有软件生态维护的概念,这会造成即使是同一个厂家,第一代DSP的指令集或者软件程序,无法使用在第二代DSP上。这对于软件开发来说可能是灾难性的。
3 软件生态决定市场走向随着物联网的蓬勃发展,新的开源指令集架构RISC-V在芯片江湖可谓声名鹊起。拥抱RISC-V的一种观点称,「RISC-V是IoT时代最适合的处理器架构」,因为从技术的角度来讲,RISC-V具备延展性,非常灵活,既可以做低功耗,也可以做复杂的AI计算。此外,它还具备更强的成本优势。
周易平台则是Arm架构从移动互联网向物联网的延伸,Arm中国又如何看待RISC-V架构的兴起?
金勇斌称,CPU做好其实并不容易,早期CPU有各种各样的架构,RISC-V也不是第一个开源的架构。世界上很多老牌的CPU厂商,包括TI、高通、海思等,他们原来也自己设计CPU,但后来都用了Arm架构,这取决于Arm在低功耗、高性能上的显著优势。AIoT时代,CPU要求更低的功耗,特别是芯片上面需要有软件生态,而RISC-V的软件生态什么时候形成还不清楚。
显然他想表达Arm在架构以及软件生态上的优势,接下来Arm也会依托这也优势进军IoT市场。
面对一个新的IoT市场,新的架构、新的芯片都会涌现,然而做一款芯片只是第一步,背后的软件生态和工具链将会决定这个市场的走向。