【导读】异构计算,慢慢变成业界的一种主流方向,英特尔和英伟达相继推出统一架构的平台来实现异构计算。近日,为支持异构计算,Arm推出两款全新的主流ML处理器,分别是Ethos-N57 与 Ethos-N37 NPUs,这是继Arm ML处理器Ethos-N77之后的两个处理器。
对此,Arm市场营销副总裁 Ian Smythe在接受采访时表示:“异构计算的支持关键并不在于打造一个硬件的平台,更重要的是能够让第三方开发人员去访问到芯片级的性能。因为如果他们无法获得芯片级的性能、IP的能力的话,那其实这些能力、这些性能就已经是浪费了。所以我们强调的其实是全生态系统的合作。”
“其实非常明确的是,现在出现了一种具体领域的计算,我们考虑的角度是如何满足下一代计算的能耗以及性能跨CPU、GPU和NPU的需求。这也就意味着,我们不仅需要在产品设计阶段,还需要在开发人员进行产品部署的运行阶段,都有效地建立不同场景计算的资料或者组合。为了做到这点,我们需要一个统一的工具链来实现CPU、GPU、NPU的支持。”Ian Smythe表示。
此外,Ian Smythe指出,事实上Arm有很多这样的合作伙伴,他们已经在自己的电视或者是手机产品之上实现了异构的片上系统,比如说使用视频、图形、加速器还有CPU实际上已经是异构的了。只不过ARM从开发人员的角度出发,在系统级实施方面实现了更好的、在全系统中的数据流。
“对Arm来说,我们专注于total computing,无论是total computing还是您说的异构计算或者是专域计算,我们都着重于能耗与性能的平衡。”Ian Smythe认为。
据悉,Ethos-N57与Ethos-N37其设计理念包括一些基本原则,例如:针对Int8与Int16数据类型的支持性进行优化;先进的数据管理技术,以减少数据的移动与相关的耗电;通过如创新的Winograd技术的落地,使性能比其他NPU提升超过200%。
此外,Ethos-N57的功能还包括:旨在提供平衡的ML性能与功耗效率和针对每秒2兆次运算次数的性能范围进行优化。Ethos-N37的功能还包括:为了提供面积最小的ML推论处理器(小于1平方毫米)而设计;针对每秒1兆次运算次数的性能范围进行优化。
推荐阅读: