【导读】8月30日,地平线投下一颗“重磅炸弹”:正式宣布量产中国首款车规级AI芯片——征程二代,成为攀登自动驾驶制高点的里程碑事件。10月29日消息,两个月不到,地平线再次宣布AI芯片新进展,于今日宣布推出新一代 AIoT 智能应用加速引擎——旭日二代边缘 AI 芯片及全场景芯片解决方案。
地平线联合创始人&技术副总裁黄畅发布旭日二代边缘AI芯片
集成地平线第二代 BPU 架构,每秒处理超过 700 张图片
今天,地平线联合创始人&技术副总裁黄畅发布并详细解读了旭日二代芯片:
旭日二代是地平线面向未来物联网推出的新一代智能应用加速引擎,也是地平线在自动驾驶芯片领域技术先发优势的一次成功迁移。
旭日二代集成地平线第二代 BPU 架构(伯努利架构),典型算法模型算力利用率>90%;配合高效算法,每TOPS算力可处理的帧数高于标称4T算力的AI芯片(>10倍,同等算力GPU)。
针对物联网场景下的主要目标群体“人”和“车”,旭日二代进行了大量的算法优化,在边缘端即可实现全视频结构化能力,高效灵活地处理多类 AI 任务,包括10——30万人前端识别,密集人群时空属性行为分析,多种非机动车、机动车检测分类。
旭日二代具备四大核心优势:
高性能:等效算力 4Tops,可实时处理多类 AI 任务
低功耗:采用28 HPC+ 低功耗 CMOS 工艺, 典型功耗 2 W
开放工具链:可视化调试工具、丰富的算法样例
视频全结构化能力:支持对多类人、车目标进行实时检测和精准识别
实际测试表明,旭日二代在端上高效分类模型 MobileNet V2 上可每秒处理超过 700 张图片,功耗仅为 2W;使用地平线工具链优化后的yolo3(调整网络结构重训)在相近的精度下,旭日二代每秒可以处理超过40张图片(是业内标称4TOPS AI芯片运行公版yolo3的近两倍性能)。
旭日二代不仅性能强大,而且好用易用,主要体现在:
丰富的模型和应用示例
支持Mxnet和Tensorflow,2020年初支持pytorch 3
可视化的性能分析工具
快速上手的BPU API,高度灵活的HR Runtime API和Platform API,客户可以根据需求选择
算法芯片协同优化,将算法演进趋势融入BPU架构
相比于单纯做AI芯片硬件的公司和单纯做AI软件算法及应用的公司,地平线的独特性在于,从创立之初就坚持走“算法+芯片”的软硬结合道路,现如今,这已经成为科技行业的重要趋势。
黄畅曾在以“AI 元力,重启未来”为主题的AI World 2019 世界人工智能峰会上提到,“为实现软硬件协同优化,必须判断算法向前演进的趋势,抓住市场最主流的算法确定芯片走向,但这不是追求单一的算法模型加速。”
地平线提出“软硬结合、开放赋能”,坚持算法与芯片协同优化,地平线创始人兼 CEO 余凯博士不止一次地对外表示未来 AI 竞争需要“软硬结合”并形象的说:“如果只做硬件不做软件,那给客户交付的就是一块石头。”
地平线创始人&CEO余凯
此次,地平线也对重要应用场景中的关键算法发展趋势进行预判,前瞻性地将其计算特点融入到计算架构的设计当中,使 AI 芯片随着算法的演进趋势,始终能够保持相当高的有效利用率,从而真正意义上受益于算法创新带来的优势。
软硬件协同优化,AI效能灵活
边缘计算迎来全新构架变革,边缘AI芯片成AIoT应用落地的引擎
AI 计算可以分为云计算、边缘计算、端计算三个层次。他们在 AI 算力、实时性以及计算的通用性三个维度上,各有所长:
云计算面向的是最通用的计算,在所有的计算中,云计算的时空范畴是最大的,多样性最强,所需要的算力最高,但实时性较差,并且与场景相关性弱;云端的数据种类也是最丰富的,可以横跨多个维度,因而可以做复杂的认知计算和模型训练。
端计算是另外一个极端,与场景相关性最强,计算专用性非常强,追求极致效率,主要面向推理。
处在中间的边缘计算是新物种,它就像我们的脊椎一样,连接我们的大脑(云)和神经末梢(端)。其算力远胜于端,同时对功耗的容忍度比端也强很多;相对于云,其实时性更好,且可以结合具体场景进行特定优化。而5G技术的应用,可以大幅改善边缘和端之间的数据带宽和传输延迟,使得它能够兼具云和端的优势,改变现有网络互联格局。
5G 时代下的物联网模式也将随之而变,边缘计算成为数据过滤器与控制阀,通过它的处理,可仅将低至万分之一的有效数据上传到云端进行处理,大幅降低对于骨干网的数据传输压力。换句话说,5G 将会加快信息传播速度,但却无法从根本上解决数据节点的“堰塞湖”现象,这就为边缘计算带来了广阔的发展空间。
在传统互联网时代,是端和云的二元计算架构,数据持续向云端转移并被处理,端只是流量入口;但是边缘计算的加入,带来了新变量,它在端和云之间,构造出一种全新的可能,其对于数据的控制力将带来新的商业范式转移,从技术角度讲,边缘计算具备了改造传统互联网计算架构的潜力,将带来从软件到硬件的全新构架变革。
AI on Horizon:图像+语音,从像素集感知到时空语义建模
地平线不断加速边缘AI 芯片产品的更新迭代,以软硬结合的一体化方案,带来极致效能提升。基于边缘AI 芯片,地平线致力于打造一个多层次、多维度、多样性的开放生态体系。
专注边缘计算,同时得益于算法和芯片协同优化,地平线此次面向AIoT 客户重点推出了以下解决方案:
地平线 HeroSpark 通行门禁考勤方案:整合 AI 芯片、算法、软件及摄像头模组,具备高性能、低功耗、快速集成等特点,方便客户应用与快速落地量产,可打造具备高性能人脸识别技术的出入口门禁、 可视对讲、闸道通行、办公考勤等产品;
地平线 HeroSights 智能摄像机解决方案:依托软硬结合的边缘 AI 芯片优势,HeroSights 可以高性价比协助客户实现产品形态快速落地,广泛应用于零售、学校、工地、制造、物流、家居、交通、社区 等各 AIoT 场景;
地平线Nebula 智能车载主动安全解决方案:该方案基于中国首款车规级 AI 芯片——征程二代打造, 是包括 ADAS、DMS、Face ID、语音等功能在内的全栈 AI 解决方案,具有高性能、低成本、接口灵活、支持多个硬件平台的特点,方便整车厂进行集成。
基于旭日边缘AI芯片,结合领先的深度学习算法,地平线可为客户推出具备高性能、低功耗、快速集成等特点的智能物联解决方案,赋能社区住宅、商业楼宇、园区、学校、工厂、企事业单位等场景。这与此次发布的一站式全场景边缘AI芯片解决方案——Horizon Hero 密切相关。
在地平线上海汽车展媒体发布活动上,余凯首次向公众解读了AI on Horizon的商业理念,他表示,“AI on Horizon,Journey Together”的理念就是:
定位Tier 2供应商,只造武器不打仗,不碰数据,不做上层应用;
芯片开放赋能,一路成就客户;
提供超高性价比,极致功耗和开放的服务。
AI on Horizon能力集主要是“图像+语音”,从像素集感知,到时空语义建模。在二级结构化上,有语音识别、语音唤醒、唇语识别、声纹识别、多模态情绪分析、活体检测、Face-ID、人体Re-ID、人体属性分析;在三级结构化上,有多模态生物特征识别、超大规模人脸识别、自动建档、三维人体建模、跨摄像头跟踪、行为识别、稠密人群分析。
BOOTPRINT X2 边缘AI 开发套件,降低开发者门槛
在开发者生态方面,地平线通过工具链服务、与行业开放社区的形式降低开发者门槛,如地平线此次发布的BOOTPRINT X2 边缘AI 开发套件,BOOTPRINT X2 边缘AI 开发套件是地平线加入96Boards 社区,推出的基于96Boards SOM 规范的边缘AI 开发套件。
BOOTPRINT X2 边缘AI 开发套件主要具备以下功能:
可支持图像识别、检测、分割等视觉处理功能以及离线自定义词条等语音识别功能;
接口丰富且支持介入公有云;
可满足生态合作伙伴在智能物联网、智能驾驶等领域的技术和原型开发、验证评估等工作。
开放赋能,提供AIoT 芯片解决方案、增强语音抽取方案、边缘AI智能摄像机方案等
作为从边缘计算中脱胎的边缘AI芯片,截止目前,地平线“旭日系列”边缘 AI 芯片已为商米、多度、小米、SK 电讯、永辉等上百家 AIoT 合作伙伴提供全面的赋能服务,覆盖智慧城市、智慧商业、智慧社区、智慧教育、智能家居等多种应用场景。在合作过程中,推出了不少技术产品和方案。
例如,基于地平线针对零售场景的AIoT 芯片解决方案,商米推出了AI 识客摄像机,该款摄像机可在本地端主动识别进店顾客并进行丰富的属性鉴别,解决商家“看店难”问题,助力零售商的精准营销。
商米AI识客摄像机
同时,地平线还为小米一系列智能设备(主要为四款语音交互产品),提供自主研发的增强语音抽取(Enhanced Speech Extraction,简称ESE)方案,助力小米音响“听的准”,使其在复杂的噪声环境中亦可实现随时打断、随时唤醒,为用户带来更为精准、流畅的交互体验。
另外,SK 电讯作为解决方案提供商,也整合地平线的边缘AI 智能摄像机方案与其自有云平台,为零售行业提供端云完整解决方案,加速产业升级。
地平线将通过Wintel模式,成为平台型赋能者
在技术护航下,地平线认为,其AIoT 优势将会助力地平线成为更具效能优势、更强方案能力、更加开放灵活的边缘AI芯片企业,在未来市场中占据一定份额。
极致的效能优势:地平线率先提出将世界领先的深度学习算法集成在自主研发的边缘AI处理器及平台上,通过为客户提供软硬一体化方案,发挥极致效能优势;
完整的方案能力:地平线拥有丰富的算法样例模型,能够为客户提供以芯片+算法+工具链为核心的完整方案,满足多样化场景需求;
与同类型产品相比,更加灵活高效的落地能力:
软硬协同,高MAC 利用率,实际任务处理表现更好;
支持新模型优化,如MobileNet、Faster RCNN。在运行MobileNet V2、Yolo V3等业界领先的高效模型方面,旭日二代能够达到甚至超过业内标称4TOPS算力的AI芯片,而其功耗仅为2W;
- 相较于市场主流旗舰 AI 芯片,地平线支持更主流的训练框架,包括Tensorflow、PyTorch、MXNet、ONNX、Caffe。
成本优势:可在以下方面帮助客户降低成本:设备投入——无需购置大型服务器或占用较大宽带网络; 设备运维—日常维护,更新迭代方便;
在此基础之上,地平线表示未来将通过Wintel模式,成为平台型赋能者。“地平线的终局目标是成为边缘人工智能平台的领导者,通过Wintel模式,即操作系统与处理器架构整合,成为平台型赋能者,为边缘人工智能提供底层赋能。”
推荐阅读: