所有具备视觉功能的嵌入式系统现在都在认真看待机器学习技术，以做为产品差异化与大幅提升系统智慧的手段。
从自动驾驶车辆、无人机、保全摄影机、医疗成像诊断工具，到工厂控制系统、检测用机器人…所有这些具备视觉功能的嵌入式系统，现在都在认真看待机器学习技术，以做为产品差异化与大幅提升系统智能的手段。
然而将电脑视觉与机器学习结合，对众多系统设计者来说主要仍是理论性目标；人工智能对许多工程师来说仍是个未能掌握的目标，设计机器学习推理引擎，需要非常专业的硬件知识。而且，并没有为深度神经网路量身打造的一体适用推理引擎，能让系统设计人员广泛运用于各种不同的嵌入式系统。
为此可程式化逻辑元件供应商赛灵思(Xilinx)在3月中旬于德国纽伦堡举行的年度Embedded World嵌入式技术大会期间正式发表名为reVision的堆叠(stack)技术；该公司企业策略部门资深副总裁Steve Glaser表示，该堆叠能让缺乏硬件设计专长的软件与系统工程师，更轻松而快速地开发智能视觉导向系统。
Glaser表示，赛灵思从已经着手开发机器学习技术的客户了解到，8位元以下的定点精度(fixed point precisio)，是能大幅提升机器学习推理系统效率的关键：“为了达到最佳反应时间，我们需要确保客户能透过推理与控制，建立从传感器的高效率数据流；”其客户们面临之其他任务，还包括支持最新神经网路、演算法与传感器的可重配置性(reconfigurability)，还有对新旧机器、网络与云端的各种连结。
越来越多的视觉导向自动化系统 (图片来源：赛灵思)
技术顾问机构Moor Insights & Strategy的高性能运算(HPC)继深度学习资深分析师Karl Freund接受EE Times访问时表示：“人工智能仍在起步阶段，而唯一不变的是会持续快速变化；”在这种情况下，赛灵思试图为设计工程师减轻写程式的负担，在高度竞争的产业界以最快速度进行最佳解决方案的实验与布署，以加速推出应用。
赛灵思的机器学习推理系统设计方法，与CPU/GPU供应商如英特尔(Intel)、Nvidia的方案大相迳庭；市场研究机构The Linley Group资深分析师Loring Wirbel解释，CPU/GPU供应商采用的传统途径，是从一个大型架构──例如Nvidia的Tesla P100以及英特尔的Knights Landing──着手，支持基于训练之学习；然后采用单精度或半精度架构──如Nvidia P40或英特尔Knights Mill──修改系统，支持援无人监督的学习。
Wirbel指出，总而言之，商用半导体元件供应商期望学术界能够决定他们能应用于推力学习的最精确架构，但这仍是一个变动中的目标；而他认为，赛灵思提供的软件堆叠有趣之处，在于它是建立于支持以云端为基础之无人监督推理的原始堆叠──Reconfigurable Acceleration Stack──之上，然后将推理能力扩展到网络边缘与嵌入式应用。
“有人可能会说他们采取的是比产业其他方案落后的方法，但我的观察是，机器学习产品开发商在训练与推理子系统上正朝着多头方向发展；”因此Wirbel认为在现阶段：“没有哪个方法是正确的或是错误的。”
Moor Insights & Strategy的Freund观察，reVision为众多视觉导向应用提供了可扩展与弹性的平台，特别是功率非常高，以及新需求可能需要可重配置性的应用。reVision堆叠的主要功能是平台、演算法与应用开发资源，并支持大多数热门的神经网络，例如AlexNet、GoogLeNet、SqueezeNet等等；此外还提供程式库元素，例如预定义的卷积神经网络(CNN)网路层实作。
在应用程式框架方面，赛灵思的reVision堆叠支持机器学习框架Caffe的演算法，以及OpenCV电脑视觉处理功能。The Linley Group 的Wirbel指出：“如果产业界没有先存在如Caffe应用程式环境以及演算法开发工具，reVision也不会诞生；”他指出，reVision将于今年第三季添加OpenVX，会是一件大事。
reVision堆叠支持的平台、应用程式与演算法开发资源 (图片来源：赛灵思)
而在硬件平台方面
赛灵思(Xilinx)企业策略部门资深副总裁Steve Glaser指出，该公司的视觉应用客户主要都是采用Zynq系统单芯片(SoC)或是MPSoC来开发机器学习技术；目前赛灵思的Zynq SoC已经进驻各家车厂超过80款的先进驾驶辅助系统(ADAS)。
Zynq SoC包含四颗ARM Cortex-A53处理器核心、Mali绘图处理器(GPU)、H.265硬件加速器，以及可程式化逻辑与IO。Glaser表示，该SoC的规格是由ADAS客户所驱动：“我们与最大的厂商们花了至少七到八年的时间来设计这个；”而他强调，Zynq实际上并非FPGA：“在我们第一次投片时，该芯片有超过七成是被硬件SoC占据。”
赛灵思实际上做了什么，以传统上已知不容易编程的可程式化SoC来帮助专家使用者们？该公司表示，他们已经开发了一种“系统最佳化编译器”在抽象过程中提供帮助，来减轻设计工程师们的痛苦。
“赛灵思开发垂直规范(vertical specification)开发环境已经有四年的时间，”市场研究机构The Linley Group资深分析师Loring Wirbel表示，那些开发环境包括SDAccel (应用于加速的软件定义规范环境)、SDNet (连网应用的软件定义规范)、SDSoC (SoC应用软件定义规范)：“所有都是以OpenCL做为抽象加速演算法的语言。”
Wirbel表示，就是像SD系列工具套件以及reVision等工具，让可程式化架构对使用者来说更容易考量；而这当然也迟早让使用者们明白：“他们将得去学习抽象语言的一些基础原理。”
举例来说，开发工程师先在SDSoC环境采用OpenCL或C/C++建立初始原型，进行模拟以识别问题或瓶颈所在，然后应用包括经训练之系统权衡的最佳化编译器；Wirbel表示：“reVision大量使用了SDAccel/SDSoC规范方法，虽然软件内部有一点模糊。”
赛灵思推出reVision堆叠的目标有二：一是提供支持特定新兴神经网路技术，如GoogLeNet、 SqueezeNet、SSC与FCN的特定演算法；二是为预定义的神经网路子架构提供程式库元件。
Wirbel坦承，这几年来高阶资料层(data plane)编程语言如OpenCL与P4很难被接受一直是个问题；不过他也表示：“看来透过提供像是reVision的预定义堆叠，赛灵思能赢得大型车厂、工厂、军事/航太合约制造商等客户，因为这些厂商意识到他们若要保持竞争力，就得添加硬件技术能力。”
而Wirbel认为，高层软件抽象就像是神经网路本身；多年来，对神经网路终将无所不在的预测都已经灰飞烟灭，但后来像是Google系统的出现改变了局势，突然所有人都有了大幅度的跃进；他的观点是：“以那样的意义来说，赛灵思在正确的时间点切入市场。”
他并指出：“而且，人人都假设以可程式化FPGA/SoC做为加速器的方案，会被应用于下一代训练与推理系统的某个地方，而这也是促使英特尔(Intel)收购Altera的因素之一。”
市场竞争局势
有鉴于人工智能(AI)社群对更高性能、更快反应时间，以及更省电的深度神经网路推理引擎之迫切需求，市场上除了赛灵思之外还有其他哪些SoC、CPU或GPU竞争对手？
技术顾问机构Moor Insights & Strategy分析师Karl Freund表示：“对某些需要充足供应量的应用来说，设计工程师可能会选择开发ASIC，这能提供更最佳化的元件；不过从大多数案例看来，目前将芯片“硬化”还太早。”
对机器学习训练领域的使用者来说，Wirbel则指出了Nvidia的Parker、英特尔的Knights Mill加上Altera核心(还有Nervana在其中扮演某种角色)、Knupath、Wave Computing、AMD的FirePro等都是台面上的“竞争者”。
在推理引擎领域部分就更“拥挤”了；Wirbel表示：“高通(Qualcomm)、苹果(Apple)、CEVA、益华电脑(Cadence)、新思(Synopsys)以及采用现有赛灵思与Altera之FPGA设计的方案，都可以算是竞争者。”
Wirbel指出，赛灵思目前的优势在于，受微软(Microsoft)采用了Altera以及百度(Baidu)采用了赛灵思的方案之影响，厂商在机器学习应用上信任FPGA/可程式化SoC；不过他接着补充：“这并不代表FPGA将自动在推理或是训练市场领域赢得大多数占有率。”
神经网络的演进 (图片来源：赛灵思)
如上面赛灵思提供的图片所显示，有越来越多的神经网路浮上台面。对此Wirbel表示：“我没听过其中大半数学术界与工业界的实验性神经网路；”他结论指出，这个市场在供应商明显分出胜负之前，将会有好一段时间呈现非常多元化与实验性质的局面：“我确信Nvidia与英特尔将会跑在最前面，而且确定赛灵思将会在两种机器学习领域都占有一席之地，但在那之外，都只能是猜测。”
赛灵思的Glaser重申，该公司推出reVision堆叠的重点，不只要满足忙着开发自动驾驶车辆的车厂客户需求，还有想要把电脑视觉与机器学习结合的工业领域客户。
于3月初率先来台向本地媒体介绍reVision堆叠的赛灵思亚太区ISM (工业、科学、医疗)产业资深行销技术经理罗霖也表示，结合视觉与人工智能的新一代生产线机器人、服务型机器人，是目前台湾厂商最感兴趣的应用，其次是支持避障、人脸辨识的无人机(空拍机)、AR/VR应用、自动驾驶车辆、安全监控系统，以及能协助医师判断疾病征兆的医疗成像设备。
编译：Judith Cheng
(参考原文： Xilinx AI Engine Steers New Course，by Junko Yoshida)
