eIQ Toolkit上手指南

今天小编想给大家介绍一个新朋友，叫做eIQ Toolkit，暂且叫他eIQ工具箱。这是一个机器学习软件开发环境，支持在NXP平台的微控制器、微处理器和SOC上集成ML算法。可以说，这是一款辅助我们进行机器学习解决方案开发的利器，无论你是这方面的专家，或者你对机器学习一无所知，都可以得心应手，玩儿的开心。当然，如果有些机器学习开发经验的话，尤其是在有监督分类的应用方面，会对整个工作流程的理解有更好的帮助。当然，既然叫做工具箱，那么其中的工具就不能只有一个，不然好像都有点对不起ToolKit这个名字，我们的工具箱包含了三个重要的组件，分别是：

• eIQ Portal
• eIQ Model Tool
• eIQ Command-line Tools

下面我们来一一详细介绍一下。首先是eIQ Portal，用于帮助我们开发图像分类或是目标检测任务，你不必是机器学习方面的专家，就可以在这里进行机器学习应用的开发。俗话说，始于颜值而后陷于才华。用这句话来形容我们的eIQ Portal，我感觉再合适不过了。我们先来说说颜值，借助于非常友好的图形界面，我们可以非常方便的创建一个特定的实际问题。之后我们还会带着大家一步步的从创建工程到最终导出我们的模型，让大家体验下我们eIQ Portal的颜值是多么的惊艳：说完颜值，我们再来说说才华，eIQ Portal内部集成了多种预训练模型，用户可以自行选择适合自己任务的，万一拿不定主意呢？多选几个试试性能呗！是不是非常的随心。而且，为了更加方便大家挑选模型。工具本身还提供了一种更加方便的模型选择方法，根绝任务的不同，有三种模型类型：性能，平衡，精度，供大家选择。通俗点讲，性能模型就是跑的最快的，但是精度可能差一点；精度模型具有很高的模型精度，但是往往耗时比较严重；而平衡模型介于两者之间。后面小编也会给大家详细说明。有了模型，我们就可以根据任务训练我们的模型了。当然，光有训练还是不行的，我们还需要对模型进行评估，这样我们才能知道模型的实际运行效果。针对于模型评估部分，我们的eIQ Portal不仅能够提供模型的精度信息，还能够获取模型的运行时间，特别的，可以获取模型中每一个节点的耗时情况。除了这些，eIQ Portal工具还针对不同的平台，提供了有效的优化技术，提高模型的运行能力。最值得一提的是，eIQ Portal能够导出支持多种推理引擎的模型文件，包括本身默认的DeepViewRT、TensorFlow Lite、TensorFlow Lite Micro、Glow、Arm NN和 ONNX实时运行库。接下来，要给大家介绍的是eIQ ModelTool，可以简单理解其为一个高级模型查看器，之所以冠以其高级的字眼，我们不仅可以查看模型的具体结构，还能利用其进行一系列的模型分析工作，包括，模型甚至每一层的运行时间。可以认为，这就是一款升级版的Netron工具。最后，就是我们的eIQ Command-line Tools，提供了一系列的命令行工具，可以这么说，能用eIQ Portal做的事情，几乎都可以通过命令行来实现，这对于习惯命令行开发的用户来说，简直就是福利满满。同时，其中也包含了一个内建Python环境。这里要注意的是，想要使用eIQ命令行工具的话，建议通过点击eIQ Portal首页的COMMAND LINE按钮或是通过运行<eIQ_Toolkit_install_dir>/bin/eiqenv.bat脚本打开，因为他们会自动配置命令行环境。
开发流程

说完了我们的eIQ工具箱都包含什么，现在来到了我们大家最关心的话题，整体开发流程是怎样的呢？下面小编就带大家一起来看一下，话不多说，先上图：

根据用户提供的以及所期待的产出的不同，我们的eIQ工具箱支持两种模式的应用开发，分别是：

• Bring Your Own Data（BYOD）: 小编称他为我有数据集，就是说用户自己仅仅提供图片数据集，使用eIQ工具箱来开发自己的模型，然后将其部署到目标平台

• Bring Your Own Model（BYOM）：小编称他为我有模型，这次用户带着自己的预训练模型来找eIQ工具箱，并从中挑选合适的兵器进行模型的量化，部署或是性能分析。

通俗点讲，就是我们既可以只提供数据集然后借助eIQ工具箱完成从模型训练到模型部署，又可以提供已经训练好的模型，然后借助我们的eIQ工具箱对其进行转换/量化以及部署工作。最后，调用eIQ inference engines对所生成的模型进行推理，得到最终的预测值。

那么好，今天小编就给大家简单介绍了下恩智浦最新发布的eIQ工具箱，以及其工作流程，接下来，小编还会为大家带来如何使用我们的eIQ工具箱，实际训练一个模型并最终部署到板子上。