在人工智能领域,只有同时提供硬件和软件生态,才能在激烈的竞争中杀出一席之地。为了充分挖掘处理器的性能,各个厂家都发布了各种软件框架和工具。
OpenVINO 是英特尔推出的一款全面的工具套件,用于快速部署应用和解决方案。
通常人工智能应用开发中,当模型训练结束,上线部署时会遇到各种问题:模型性能是否满足线上要求?模型如何嵌入到原有工程系统?这些问题在很大程度上决定着投资回报率。
只有深入且准确地理解深度学习框架,才能更好地满足上线要求。但遗憾的是,新的算法模型和所用框架层出不穷,要求开发者随时掌握未免强人所难。
OpenVINO 针对的就是这一痛点。作为 Pipeline 工具集,OpenVINO 可以兼容各种开源框架训练好的模型,拥有算法模型上线部署的各种能力。
这就意味着,只要掌握了这一工具,你可以轻松地将预训练模型在英特尔的 CPU 上快速部署起来。
在历时三年多的时间里,OpenVINO 在不断改进中。据了解,OpenVINO2022.1 的 2.0 版本将在第一季度发布。
这一版本有三大突破:
其一,针对给开发人员造成的问题进行重要升级,包括将更多默认值合并到模型转换,API 内保留原有架构内的模型输入布局和精度,从而减少代码更改。其二,从根源上改进了 OpenVINO 在计算机视觉方面的表现,使其现在可支持横跨从边缘到云端的广泛模型,尤其是自然语言处理和文本分类。其三,新增自动硬件目标优化功能,全新自动插件可以自动发现系统加速器并与推理模型要求进行匹配,这大大优化了延迟与吞吐量。
结语
在本届英特尔 On 技术创新峰会上,英特尔面向人工智能领域展现出了一种鲜明的态度:不是要将某几个硬件产品做强,而是要面向 AI 市场,提供从硬件到软件的全栈解决方案。
英特尔投资多个人工智能架构以满足不同的用户需求,使用开放的基于标准的编程模型,使开发人员更容易在更多的用例中运行更多的人工智能工作负载。
在人工智能这一赛道上,英特尔也为其他同业竞争者树立了标杆:在原有的硬件开发能力基础上,通过对英特尔至强可扩展处理器上的流行库和框架进行广泛优化,使开发人员更容易获得和扩展 AI。
英特尔致力于携手合作伙伴、拥抱开发者,共建 AI 创新生态,共创“AI Everywhere”的图景。无尽的远方,有触手可及的未来。