微软ONNX Runtime是目前最受欢迎的开源深度学习推理引擎之一，被广泛应用于计算机视觉、自然语言处理和语音识别等领域。最新拓展了实时OCR场景，实现了全面性能提升。该推理引擎在支持新式整数算子的同时，具有支持ARM平台的量化模型推理加速的特点。
此次更新是针对ONNX Runtime 1.9版本，包含了对常规BERT模型和超大BERT模型的优化，使推理速度有了大幅提升。除此之外，还增加了对ONNX模型的支持，相比之前模型容器格式更加通用。
经过测试，新的ONNX Runtime不仅提升了OCR推理速度，还使得OCR识别更加准确。另外，该引擎还为用户提供了更多可定制性和灵活性，支持跨平台和语言，非常适合工业界和学术界的AI研发者使用。
相信这款全新升级的ONNX Runtime必将成为AI技术领域中的一股强大力量，将为广大用户带来更加高效、智能的AI应用体验！
了解更多有趣的事情：https://blog.ds3783.com/