使用模型优化器转换模型
2024-04-07 23:11:35
模型优化器是一个跨平台命令行工具，有助于在训练与部署环境之间进行迁移，执行静态模型分析，并调整深度学习模型，以在端点目标设备上优化执行。
如果使用模型优化器工具，则假定您已经有一个深度学习模型，该模型已使用其中一个支持框架（TensorFlow、PyTorch、PaddlePaddle、MXNet、Caffe、Kaldi）进行了训练，或以 ONNX* 格式表示。模型优化器生成模型的中间表示 (IR)，可使用 OpenVINO™ 运行时对其进行推理。
备注
模型优化器不对模型进行推理。模型优化器是一个离线工具，用于将模型转换为 IR 并在推理之前对其进行优化。
下面的方案展示了部署经过训练的深度学习模型的典型工作流程：
IR 是一对描述模型的文件：
- 描述网络拓扑结构
- 包含权重和偏移的二进制数据。
备注
生成的 IR 可通过采用训练后量化方法的训练后优化进行额外优化，以进行推理。
