评分并提供意见反馈 :
华为采用机器翻译与人工审校相结合的方式将此文档翻译成不同语言，希望能帮助您更容易理解此文档的内容。 请注意：即使是最好的机器翻译，其准确度也不及专业翻译人员的水平。 华为对于翻译的准确性不承担任何责任，并建议您参考英文文档（已提供链接）。
使用场景
在线推理是在AI框架内执行推理的场景，例如在Tensorflow框架上，加载模型后，通过session.run执行推理。
相比于离线推理场景，使用在线推理可以方便将原来基于Tensorflow框架做推理的应用快速迁移到昇腾AI处理器，适用于数据中心推理场景。
