华为采用机器翻译与人工审校相结合的方式将此文档翻译成不同语言，希望能帮助您更容易理解此文档的内容。 请注意：即使是最好的机器翻译，其准确度也不及专业翻译人员的水平。 华为对于翻译的准确性不承担任何责任，并建议您参考英文文档（已提供链接）。
纯推理场景
前提条件
- 安装开发环境，具体安装方法请参见《CANN 软件安装指南》。
- 准备经过ATC转换后的模型OM文件，转换方法请参见《CANN 开发辅助工具指南 (推理)》中的“ATC工具使用指导”章节。
运行方法
- 以root用户登录服务器。
- 从获取工具包章节中获取benchmark工具包，并进行解压。
- 进入解压后的文件夹，获取benchmark工具benchmark.{arch}。
{arch}为CPU架构，取值为aarch64或x86_64。
- 将benchmark工具、模型OM文件上传到服务器的任意路径下。
这些文件可以上传到同一路径，也可以上传到不同路径，以用户实际情况为准。
- 设置环境变量。
环境变量设置示例如下：
export install_path=/usr/local/Ascend/ascend-toolkit/latest export PATH=/usr/local/python3.7.5/bin:${install_path}/atc/ccec_compiler/bin:${install_path}/atc/bin:$PATH export PYTHONPATH=${install_path}/atc/python/site-packages:$PYTHONPATH export LD_LIBRARY_PATH=${install_path}/atc/lib64:${install_path}/acllib/lib64:$LD_LIBRARY_PATH export ASCEND_OPP_PATH=${install_path}/opp - 进入benchmark工具所在路径，执行如下命令增加对工具的可执行权限。
chmod +x benchmark.{arch}
- 执行如下命令运行benchmark工具。
./benchmark.{arch} 运行参数
benchmark工具支持的运行参数及其说明请参见表4-1。
若显示类似如下所示信息，表示运行成功，并自动创建result文件夹（如果已存在，则不再创建），并在result文件夹下生成推理性能输出文件（文件名以PureInfer_perf开头），用来记录模型执行的平均时间和平均吞吐率，同时屏幕上打印的信息中也包含模型执行的平均时间和平均吞吐率。运行结果参数说明请参见表4-2。
[INFO][Inference] PureInfer Init SUCCESS [INFO] Dataset number: 0 finished cost 12.273ms ... [INFO] Dataset number: 29 finished cost 11.947ms [INFO] PureInfer result saved in ./result/PureInfer_perf_of_yolov3_fp16_bs1_in_device_0.txt -----------------PureInfer Performance Summary------------------ [INFO] ave_throughputRate: 83.4736samples/s, ave_latency: 11.9798ms ---------------------------------------------------------------- [INFO][Inference] PureInfer unload model SUCCESS!
