A500 Pro-3000
A500 Pro-3000(Atlas 500 Pro 智能边缘服务器 (型号 3000))开发或运行环境安装参考如下:
- 开发环境
开发环境安装软件如图3-11所示。
软件包说明:
- npu-firmware:固件安装包。
- npu-driver:驱动安装包。
- toolkit:开发套件包。主要用于用户开发应用、自定义算子和模型转换。开发套件包包含开发应用程序所需的AscendCL库文件、开发辅助工具(如ATC模型转换工具)等。
- 运行环境
运行环境安装软件如图3-12所示。
如需进行容器部署,请先参考本手册安装驱动、固件以及toolbox软件包,然后直接从AscendHub上拉取镜像(推荐)或参考《MindX ToolBox用户指南》自行构建容器镜像。
软件包说明:
- npu-firmware:固件安装包。
- npu-driver:驱动安装包。
- nnrt:离线推理引擎包,用于应用程序的模型推理。仅支持离线推理。
- toolbox:实用工具包。主要包含容器引擎插件Ascend-docker-runtime、Ascend-DMI工具等。
- 离线推理:是基于原有AI框架模型转换OM模型,不依赖于AI框架执行推理的场景。
- 在线推理:是将原有AI框架做推理的应用快速迁移至昇腾AI处理器上,依赖于AI框架执行推理的场景。