A300T-9000、A800-9000、A800-9010、A900-9000
A300T-9000(Atlas 300T 训练卡(型号 9000))、A800-9000(Atlas 800 训练服务器(型号 9000))、A800-9010(Atlas 800 训练服务器(型号 9010))以及A900-9000(Atlas 900 AI集群(型号 9000))开发或运行环境安装参考如下:
- 开发环境
开发环境安装软件如图3-15所示。
软件包说明:
- npu-firmware:固件安装包。
- npu-driver:驱动安装包。
- toolkit:开发套件包。主要用于用户开发应用、自定义算子和模型转换。开发套件包包含开发应用程序所需的AscendCL库文件、开发辅助工具(如ATC模型转换工具)等。
- tfplugin:插件包,对接上层框架Tensorflow的适配插件。在线推理或训练场景下若使用深度学习框架TensorFlow,需要安装该软件包。
- AI框架:深度学习框架。如MindSpore、TensorFlow、PyTorch等。
- 运行环境
运行环境安装软件如图3-16所示。
如需进行容器部署,请先参考本手册安装驱动、固件以及toolbox软件包,然后直接从AscendHub上拉取镜像(推荐)或参考《MindX ToolBox用户指南》自行构建容器镜像。
软件包说明:
- npu-firmware:固件安装包。
- npu-driver:驱动安装包。
- nnae:深度学习引擎包。支持离线推理、在线推理、训练。
- toolbox:实用工具包。主要包含容器引擎插件Ascend-docker-runtime、Ascend-DMI工具等。
- tfplugin:插件包,对接上层框架Tensorflow的适配插件。在线推理或训练场景下若使用深度学习框架TensorFlow,需要安装该软件包。
- AI框架:深度学习框架。如MindSpore、TensorFlow、PyTorch等。
- 离线推理:是基于原有AI框架模型转换OM模型,不依赖于AI框架执行推理的场景。
- 在线推理:是将原有AI框架做推理的应用快速迁移至昇腾AI处理器上,依赖于AI框架执行推理的场景。