推理场景产品形态说明
以昇腾310芯片的PCle的工作模式进行区分,如果PCle工作在主模式,可以扩展外设,则称为RC模式;如果PCle工作在从模式,则称为EP模式。
- 支持RC模式的产品有:Atlas 200 AI加速模块、Atlas 200 DK 开发者套件(型号 3000)。
产品的CPU直接运行用户指定的AI业务软件,接入网络摄像头、I2C传感器、SPI显示器等其他外挂设备作为从设备接入产品。
- 支持EP模式的产品有:Atlas 200 AI加速模块、Atlas 300I 推理卡、Atlas 500 智能边缘小站、Atlas 500 Pro 智能边缘服务器、Atlas 800 推理服务器。
EP模式通常由Host侧作为主端,Device侧作为从端。客户的AI业务程序运行在Host系统中,产品作为Device系统以PCIe从设备接入Host系统,Host系统通过PCIe通道与Device系统交互,将AI任务加载到Device侧的Ascend 310芯片中运行。
两种模式的产品及架构如图1-1所示。
- Host:是指与昇腾AI处理器所在硬件设备相连接的X86服务器、ARM服务器,利用昇腾AI处理器提供的NN(Neural-Network)计算能力完成业务。
- Device:是指安装了昇腾AI处理器的硬件设备,利用PCIe接口与服务器连接,为服务器提供NN计算能力。