手册阅读概览
手册名称 |
说明 |
链接 |
|---|---|---|
ATC工具使用指导 |
将开源框架的网络模型，例如Caffe、TensorFlow等框架训练好的模型，通过离线模型生成器OMG（Offline Model Generator）将其转换成昇腾AI处理器支持的离线模型。模型转换过程中可以实现算子调度的优化、权值数据重排、量化压缩、内存使用优化等，可以脱离设备完成模型的预处理。 |
|
昇腾模型压缩工具使用指导（Caffe） |
介绍如何对原始Caffe框架的原始网络模型进行量化，量化是指对模型的参数（权重）和数据进行低比特处理，让最终生成的网络模型更加轻量化，从而达到节省网络模型存储空间、降低传输时延、提高计算效率性能提升与优化的目标。 |
|
昇腾模型压缩工具使用指导（TensorFlow） |
介绍如何对原始TensorFlow框架的网络模型进行量化，量化是指对模型的参数和数据进行低比特处理，让最终生成的网络模型更加轻量化，从而达到节省网络模型存储空间、降低传输时延、提高计算效率，达到性能提升与优化的目标。 |
|
精度比对工具使用指导 |
ATC在模型转换过程中对模型进行了优化，包括算子消除、算子融合、算子拆分，可能会造成自有实现的算子运算结果与用业界标准算子（如Caffe、TensorFlow）运算结果存在偏差，此时需要提供工具比对两者之间的差距，帮助开发人员快速解决算子精度问题。 精度比对工具提供比对华为自有模型算子的运算结果与Caffe、TensorFlow标准算子的运算结果，以便确认误差发生的算子， |
|
Auto Tune工具使用指导 |
推理场景下使用ATC工具生成网络模型时，那么算子搜索工具能够在网络模型进行编译的时候就会直接对算子自动调优。 |
|
Profiling工具使用指导 |
介绍Profiling性能分析工具的使用方法，工具用于分析运行在昇腾AI处理器上的APP工程各个运行阶段的关键性能瓶颈并提出针对性能优化的建议，最终实现产品的极致性能。 |
|
AICore Error分析工具使用指导 |
在执行推理发现AICore error问题时，使用AICore Error Analyzer工具可以自动快速准确地收集定位AICore Error问题所需的关键信息，提升开发者对AICore Error的排查效率。 |
|
黑匣子工具使用指导 |
为了增强昇腾AI处理器系统功能的可维护性，需要一套黑匣子机制，保证系统在发生异常时能保存必要的软硬件参数信息，方便系统故障的诊断分析，快速实现问题定位。 |
|
ADC使用指导 |
本文档介绍如何使用ADC（Ascend Debug Client）命令实现向Host/Device传输文件、设置日志级别、检测与Host之间的心跳等功能。 |
