CANN Recipes
训练示例

QwenVL-2.5 RL训练

分布式训练与自动混合精度

代码示例

可直接嵌入文档或示例仓库

#include <cann/cann.h>

int main() {
  CannConfig config;
  config.precision = CANN_FP16;
  config.batch = 8;
  config.enable_fusion = true;
  cann::Pipeline pipeline(config);
  pipeline.load_model("model.om");
  auto result = pipeline.infer("input.bin");
  return result.status();
}
查看完整教程

环境与版本

运行条件清单

依赖版本:CANN 8.0 / Ascend 910B

运行命令:`bash run.sh --precision fp16`

输出指标:P95 延迟 / 吞吐

关键步骤

运行前请核对

1. 准备模型与输入数据

2. 启用算子融合与自动调参

3. 记录 Profiling 与日志