CANN/GE注册回调函数

📅 2026/7/14 12:51:18 👁️ 阅读次数 📝 编程学习
CANN/GE注册回调函数

RegisterCallBackFunc

【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge

产品支持情况

产品

是否支持

Atlas A3 训练系列产品 / Atlas A3 推理系列产品

Atlas A2 训练系列产品 / Atlas A2 推理系列产品

头文件/库文件

  • 头文件:#include <ge/ge_api_v2.h>
  • 库文件:libge_runner_v2.so

功能说明

注册回调函数。

注册用户指定的Summary、Checkpoint回调接口。当用户下发给GE的图中带有Summary、Checkpoint算子时,GE会调用该回调函数。

函数原型

Status RegisterCallBackFunc(const char *key, const RunCallBack &callback)

参数说明

参数名

输入/输出

说明

key

输入

注册回调函数对应的关键字,字符串或者字符格式,表示回调函数类型,支持"Summary"、"Save"。

callback

输入

回调函数返回的对应信息。

typedef uint32_t session::(*RunCallBack)(uint32_t graph_id, const std::map<AscendString, gert::Tensor> &params_list);

返回值说明

参数名

类型

说明

-

Status

GE_SESSION_MANAGER_NOT_INIT:Session管理未初始化。

SUCCESS:注册回调函数成功。

FAILED:注册回调函数失败。

约束说明

  • 回调函数类型仅支持Summary、Save。
  • 如无注册则下发Summary、Checkpoint算子会报错。
  • 目前暂时只支持图执行完后一次性调用回调函数。

【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考