CANN数据类型转换API
📅 2026/7/15 9:14:27
👁️ 阅读次数
📝 编程学习
asc_float2e4m3 (废弃)
【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit
产品支持情况
| 产品 | 是否支持 |
|---|---|
| Ascend 950PR/Ascend 950DT | √ |
功能说明
头文件路径:"c_api/reg_compute/reg_convert.h"。
将float类型转化为fp8_e4m3fn_t类型,支持RINT舍入模式,饱和/非饱和模式。
关于舍入模式和饱和/非饱和模式的详细说明,请参见舍入模式。
由于源操作数与目的操作数类型位宽比为4:1,写入数据时需要将一个VL大小的数据分为四部分,根据不同接口选取索引0、索引1、索引2或者索引3。
函数原型
// RINT舍入模式,非饱和模式,数据写入索引为0的位置 __simd_callee__ inline void asc_float2e4m3_rn(vector_fp8_e4m3fn_t& dst, vector_float src, vector_bool mask) // RINT舍入模式,饱和模式,数据写入索引为0的位置 __simd_callee__ inline void asc_float2e4m3_rn_sat(vector_fp8_e4m3fn_t& dst, vector_float src, vector_bool mask) // RINT舍入模式,非饱和模式,数据写入索引为1的位置 __simd_callee__ inline void asc_float2e4m3_rn_v2(vector_fp8_e4m3fn_t& dst, vector_float src, vector_bool mask) // RINT舍入模式,饱和模式,数据写入索引为1的位置 __simd_callee__ inline void asc_float2e4m3_rn_sat_v2(vector_fp8_e4m3fn_t& dst, vector_float src, vector_bool mask) // RINT舍入模式,非饱和模式,数据写入索引为2的位置 __simd_callee__ inline void asc_float2e4m3_rn_v3(vector_fp8_e4m3fn_t& dst, vector_float src, vector_bool mask) // RINT舍入模式,饱和模式,数据写入索引为2的位置 __simd_callee__ inline void asc_float2e4m3_rn_sat_v3(vector_fp8_e4m3fn_t& dst, vector_float src, vector_bool mask) // RINT舍入模式,非饱和模式,数据写入索引为3的位置 __simd_callee__ inline void asc_float2e4m3_rn_v4(vector_fp8_e4m3fn_t& dst, vector_float src, vector_bool mask) // RINT舍入模式,饱和模式,数据写入索引为3的位置 __simd_callee__ inline void asc_float2e4m3_rn_sat_v4(vector_fp8_e4m3fn_t& dst, vector_float src, vector_bool mask)参数说明
| 参数名 | 输入/输出 | 描述 |
|---|---|---|
| dst | 输出 | 目的操作数(矢量数据寄存器)。 |
| src | 输入 | 源操作数(矢量数据寄存器)。 |
| mask | 输入 | 源操作数掩码(掩码寄存器),用于指示在计算过程中哪些元素参与计算。对应位置为1时参与计算,为0时不参与计算。mask未筛选的元素在输出中置零。 |
矢量数据寄存器和掩码寄存器的详细说明请参见data_type_definition.md。
返回值说明
无
流水类型
PIPE_V
约束说明
- 开启饱和模式和非饱和模式时,需配置ctrl寄存器,ctrl寄存器的详细说明请参见asc_set_ctrl.md。
调用示例
vector_float src; vector_fp8_e4m3fn_t dst; vector_bool mask; asc_float2e4m3_rn(dst, src, mask);【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
编程学习
技术分享
实战经验