取整计算接口
ceil
功能说明
对raw_tensor中的每个元素向上取整。
您可以在ATC包的安装目录下的“python/site-packages/te/lang/cce/te_compute/cast_compute.py”查看接口定义。
约束说明
昇腾310 AI处理器:支持的数据类型有float16
函数原型
te.lang.cce.ceil(raw_tensor)
参数说明
raw_tensor:输入tensor,tvm.tensor类型。
返回值
res_tensor:结果tensor,tvm.tensor类型,数据类型为int32。
调用示例
shape = (1024,1024) input_dtype = "float16" data = tvm.placeholder(shape, name="data", dtype=input_dtype) res = te.lang.cce.ceil(data)
floor
功能说明
对raw_tensor中的每个元素向下取整。
您可以在ATC包的安装目录下的“python/site-packages/te/lang/cce/te_compute/cast_compute.py”查看接口定义。
约束说明
昇腾310 AI处理器:支持的数据类型有float16
函数原型
te.lang.cce.floor(raw_tensor)
参数说明
raw_tensor:输入tensor,tvm.tensor类型
返回值
res_tensor:结果tensor,tvm.tensor类型,数据类型为int32。
调用示例
shape = (1024,1024) input_dtype = "float16" data = tvm.placeholder(shape, name="data", dtype=input_dtype) res = te.lang.cce.floor(data)
round
功能说明
对raw_tensor中的每个元素四舍六入,遇0.5取偶数,例如`1.5->2.0,2.5->2.0`。
您可以在ATC包的安装目录下的“python/site-packages/te/lang/cce/te_compute/cast_compute.py”查看接口定义。
约束说明
昇腾310 AI处理器:支持的数据类型有float16
函数原型
te.lang.cce.round(raw_tensor)
参数说明
raw_tensor:输入tensor,tvm.tensor类型
返回值
res_tensor:结果tensor,tvm.tensor类型,数据类型为int32。
调用示例
shape = (1024,1024) input_dtype = "float16" data = tvm.placeholder(shape, name="data", dtype=input_dtype) res = te.lang.cce.round(data)
trunc
功能说明
将raw_tensor中每个元素向0取整(例如,-1.9向0取整的结果是-1,1.9向0取整的结果是1)。
您可以在ATC包的安装目录下的“python/site-packages/te/lang/cce/te_compute/cast_compute.py”查看接口定义。
约束说明
昇腾310 AI处理器:不支持该接口
函数原型
te.lang.cce.trunc(raw_tensor)
参数说明
raw_tensor:输入tensor,tvm.tensor类型。
返回值
res_tensor:结果tensor,tvm.tensor类型,数据类型为int32。
调用示例
shape = (1024,1024) input_dtype = "float16" data = tvm.placeholder(shape, name="data", dtype=input_dtype) res = te.lang.cce.trunc(data)