CANN/catlass: Gemm/Kernel类模板概述 Gemm/Kernel 类模板概述【免费下载链接】catlass本项目是CANN的算子模板库提供NPU上高性能矩阵乘及其相关融合类算子模板样例。项目地址: https://gitcode.com/cann/catlassAPI 清单组件名描述basic_matmulCommon模板基础矩阵乘basic_matmul_tla_visitorEVG 的 GM workspace kernel 入口basic_matmul_tla_ub_visitorEVG 的 UB workspace kernel 入口API 拆解命名空间为Catlass::Gemm::Kernel类模板包含如下核心成员类型名称功能structParamskernel通过调用核函数时的入参structArgumentsdevice封装后kernel后使用的入参静态函数bool CanImplementArguments校验接口静态函数size_t GetWorkspaceSize基于Arguments计算需要的workSpaceSize静态函数Params ToUnderlyingArguments将Arguments转换为核函数入参Params函数void operator()AscendC::AIC输入Params完成AIC上mmad计算函数void operator()AscendC::AIV输入Params完成AIV上计算如前处理、尾处理等【免费下载链接】catlass本项目是CANN的算子模板库提供NPU上高性能矩阵乘及其相关融合类算子模板样例。项目地址: https://gitcode.com/cann/catlass创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考