CANN/HCCL集合通信库快速入门指南

快速入门【免费下载链接】hccl集合通信库Huawei Collective Communication Library简称HCCL是基于昇腾AI处理器的高性能集合通信库为计算集群提供高性能、高可靠的通信方案项目地址: https://gitcode.com/cann/hccl本节以AllReduce算子为例介绍其在单算子执行模式下的使用方式帮助用户快速体验集合通信功能。AllReduce算子介绍AllReduce操作是将通信域内所有节点的输入数据进行归约操作后支持sum、prod、max、min再把结果发送到所有节点的输出buffer。注意每个rank只能有一个输入。样例介绍用户可以点击样例链接获取完整样例代码该样例基于root节点信息创建通信域在一个进程中管理一个AI Server其中每个NPU设备由一个线程进行管理主要包含以下功能点设备检测通过aclrtGetDeviceCount( )接口查询可用设备数量。将rank0作为root节点通过HcclGetRootInfo( )接口生成root节点的rootInfo标识信息。基于rootInfo在每个线程中通过HcclCommInitRootInfo( )接口初始化通信域。调用HcclAllReduce( ) 接口将通信域内所有rank的输入数据进行相加后再把结果发送到所有节点并打印结果。编译运行在本样例代码目录下执行如下命令make make test结果解析每个rank的数据初始化为0~7经过AllReduce操作后每个rank的结果是所有rank对应位置数据的和8个rank的数据相加。Found 8 NPU device(s) available rankId: 0, output: [ 0 8 16 24 32 40 48 56 ] rankId: 1, output: [ 0 8 16 24 32 40 48 56 ] rankId: 2, output: [ 0 8 16 24 32 40 48 56 ] rankId: 3, output: [ 0 8 16 24 32 40 48 56 ] rankId: 4, output: [ 0 8 16 24 32 40 48 56 ] rankId: 5, output: [ 0 8 16 24 32 40 48 56 ] rankId: 6, output: [ 0 8 16 24 32 40 48 56 ] rankId: 7, output: [ 0 8 16 24 32 40 48 56 ]关键代码解析将rank0作为root节点生成rootInfo标识信息主要包含Device IP、Device ID等信息。此信息需广播至集群内所有rank用来初始化通信域。int rootRank 0; ACLCHECK(aclrtSetDevice(rootRank)); // 生成root节点信息各线程使用同一份rootInfo void *rootInfoBuf nullptr; ACLCHECK(aclrtMallocHost(rootInfoBuf, sizeof(HcclRootInfo))); HcclRootInfo *rootInfo (HcclRootInfo *)rootInfoBuf; HCCLCHECK(HcclGetRootInfo(rootInfo));申请内存构造输入数据。// 设置当前线程操作的设备 ACLCHECK(aclrtSetDevice(ctx-device)); // 申请集合通信操作的Device内存 size_t count ctx-devCount; size_t mallocSize count * sizeof(float); ACLCHECK(aclrtMalloc(sendBuf, mallocSize, ACL_MEM_MALLOC_HUGE_ONLY)); ACLCHECK(aclrtMalloc(recvBuf, mallocSize, ACL_MEM_MALLOC_HUGE_ONLY)); // 申请 Host 内存用于存放输入数据并将内容初始化为0~7 void *hostBuf nullptr; ACLCHECK(aclrtMallocHost(hostBuf, mallocSize)); float *tmpHostBuff static_castfloat *(hostBuf); for (uint32_t i 0; i count; i) { tmpHostBuff[i] static_castfloat(i); } // 将Host侧输入数据拷贝到Device侧 ACLCHECK(aclrtMemcpy(sendBuf, mallocSize, hostBuf, mallocSize, ACL_MEMCPY_HOST_TO_DEVICE));初始化通信域。HcclComm hcclComm; HCCLCHECK(HcclCommInitRootInfo(ctx-devCount, ctx-rootInfo, ctx-device, hcclComm));执行AllReduce集合通信算子。// 创建任务流 aclrtStream stream; ACLCHECK(aclrtCreateStream(stream)); // 执行 AllReduce将通信域内所有节点的 sendBuf 进行相加后再把结果发送到所有节点的 recvBuf HCCLCHECK(HcclAllReduce(sendBuf, recvBuf, count, HCCL_DATA_TYPE_FP32, HCCL_REDUCE_SUM, hcclComm, stream)); // 阻塞等待任务流中的集合通信任务执行完成 ACLCHECK(aclrtSynchronizeStream(stream));释放资源。ACLCHECK(aclrtFree(sendBuf)); // 释放 Device 侧内存 ACLCHECK(aclrtFree(recvBuf)); // 释放 Device 侧内存 ACLCHECK(aclrtFreeHost(hostBuf)); // 释放 Host 侧内存 ACLCHECK(aclrtDestroyStream(stream)); // 销毁任务流 HCCLCHECK(HcclCommDestroy(hcclComm)); // 销毁通信域 ACLCHECK(aclFinalize()); // 设备去初始化【免费下载链接】hccl集合通信库Huawei Collective Communication Library简称HCCL是基于昇腾AI处理器的高性能集合通信库为计算集群提供高性能、高可靠的通信方案项目地址: https://gitcode.com/cann/hccl创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考