华为ModelArts微调Qwen14B实录（1）

在modelart上面陆陆续续微调了很多次很久没有用了上周忽然想到代金券快到期了又上来搞了点实验结果发现好像界面啥的优化了不少稍微记录一下吧。不过真要开始训练里面也有些坑全流程我都截图了有想预习一下的小伙伴也可以看一下还是从ModelArts 的Notebook进去下面有显示可以回到旧版不习惯的可以回旧版点击创建时长可以自定义最多72小时后面可以随时改随时延长选择镜像就是这里和之前不太一样以前就是个列表看花眼现在就是分好类了而且如果专注于模型微调训练用官方这个MindSpeed LLM还是挺方便了不过后面有个小坑。有自己的镜像的就不说了用着方便就好。然后是资源配置除了前面的卡数有两种后缀1和3区别就是单卡32G和单卡64G当然价格不一样按需取用。用什么配置其实前面也有一个帖子讲了。磁盘规格按需填有一点点影响到价格后面可以随时扩容。下面是选了几个之后的价格的例子可以做参考这个是八卡*32G一小时150多一天3600多如果是8卡*64G一小时是250多一天的价格还是蛮贵的。预算紧缺的还是要安排好最好不要浪费资源。训同一个模型其实可以有多种方案可以选一个性价比高的。选完就创建然后就可以看到了一开始是创建中等几分钟创建好。扩容啥的很简单创建好了就可以进入环境了。这里就是自己选择notebook比如我习惯了terminal这个地址也稍微注意下比如后面模型下载地址、调用地址啥的/home/ma-user/work/看看资源这里是拿8*32G创建做了个演示如果要训14B不做量化也不用deepspeed其实是不够的还是要用单卡64G。