Huggingface

如何在本机使用CPU来跑大语言模型

前段时间用`google`的`colab`跑`so-vits-svc`开源声音训练模型库，因为我本机是`Mac`的`cpu`版本，无法支持`NAVID GPU`的加速并行训练，但是每天都有时间限制，而且`Google`的`T4`机器每天也有时间限制，下次在`Jupyter Notebook`再运行的时候，又要重新跑，按照搜索的扩展信息，加钱升级付费云服务器可以有效完成训练，也可以用某种方式增量训练，我还没具体研究，但是截止到目前，我已经感觉如果本机不是`NAVID`的`GPU`版本支持，这做大语言模型相关训练，劣势非常明显，我现在的本机`Mac`使用真的是极其不便了