大模型工程研发中常见的错误问题及解决方法

• 本文参考: https://github.com/hiyouga/LLaMA-Factory/blob/main/README_zh.md
• 本文参考《单卡 3 小时训练专属大模型 Agent：基于 LLaMA Factory 实战》
• 本文参考《LLaMA-Factory 微调（sft）ChatGLM3-6B 保姆教程》

本文在本地 Windows 系统下测试通过。

学习大模型之前，我们需要了解的一些基础知识。

记录大模型的一些思考和笔记，包括数据集，模型，工具等。

自 ChatGPT 发布以来，人工智能市场被彻底引爆，企业及研发人员纷纷入场，寻求如何在所属行业利用大模型改变现状。说的直白一点，利用大模型这个契机，将自己在行业中的地位拔拔高。大模型正在重塑产业。

本博文整理当前及持续整理未来可用的本地运行大模型（LLM）的工具。本地运行大模型是有实际意义的，例如学习大模型、离线环境下的试用、数据安全及隐私方面的考虑。对于参数量小的模型，笔记本电脑就能够运行，推理阶段并没有很高的硬件门槛，有 GPU 的话更好，没有也能用。

本文整理了主流的大模型的微调工具，包括LLaMA-Factory、Firefly、xtuner等等

本文转载自：极智 AI
侵权必删，请联系gremlinsbook@163.com

本文转载自：极智 AI
侵权必删，请联系gremlinsbook@163.com

本文转载自：极智 AI
侵权必删，请联系gremlinsbook@163.com