ollama+codegeex 在离线环境的安装与使用。
2024年12月30日大约 3 分钟
ollama+codegeex 在离线环境的安装与使用。
本文在本地 Windows 系统下测试通过。
自 ChatGPT 发布以来,人工智能市场被彻底引爆,企业及研发人员纷纷入场,寻求如何在所属行业利用大模型改变现状。说的直白一点,利用大模型这个契机,将自己在行业中的地位拔拔高。大模型正在重塑产业。
本博文整理当前及持续整理未来可用的本地运行大模型(LLM)的工具。本地运行大模型是有实际意义的,例如学习大模型、离线环境下的试用、数据安全及隐私方面的考虑。对于参数量小的模型,笔记本电脑就能够运行,推理阶段并没有很高的硬件门槛,有 GPU 的话更好,没有也能用。
本文转载自:极智 AI
侵权必删,请联系gremlinsbook@163.com
本文转载自:极智 AI
侵权必删,请联系gremlinsbook@163.com