一键安装langchain-ChatGLM

框架已经更新，autodl策略也变了，请看最新文章：一键安装Langchain-chatchat

最近开源大模型层出不穷，非常火爆。好多小伙伴跃跃欲试，但是，大模型本地搭建，就算是只做推理也需要性能强悍的机器，更不要说微调和全参数训练，没有几十万的显卡投入是搞不定的。chatGLM推理可以在cpu上运行，但是不建议，速度很慢。6b模型建议12G显卡，最好16G以上（int4好像只要6G）。市面上，16G显存的显卡大概1w左右。24G大概1w5左右。如果不是专门做模型的人，不建议去购买，不过买来玩3A大作是挺好的，哈哈。算法小白建议租显卡，简单体验一下就行。市面上好多算力平台，大家可能对比一下价格，根据自身需要选择，我这里用的是autoDL。

一、注册

先去AutoDL-品质GPU租用平台-租GPU就上AutoDL 官网注册账号，然后实名认证，不然你无法用浏览器访问你的服务网址。

autodl相对比较便宜，按流量计费。28G显卡大概1.18元/小时，如果认证学生好像有免费时间，听说好多学生党用它做毕设。

二、选服务器

和其他云服务页面比较像，听说显卡需要抢（不建议社畜去抢，影响人家穷学生毕业就不好了），选择需要的型号，如果（）是0，就是没有了。

这里有个非常方便的功能，可以选择一些社区镜像，直接用，