JZTXT

int4

ChatGLM-6B int4的本地部署与初步测试

### 0. 前言 本次笔记是对于实习初期，初次接触到LLM大模型的一些记录。内容主要集中在对于环境的配置的模型的运行。 本人的硬软件配置如下： GPU: RTX3060 6GB显存 内存: 32GB 系统: Windows 11 ### 1. Anaconda3 + Pycharm 的环境搭建 我 ......
ChatGLM int4 int 6B
共1篇  :1/1页 首页上一页1下一页尾页