秋葉|ChatGLM-6B+ChatGLM-WebUI轻量,低显存 – 整理

ChatGLM-6B 清华开源模型,由于ChatGLM-6B的规模较小,目前已知其具有相当多的局限性,如事实性/数学逻辑错误,可能生成有害/有偏见内容,较弱的上下文能力,自我认知混乱,以及对英文指示生成与中文指示完全矛盾的内容。请大家在使用前了解这些问题,以免产生误解。本地版ChatGPT,6G显存可用!

ChatGLM-WebUI 已支持流式生成(类似chatgpt那种一点一点出来)使用强制更新脚本,并且需要下载这个链接的文件解压替换一下才可以用。

image

链接: https://pan.baidu.com/s/1ApN3EcHA2Q9nojTblPPnNA?pwd=jf2h 提取码: jf2h (如失效可以联系我)

1. Symbol cudaLaunchKernel not found …cudart64_65.dll 检查更新显卡驱动
2. RuntimeError… cublasLt not initialized 这个只能试试安个cuda

当CUDA运行时(cudart)库未正确加载或初始化时,就会出现"Library cudart is not initialized"错误。这种错误通常出现在使用NVIDIA GPU的程序中。 要解决此问题,可以尝试以下步骤: 1. 确保您的NVIDIA驱动程序已安装并且是最新的。 2. 检查您所安装的CUDA版本是否正确。 3. 验证CUDA环境变量是否正确设置。 4. 确保CUDA运行时库已正确包含并链接到您的程序中。

快速下载模型

https://cloud.tsinghua.edu.cn/d/fb9f16d6dc8f482596c2/

下载的模型和环境,这样放

kinggoo.com chat gpt glm

- THE END -
版权声明:
转载原创文章请注明,文章出处://kinggoo.com
原文地址:https://kinggoo.com/openai-chatglm-6b.htm
发表评论?

1 条评论。

  1. --listen

    开启公共访问

发表评论


此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据