秋葉|ChatGLM-6B+ChatGLM-WebUI轻量，低显存 – 整理

作者: | 日期: 2023 年 03 月 21 日 | 围观: 22208次+ 发表评论 (1) 查看评论

ChatGLM-6B 清华开源模型，由于ChatGLM-6B的规模较小，目前已知其具有相当多的局限性，如事实性/数学逻辑错误，可能生成有害/有偏见内容，较弱的上下文能力，自我认知混乱，以及对英文指示生成与中文指示完全矛盾的内容。请大家在使用前了解这些问题，以免产生误解。本地版ChatGPT，6G显存可用！

ChatGLM-WebUI 已支持流式生成（类似chatgpt那种一点一点出来）使用强制更新脚本，并且需要下载这个链接的文件解压替换一下才可以用。

image

链接: https://pan.baidu.com/s/1ApN3EcHA2Q9nojTblPPnNA?pwd=jf2h 提取码: jf2h (如失效可以联系我)

1. Symbol cudaLaunchKernel not found …cudart64_65.dll 检查更新显卡驱动
2. RuntimeError… cublasLt not initialized 这个只能试试安个cuda

当CUDA运行时（cudart）库未正确加载或初始化时，就会出现"Library cudart is not initialized"错误。这种错误通常出现在使用NVIDIA GPU的程序中。 要解决此问题，可以尝试以下步骤： 1. 确保您的NVIDIA驱动程序已安装并且是最新的。 2. 检查您所安装的CUDA版本是否正确。 3. 验证CUDA环境变量是否正确设置。 4. 确保CUDA运行时库已正确包含并链接到您的程序中。

快速下载模型

https://cloud.tsinghua.edu.cn/d/fb9f16d6dc8f482596c2/

下载的模型和环境，这样放

kinggoo.com chat gpt glm

－　ＴＨＥ　ＥＮＤ　－
版权声明:
转载原创文章请注明,文章出处：//kinggoo.com
原文地址：https://kinggoo.com/openai-chatglm-6b.htm
Category: ChatGLM, OpenAI
Tag: , , , , , , ,
发表评论？

1 条评论。

  1. Tscccn 2023 年 03 月 23 日 在 14:59 
    --listen

    开启公共访问

    回复

发表评论


此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据。