查看原文
其他

用不了ChatGPT?快来装最强平替ChatGLM

忠忠 Stable Diffusion 炼丹阁 2023-08-19

ChatGPT的优秀人尽皆知,但一些同学因为网络和安全等原因一直无法使用,恰逢清华大学 KEG 实验室和智谱AI共同训练的 GLM 模型ChatGLM-6B 正式开源,于是我安装体验了一波,感觉可以作为平替满足一些初级需求了,有总比没有好嘛,以下是正式介绍。

ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型,基于 General Language Model (GLM) 架构,具有 62 亿参数。结合模型量化技术,用户可以在消费级的显卡上进行本地部署(INT4 量化级别下最低只需 6GB 显存)。也就是GTX 1060 6GB都可以跑了,门槛已经是非常低了,更多介绍可以看官方Github:https://github.com/THUDM/ChatGLM-6B 

对话能力和智能水平综合来看比ChatGPT3.5弱一级,具体表现在生成质量差一点,上下文关联能力差一点,但提问详细点回答也勉强还行,比如下方这个案例:

按格式提问:

写一篇高度详细的文章,包括引言、主体和结论段落,以回应以下内容:可访问性对界面设计的必要性

ChatGLM-6B 回答:

引言

界面设计是一个非常重要的领域,涉及到我们与计算机交互的方式。界面设计的目的是为用户提供一个易于使用和直观的界面,使计算机操作更加简单和高效。然而,随着互联网的普及和移动设备的普及,人们对可访问性的要求越来越高。本文将讨论可访问性对界面设计的必要性。

主体

1. 可访问性的重要性

可访问性是界面设计的一个重要方面。用户界面应该易于理解和使用,无论用户是谁,年龄如何,背景如何。对于老年人和视力障碍者来说,可访问性更为重要。此外,可访问性还涉及到不同设备之间的一致性。如果用户在不同设备上使用同一个应用程序,他们需要能够轻松地访问所需的信息。

2. 可访问性的实现方法

可访问性可以通过多种方式实现,包括:

- 颜色和字体:颜色和字体可以帮助用户轻松地找到所需的信息。例如,在搜索框中,使用明亮和清晰的字体可以更容易地被用户识别。

- 导航:导航可以帮助用户快速找到所需的信息。例如,使用箭头和图标可以帮助用户快速前进和后退。

- 布局:布局可以帮助用户更轻松地访问所需的信息。例如,使用网格系统可以帮助用户轻松地浏览和组织信息。

3. 可访问性的挑战

尽管可访问性对于界面设计非常重要,但它仍然存在一些挑战。例如:

- 不同设备之间的不一致性:不同设备之间的可访问性可能存在差异,这可能会导致用户在使用应用程序时感到困惑。

- 技术限制:某些技术可能无法提供足够的可访问性,例如盲人使用的技术。

- 隐私问题:某些应用程序可能需要考虑隐私问题,这可能会影响可访问性。

结论:

可访问性对界面设计至关重要。通过使用颜色、字体、导航、布局和可访问性技术等,可以帮助用户更轻松地找到所需的信息,同时保护用户的隐私和设备一致性。

然后,因为开源且本地部署的关系,使用Github 上大佬的闻达项目,就可以智能读取本地Text文件的相关来回答问题,这就是ChatGPT所没有的功能了,Github地址:https://github.com/l15y/wenda

部署方式也很简单,第一步是下载完下方这个作者提供的这个懒人包。链接:https://pan.baidu.com/s/105nOsldGt5mEPoT2np1ZoA?pwd=lyqz 提取码:lyqz

第二步是下载[simcse-chinese-roberta-wwm-ext](https://huggingface.co/cyclone/simcse-chinese-roberta-wwm-ext) 放在`model\simcse-chinese-roberta-wwm-ext`。
第三步是在txt文件夹里放上自己的UTF-8编码的txt文件。
第四步是双击“ run_data_processing ”运行学习提取保存。
第五步是双击“run_GLM6B.bat” 运行。运行成功后复制 http://127.0.0.1:17860 这个网址到浏览器打开,就可以看见问答界面了。

打开右上方的ChatPDF按钮后,就会智能寻找txt文本材料中有关的资料回答提问,我用小王子一书的txt文件实测了一下效果还可以。下方附上开关ChatPDF时对小王子一书相关问题的回答,开启ChatPDF时因为有对应材料回答明显正确了很多。

上图是关闭ChatPDF时的回答,小王子与地理学家的对话完全是GLM瞎编的,下图是开启ChatPDF时的回答,基本节选自书籍原文。

本期分享就到此结束啦,ChatGLM-6B才刚刚开源,随着社区生态的繁荣,一定会像Stable diffusion 一样出现各种超强的增强插件的,请各位和我一起期待吧哈哈哈~

最后欢迎留言讨论更多ChatGLM-6B的可能性,也可以加我的微信avx358多多交流~




您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存