查看原文
其他

一键本地部署类GPT大模型,免费!

Glen Glen 2023-10-10

ChatGPT作为一种基于大型语言模型的生成式人工智能,不仅仅能够回答传统问题,涵盖了人文、科学、情感等各个领域,它还能够帮助写代码、改bug等。然而,要体验ChatGPT还是比较麻烦的,因为它没有开源。虽然也有其他的开源AI大语言模型,但是部署到本地流程太多,容易给人整不会了。没关系,今天介绍一个开源项目,帮你一键本地免费、无限用AI大模型聊天

Text generation web UI简介

AI绘画界的Stable Diffuison Web UI,相信大家不会陌生,它做到了把非常复杂的AI绘画做成了可视化的网页,极大的提升了AI绘画的体验。而今天介绍的这款叫做Text generation web UI的开源项目,它的目标是成为文本生成领域的Stable Diffuison Web UI,即为类ChatGPT的大语言模型制作一款容易快速上手的网页。

Text generation web UI可以用于运行 LLaMA、llama.cpp、GPT-J、Pythia、OPT 和 GALACTICA 等开源的大型语言模型。


一键安装,免费!

通过以下链接,可以快速访问Text generation web UI:

https://github.com/oobabooga/text-generation-webui

找到“一键安装程序”区域,根据自己操作系统的类型,下载zip文件,将其解压。

然后双击“start-windows”即可。Web UI 及其所有依赖项将安装在同一文件夹中。

自动开始下载依赖环境。

中间会让你选择自己电脑的显卡是什么牌子的,大家按需选择即可。

等待片刻,下载完成后,还需要下载至少一个开源的大语言模型。进入以下目录中oobabooga_windows\text-generation-webui,在上方地址中输入“cmd”。

在打开的命令指示窗口,输入需要下载的模型,比如:

python download-model.py facebook/opt-350m

等待下载完成后,再回到项目目录,点击“start-windows”,即可启动。然后将下方弹窗中的地址,输入到浏览器。

可以愉快地跟你专属的AI大语言模型聊天了~感兴趣的朋友,快去试试吧,咱们下期再见~


往期精选

AI杀疯了 | 用Lora画你的初恋小姐姐

青春就是用来失败的 | 训练灌篮高手专属AI绘画模型

AI一键让照片说话,无限且免费!

AI一键换脸,无限且免费!

云端一键AI换脸,免本地安装


欢迎加入AI社群

跟我一起疯狂学习AI

求个三连“分享、点赞、在看”~

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存