GPT 本地化：在没有网络状况下与本地文档进行对话！

🔗

• 官网：gpt4all.io^[1]

• GitHub：nomic-ai/gpt4all^[2]

• Blog：How To Have A Private ChatGPT-Like Conversation With Your Local Documents With No Internet.^[3]

访问官网，可以下载安装程序，支持 Windows，Mac 和 Linux。

为了在没有互联网连接的情况下在本地计算机上进行类似 ChatGPT 的私人对话，GPT4All 提供了 LocalDocs 插件。这个插件允许用户与他们在本地存储的文件和数据进行对话，而不需要任何数据离开他们的电脑或服务器。

首先，你需要在 GPT4All 系统中选择并下载一个模型（内置了多个模型可供选择），比如 GPT4All-I13b-snoozy。然后，在LocalDocs 的设置中，配置一个包含了你希望与之交互的文件的文件夹。这个文件夹可以被看作是一个文档集合，LLM 可以访问其中的数据。

• 下载模型

• 添加文档目录

• 新建对话，启用 LocalDocs

• 下载其他模型

启动聊天会话后，LocalDocs 可以根据你的提示或问题，查询您的文档并尝试提供答案。LocalDocs 将尝试利用文档的片段来提供上下文，并尝试将文档的内容融入到输出中。需要注意的是，LocalDocs 目前不能回答一般的元数据查询，也不能总结单个文档。

LocalDocs 的工作方式是通过维护用户当前链接的目录数据的 SQL 关键字索引。这些索引帮助 LLM 使用用户数据内容的知识来回应查询。LocalDocs 使用的一般技术被称为检索增强生成。

使用 LocalDocs 和类似系统，可以使个人 AI 访问您的私人或公司数据，而无需在云中共享。这种技术在过去的 90 天里有显著的进步，尽管仍处于早期阶段，但它为处理敏感数据提供了一种更安全的方式。

📌 文件支持

LocalDocs 支持多种文件类型，包括：

txt, doc, docx, pdf, rtf, odt, html, htm, xls, xlsx, csv, ods, ppt, pptx, odp, xml, json, log, md, tex, asc, wks, wpd, wps, wri, xhtml, xht, xslt, yaml, yml, dtd, sgml, tsv, strings, resx, plist, properties, ini, config, bat, sh, ps1, cmd, awk, sed, vbs, ics, mht, mhtml, epub, djvu, azw, azw3, mobi, fb2, prc, lit, lrf, tcr, pdb, oxps, xps, pages, numbers, key, keynote, abw, zabw, 123, wk1, wk3, wk4, wk5, wq1, wq2, xlw, xlr, dif, slk, sylk, wb1, wb2, wb3, qpw, wdb, wks, wku, wr1, wrk, xlk, xlt, xltm, xltx, xlsm, xla, xlam, xll, xld, xlv, xlw, xlc、xlm、xlt 和 xln。

References

[1]

gpt4all.io: https://gpt4all.io/index.html

[2]

nomic-ai/gpt4all: https://github.com/nomic-ai/gpt4all

[3]

How To Have A Private ChatGPT-Like Conversation With Your Local Documents With No Internet.: https://readmultiplex.com/2023/06/04/how-to-have-a-private-chatgpt-like-conversation-with-your-local-documents-with-no-internet