Skip to content

Latest commit

 

History

History
186 lines (130 loc) · 8.75 KB

README.zh.md

File metadata and controls

186 lines (130 loc) · 8.75 KB
Raw

DB-GPT: 用私有化LLM技术定义数据库下一代交互方式

DB-GPT 是什么？

随着大模型的发布迭代，大模型变得越来越智能，在使用大模型的过程当中，遇到极大的数据安全与隐私挑战。在利用大模型能力的过程中我们的私密数据跟环境需要掌握自己的手里，完全可控，避免任何的数据隐私泄露以及安全风险。基于此，我们发起了DB-GPT项目，为所有以数据库为基础的场景，构建一套完整的私有大模型解决方案。 此方案因为支持本地部署，所以不仅仅可以应用于独立私有环境，而且还可以根据业务模块独立部署隔离，让大模型的能力绝对私有、安全、可控。

DB-GPT 是一个开源的以数据库为基础的GPT实验项目，使用本地化的GPT大模型与您的数据和环境进行交互，无数据泄露风险，100% 私密

DB-GPT视频介绍

最新发布

  • [2023/06/14]🔥 支持gpt4all模型，可以在M1/M2 或者CPU机器上运行。 使用文档
  • [2023/06/01]🔥 在Vicuna-13B基础模型的基础上，通过插件实现任务链调用。例如单句创建数据库的实现.
  • [2023/06/01]🔥 QLoRA guanaco(原驼)支持, 支持4090运行33B
  • [2023/05/28]🔥根据URL进行对话 演示
  • [2023/05/21] SQL生成与自动执行. 演示
  • [2023/05/15] 知识库对话 演示
  • [2023/05/06] SQL生成与诊断 演示

特性一览

目前我们已经发布了多种关键的特性，这里一一列举展示一下当前发布的能力。

  • SQL 语言能力

    • SQL生成
    • SQL诊断

  • 私域问答与数据处理

    • 数据库知识问答
    • 数据处理

  • 插件模型

    • 支持自定义插件执行任务，原生支持Auto-GPT插件。如:
      • SQL自动执行，获取查询结果
      • 自动爬取学习知识

  • 知识库统一向量存储/索引

    • 非结构化数据支持包括PDF、MarkDown、CSV、WebURL

  • 多模型支持

    • 支持多种大语言模型, 当前已支持Vicuna(7b,13b), ChatGLM-6b(int4, int8), guanaco(7b,13b,33b), Gorilla(7b,13b)
    • TODO: codet5p, codegen2

效果演示

示例通过 RTX 4090 GPU 演示

demo.mp4

架构方案

DB-GPT基于 FastChat 构建大模型运行环境，并提供 vicuna 作为基础的大语言模型。此外，我们通过LangChain提供私域知识库问答能力。同时我们支持插件模式, 在设计上原生支持Auto-GPT插件。

整个DB-GPT的架构，如下图所示

核心能力主要有以下几个部分。

  1. 知识库能力：支持私域知识库问答能力
  2. 大模型管理能力：基于FastChat提供一个大模型的运营环境。
  3. 统一的数据向量化存储与索引：提供一种统一的方式来存储和索引各种数据类型。
  4. 连接模块：用于连接不同的模块和数据源，实现数据的流转和交互。
  5. Agent与插件：提供Agent和插件机制，使得用户可以自定义并增强系统的行为。
  6. Prompt自动生成与优化：自动化生成高质量的Prompt，并进行优化，提高系统的响应效率。
  7. 多端产品界面：支持多种不同的客户端产品，例如Web、移动应用和桌面应用等。

安装

快速开始

多语言切换

在.env 配置文件当中，修改LANGUAGE参数来切换使用不同的语言，默认是英文(中文zh, 英文en, 其他语言待补充)

使用说明

多模型使用

使用指南

打造属于你的知识库

1.将个人知识文件或者文件夹放入pilot/datasets目录中

当前支持的文档格式: txt, pdf, md, html, doc, ppt, and url.

在操作之前先执行

python -m spacy download zh_core_web_sm

2.在.env文件指定你的向量数据库类型,VECTOR_STORE_TYPE(默认Chroma),目前支持Chroma,Milvus(需要设置MILVUS_URL和MILVUS_PORT)

注意Milvus版本需要>2.1

3.在tools目录执行知识入库脚本, 如果是选择默认知识库，不需要指定 --vector_name, 默认default

python tools/knowledge_init.py

如果选择新增知识库，在界面上新增知识库输入你的知识库名,

python tools/knowledge_init.py --vector_name = yourname

--vector_name: vector_name  default_value:default

就可以根据你的知识库进行问答

注意，这里默认向量模型是text2vec-large-chinese(模型比较大，如果个人电脑配置不够建议采用text2vec-base-chinese),因此确保需要将模型download下来放到models目录中。

如果在使用知识库时遇到与nltk相关的错误，您需要安装nltk工具包。更多详情，请参见：nltk文档 Run the Python interpreter and type the commands:

>>> import nltk
>>> nltk.download()

我们提供了Gradio的用户界面，可以通过我们的用户界面使用DB-GPT， 同时关于我们项目相关的一些代码跟原理介绍，我们也准备了以下几篇参考文章。

  1. 大模型实战系列(1) —— 强强联合Langchain-Vicuna应用实战
  2. 大模型实战系列(2) —— DB-GPT 阿里云部署指南
  3. 大模型实战系列(3) —— DB-GPT插件模型原理与使用

感谢

项目取得的成果，需要感谢技术社区，尤其以下项目。

贡献

  • 提交代码前请先执行 black .

这是一个用于数据库的复杂且创新的工具, 我们的项目也在紧急的开发当中, 会陆续发布一些新的feature。如在使用当中有任何具体问题, 优先在项目下提issue, 如有需要, 请联系如下微信，我会尽力提供帮助，同时也非常欢迎大家参与到项目建设中。

联系我们

微信群已超扫码加群上限, 进群请添加如下微信帮拉进群。

xy643854343 mingtian2635 chenB305 cfq1612784863

Licence

The MIT License (MIT)

Star History Chart