0%

基于大语言模型LLM+知识库KB实现的问答系统-1.介绍[智能客服][NLP][LLM]

目录导航

应用背景

随着gpt火爆,文本生成领域任务取得了空前的进展。但是gpt和其它语言模型不能够直接完成对本地知识库查询并回答,因此一种基于LLM的新的推荐系统被提出来。

任务流程

chatglm项目的任务设计流程
process
结合目前的主流项目,要实现这种系统,本质上还是直接使用LLM来回答用户问题,但需要一些准备

  1. 从本地文本库中找到问题相关信息
  2. 将信息+问题按照一定格式打包交给LLM回答

重点

该任务流程比较简单,但是有几个重点地方需要注意:

  1. 如何分割成一个相对语义独立的不同块?
  2. 如何存储这些块?
  3. 如何利用问题找到相关内容块?
  4. 如何打包信息和问题?