应用背景
随着gpt火爆,文本生成领域任务取得了空前的进展。但是gpt和其它语言模型不能够直接完成对本地知识库查询并回答,因此一种基于LLM的新的推荐系统被提出来。
任务流程
chatglm项目的任务设计流程
结合目前的主流项目,要实现这种系统,本质上还是直接使用LLM来回答用户问题,但需要一些准备
- 从本地文本库中找到问题相关信息
- 将信息+问题按照一定格式打包交给LLM回答
重点
该任务流程比较简单,但是有几个重点地方需要注意:
- 如何分割成一个相对语义独立的不同块?
- 如何存储这些块?
- 如何利用问题找到相关内容块?
- 如何打包信息和问题?