📥 入库流程#

1
文件 → 分割器 → Embedding → 向量数据库（入库）

• 文件：Word、PDF、PPT、MD、Excel、图片 → 通过 POI、OCR 转成字符串
• 分割器：把长文本拆解成文本段，避免大段无关内容混淆 LLM 回答
• Embedding：将文本段转为向量
• 向量数据库：存储文本段 + 向量（可附加 Metadata 做权限管控）

📤 提问流程#

1
问题 → 问题重写 → Embedding → 向量数据库（匹配出库）
2
  → 相关性筛选 → Rerank → Prompt优化（文本段+问题） → LLM回答

关键环节详解：

• 问题重写：当用户问”他有什么好处”时，Embedding 不知道”他”指代什么，需要让 LLM 根据上下文重写问题（本例规则：提问 <5 字且包含”他/她/它/上述”时触发重写）
• 相关性筛选：设置余弦相似度阈值（本例设为 0.77），过滤掉不相关结果
• Rerank：从 Top 20 中精排选出最相关的 3-5 条，提升上下文质量、节省 Token

① 配置 LangChain4j + Embedding 模型 + 向量数据库#

LangChain4jConfig.java 中配置了三套向量数据库方案：

LLM 和 Embedding 模型均选择支持 OpenAI API 的模型，替换配置即可。

② 入库流程：文件解析 → 分割器 → Embedding → 向量数据库#

核心方法 DocumentIngestionService.java：

1
文件判重（SHA256）→ 解析文档 → 分割器切割
2
  → Embedding 分批转换（每批10条） → 存入向量数据库
3
  → 关系型数据库记录文档和分片信息

分割器关键参数：

• 基于 Token 的递归分割器（DocumentSplitters.recursive）
• 单段最大 Token：512 - 文件名前缀Token数
• 段落重叠 Token：51（约 10%-20%）
• Embedding 模型：bge-large-zh-v1.5（512 Token上限，免费）

③ 提问流程：问题重写 → Embedding → 检索 → 筛选 → Rerank → 回答#

核心方法 RagQueryService.java：

1
1. 获取历史上下文
2
2. 判断是否需要问题重写
3
3. Embedding 转换查询向量
4
4. 向量数据库检索 Top 20
5
5. 余弦相似度阈值过滤
6
6. Rerank 精排取 Top 5
7
7. 构建 Prompt → LLM 流式生成答案
8
8. 保存上下文

Rerank 实现（RerankService.java）：调用 SiliconFlow 的 rerank API，根据 query 对文档片段重新排序。

Embedding 模型对比#

Reranker 模型对比#

向量数据库对比#