LlamaIndex

LlamaIndex 提供数据加载器、文本切分策略、多种索引结构与检索器，把私有文档转化为可供模型检索的知识库；配套的云端解析服务用于处理 PDF、表格等复杂格式。

这是什么

LlamaIndex 是一个专注把你自己的数据接到模型上的框架：文档加载、切分、索引、检索、再交给模型回答。

如果说通用框架关心「怎么编排流程」，它更关心「怎么把资料准备好」。

主要能做什么

• 数据接入：从文件、数据库、网页等来源加载资料；
• 切分与索引：把长文档拆成可检索的片段并建立索引；
• 多种检索策略：向量检索之外还有结构化与组合方式；
• 查询引擎：把检索到的内容组织成给模型的上下文。

适合谁

• 要做基于自有资料的问答的开发者：企业文档、产品手册、知识库；
• 遇到「检索出来的片段总是不对」这类问题、需要更细控制的团队；
• 需要处理结构化与非结构化混合数据的项目。

怎么开始用

1. 先明确一个具体问题，比如「让它准确回答产品文档里的配置项」；
2. 用少量文档跑通最小链路：加载 → 切分 → 索引 → 提问；
3. 重点调切分策略——检索质量的差距多半来自这里，而不是模型；
4. 建立一小组评估问题，改动后跑一遍看是变好还是变坏。

限制与要注意的地方

• 检索质量决定上限：模型再强，检索不到正确片段也答不对；
• 需要理解概念：切分、嵌入、相似度、重排都要有基本认知；
• 数据准备是主要工作量：真正花时间的是整理资料，不是写代码；
• 框架免费，模型与向量服务的费用另算。

和同类工具的区别

• 与 LangChain：功能有重叠，LangChain 更偏流程编排，LlamaIndex 更偏数据与检索；
• 与 Dify：Dify 提供界面与托管，适合不想写代码的团队；
• 与直接用助手上传文件：助手方便但不可控，框架适合要长期维护的系统。