
LLMs.txt 文件
了解 LLMs.txt 文件是什么、它与 robots.txt 有何不同,以及为什么它对 ChatGPT、Perplexity 和 Google AI Overviews 中 AI 的可见性与引用至关重要。完整实施指南。...

LLMs.txt 是一种提议的网页标准,旨在让网站所有者能够直接与人工智能系统沟通其内容应如何使用和解读。由 Answer.AI 的 Jeremy Howard 于 2024 年 9 月提出,其功能类似于 robots.txt,但专门针对 AI 应用而非搜索引擎爬虫而设计。该文件采用 Markdown 格式编写,放置在网站域名的根目录下,便于选择遵循该标准的 AI 系统发现。LLMs.txt 试图解决的核心问题是内容创作者与 AI 平台之间缺乏标准化沟通渠道——网站所有者目前没有可靠的方式来说明其内容应如何处理、引用或优先排序,也无法直接告知 AI 系统其偏好。本指南讲述的是机制层面——文件是什么以及如何正确构建。关于这些措施是否真的能改变 AI 系统的行为,请参阅我们的姊妹篇:《LLMs.txt 的真相:言过其实还是必不可少?》

LLMs.txt 放置在网站的根目录下(例如 example.com/llms.txt),采用结构化的 Markdown 格式。该文件通常包含一个包含网站名称的 H1 标题、一个说明其用途的引用块摘要,以及用 H2 标题组织、指定不同内容类别的详细章节。与使用简单文本语法和特定指令规则的 robots.txt 不同,LLMs.txt 利用 Markdown 的灵活性来实现更细致、更易于人工阅读的描述。单个页面使用 [标题](URL): 描述 的格式列出,描述要简洁但有信息量——这是整个文件的基本单元,而在这方面出错(标题模糊、缺少描述、链接失效)是最常见的实施错误。
这三种文件很容易混淆,因为它们都位于网站的域名根目录,且都与自动化系统通信,但它们解决的问题各不相同:
| 文件类型 | 用途 | 受众 | 格式 | 影响 |
|---|---|---|---|---|
| LLMs.txt | 精选并描述您的最佳页面 | AI 系统和 LLM | Markdown | 自愿遵循 |
| robots.txt | 控制爬虫访问与索引 | 搜索引擎 | 基于文本的指令 | 被广泛遵循的标准 |
| XML 站点地图 | 优先内容发现 | 搜索引擎 | XML 结构 | 提高索引效率 |
robots.txt 告诉爬虫它们不能去哪里。XML 站点地图告诉搜索引擎存在哪些内容。LLMs.txt 两者都不做——它是一份精心挑选、带有注释的短名单,列出您希望 AI 系统在时间有限的情况下优先阅读的页面。
手动构建该文件只需四个步骤:
[标题](URL): 描述 的格式,每页一行。llms.txt(复数形式,非单数),并上传到您的域名根目录,使其可通过 yourdomain.com/llms.txt 访问。以下是一个基本示例结构:
# 公司名称
> 简要描述您的公司做什么以及 AI 系统为何应关注您的内容
## 文档
[入门指南](https://example.com/docs/getting-started):面向新用户的分步指南
[API 参考](https://example.com/docs/api):带有示例的完整 API 文档
[最佳实践](https://example.com/docs/best-practices):使用我们平台的经验证模式
## 博客
[我们为何构建此产品](https://example.com/blog/why-we-built-this):我们解决的问题及解决方案
应包含的内容:常青内容、结构良好的页面以及展现真正专业知识的文章。应避免的内容:您的首页(单独拿出来通常价值不高)、网站上的每一个 URL(质量重于数量)以及脱离上下文语境就毫无意义的页面。您也可以选择添加一个章节,列出在需要更短上下文时应跳过的 URL,不过大多数实施不需要如此精细的粒度。

一旦您构建了标准的 llms.txt,您就会遇到它的姊妹格式:llms-full.txt。llms.txt 是一个包含简短描述的精选链接列表,而 llms-full.txt 则将您的整个文档内联到一个综合性文件中——对于大型产品,有时超过 40 万字。两者的取舍很简单:llms.txt 要求 AI 系统跟随链接并在需要时获取页面,而 llms-full.txt 则一次性提供所有内容,无需后续请求。大多数网站只需要 llms.txt;llms-full.txt 主要适用于文档密集型产品,希望在一次抓取中无摩擦地获取完整内容库。
创建 LLMs.txt 文件非常简单,除了基本的文件创建能力外无需专业技术知识,而且您不必手写。多款流行的 SEO 工具现已提供内置的 LLMs.txt 生成器,包括 AIOSEO、Rank Math、Yoast 和 Squirrly,对于已经使用这些平台的网站所有者来说,只需点击几下即可完成。Mintlify 为其托管的任何文档站点自动生成该文件,这也是该功能于 2024 年 11 月上线后采用率急剧上升的部分原因。对于偏好编写脚本的开发者来说,llms_txt2ctx CLI 工具提供了生成和管理 LLMs.txt 文件的命令行替代方案,如果您希望在文档变更时自动重新生成文件,这会非常有用。对于希望完全控制哪些页面被描述以及如何描述的小型网站,手动创建仍然是正确选择——生成器会乐意包含那些不值得列出的页面。
以下是一些反复出现的实施错误:
llms.txt,而不是 llm.txt,文件名错误意味着文件根本不会被找到这是一个合理的问题,但本指南无意回答——这是一个需要单独讨论的话题,有其自身的证据、采用数据和怀疑论者的论点,我们已将其完整编写为一场专门的必不可少的实践辩论:《LLMs.txt 的真相:言过其实还是必不可少?》 简而言之,目前没有主流 AI 平台确认使用了该标准,但实施成本几乎为零,因此大多数团队选择构建它后继续前进,而不是等待证据出现。您可以直接验证的是您自己的文件格式是否正确且可访问——AmICited.com 是我们的 AI 可见性监控平台,可让您追踪 AI 系统如何在整个网络中实际引用和使用您的内容,这是最接近真实反馈的方式,用以判断您的 llms.txt(以及您其余内容)是否产生了任何效果。这个数据点比文件本身更重要:再完美的 llms.txt 也无法替代高质量的内容创作,而监控正是您了解两者之间差异的方式。
Yasha 是一位才华横溢的软件开发者,专注于 Python、Java 和机器学习。Yasha 撰写有关人工智能、提示工程和聊天机器人开发的技术文章。


了解 LLMs.txt 文件是什么、它与 robots.txt 有何不同,以及为什么它对 ChatGPT、Perplexity 和 Google AI Overviews 中 AI 的可见性与引用至关重要。完整实施指南。...

了解如何在您网站上实施LLMs.txt,以帮助AI系统更好地理解您的内容。为所有平台(包括WordPress、Shopify和静态网站)提供完整的分步指南。...

使用 AmICited 的「智能体可访问性」审计中的 llms.txt 审查功能,获取并验证你的 /llms.txt 文件——该文件用于告知 AI 智能体如何读取和引用你的网站。...