如何编写和部署 LLMs.txt 文件(完整指南)

什么是 LLMs.txt?起源与定义

LLMs.txt 是一种提议的网页标准,旨在让网站所有者能够直接与人工智能系统沟通其内容应如何使用和解读。由 Answer.AI 的 Jeremy Howard 于 2024 年 9 月提出,其功能类似于 robots.txt,但专门针对 AI 应用而非搜索引擎爬虫而设计。该文件采用 Markdown 格式编写,放置在网站域名的根目录下,便于选择遵循该标准的 AI 系统发现。LLMs.txt 试图解决的核心问题是内容创作者与 AI 平台之间缺乏标准化沟通渠道——网站所有者目前没有可靠的方式来说明其内容应如何处理、引用或优先排序,也无法直接告知 AI 系统其偏好。本指南讲述的是机制层面——文件是什么以及如何正确构建。关于这些措施是否真的能改变 AI 系统的行为,请参阅我们的姊妹篇:《LLMs.txt 的真相:言过其实还是必不可少?》

LLMs.txt 文件结构可视化,展示 AI 系统处理结构化内容

LLMs.txt 规范:结构与语法

LLMs.txt 放置在网站的根目录下(例如 example.com/llms.txt),采用结构化的 Markdown 格式。该文件通常包含一个包含网站名称的 H1 标题、一个说明其用途的引用块摘要,以及用 H2 标题组织、指定不同内容类别的详细章节。与使用简单文本语法和特定指令规则的 robots.txt 不同,LLMs.txt 利用 Markdown 的灵活性来实现更细致、更易于人工阅读的描述。单个页面使用 [标题](URL): 描述 的格式列出,描述要简洁但有信息量——这是整个文件的基本单元,而在这方面出错(标题模糊、缺少描述、链接失效)是最常见的实施错误。

Logo

Ready to Monitor Your AI Visibility?

Track how AI chatbots mention your brand across ChatGPT, Perplexity, and other platforms.

LLMs.txt vs Robots.txt vs XML 站点地图

这三种文件很容易混淆,因为它们都位于网站的域名根目录,且都与自动化系统通信,但它们解决的问题各不相同:

文件类型用途受众格式影响
LLMs.txt精选并描述您的最佳页面AI 系统和 LLMMarkdown自愿遵循
robots.txt控制爬虫访问与索引搜索引擎基于文本的指令被广泛遵循的标准
XML 站点地图优先内容发现搜索引擎XML 结构提高索引效率

robots.txt 告诉爬虫它们不能去哪里。XML 站点地图告诉搜索引擎存在哪些内容。LLMs.txt 两者都不做——它是一份精心挑选、带有注释的短名单,列出您希望 AI 系统在时间有限的情况下优先阅读的页面。

分步指南:编写您的 LLMs.txt 文件

手动构建该文件只需四个步骤:

  1. 从 H1 标题开始,包含您的网站或公司名称,可选地在其后添加一行引用块,简要说明您的网站是做什么的以及 AI 系统为何应关注。
  2. 将内容组织成 H2 部分,如果您的网站有不同板块——文档、博客、API 参考等——在每个板块下添加简短描述,说明该部分包含什么内容。
  3. 在每个部分下列出单个页面,使用 [标题](URL): 描述 的格式,每页一行。
  4. 将文件保存为 llms.txt(复数形式,非单数),并上传到您的域名根目录,使其可通过 yourdomain.com/llms.txt 访问。

以下是一个基本示例结构:

# 公司名称

> 简要描述您的公司做什么以及 AI 系统为何应关注您的内容

## 文档
[入门指南](https://example.com/docs/getting-started):面向新用户的分步指南
[API 参考](https://example.com/docs/api):带有示例的完整 API 文档
[最佳实践](https://example.com/docs/best-practices):使用我们平台的经验证模式

## 博客
[我们为何构建此产品](https://example.com/blog/why-we-built-this):我们解决的问题及解决方案

应包含的内容:常青内容、结构良好的页面以及展现真正专业知识的文章。应避免的内容:您的首页(单独拿出来通常价值不高)、网站上的每一个 URL(质量重于数量)以及脱离上下文语境就毫无意义的页面。您也可以选择添加一个章节,列出在需要更短上下文时应跳过的 URL,不过大多数实施不需要如此精细的粒度。

LLMs.txt 提议与实际 AI 平台采纳之间的差距,显示不确定性

llms.txt vs llms-full.txt:您需要哪一个?

一旦您构建了标准的 llms.txt,您就会遇到它的姊妹格式:llms-full.txt。llms.txt 是一个包含简短描述的精选链接列表,而 llms-full.txt 则将您的整个文档内联到一个综合性文件中——对于大型产品,有时超过 40 万字。两者的取舍很简单:llms.txt 要求 AI 系统跟随链接并在需要时获取页面,而 llms-full.txt 则一次性提供所有内容,无需后续请求。大多数网站只需要 llms.txt;llms-full.txt 主要适用于文档密集型产品,希望在一次抓取中无摩擦地获取完整内容库。

生成器工具 vs 手动创建

创建 LLMs.txt 文件非常简单,除了基本的文件创建能力外无需专业技术知识,而且您不必手写。多款流行的 SEO 工具现已提供内置的 LLMs.txt 生成器,包括 AIOSEO、Rank Math、Yoast 和 Squirrly,对于已经使用这些平台的网站所有者来说,只需点击几下即可完成。Mintlify 为其托管的任何文档站点自动生成该文件,这也是该功能于 2024 年 11 月上线后采用率急剧上升的部分原因。对于偏好编写脚本的开发者来说,llms_txt2ctx CLI 工具提供了生成和管理 LLMs.txt 文件的命令行替代方案,如果您希望在文档变更时自动重新生成文件,这会非常有用。对于希望完全控制哪些页面被描述以及如何描述的小型网站,手动创建仍然是正确选择——生成器会乐意包含那些不值得列出的页面。

需要避免的常见错误

以下是一些反复出现的实施错误:

  • 使用单数文件名——应该是 llms.txt,而不是 llm.txt,文件名错误意味着文件根本不会被找到
  • 列出网站上的每一个 URL——将整个站点地图倾倒入 llms.txt 违背了精选的初衷
  • 描述模糊或缺失——一个没有描述的裸链接让 AI 系统无从判断优先级
  • 文件与实际内容不同步——随着页面被更新、合并或废弃,文件未能及时更新
  • 内容描述与页面实际内容不一致——除了本身是糟糕的做法外,这恰恰是使该标准备受争议的信任问题

它真的有效吗?

这是一个合理的问题,但本指南无意回答——这是一个需要单独讨论的话题,有其自身的证据、采用数据和怀疑论者的论点,我们已将其完整编写为一场专门的必不可少的实践辩论:《LLMs.txt 的真相:言过其实还是必不可少?》 简而言之,目前没有主流 AI 平台确认使用了该标准,但实施成本几乎为零,因此大多数团队选择构建它后继续前进,而不是等待证据出现。您可以直接验证的是您自己的文件格式是否正确且可访问——AmICited.com 是我们的 AI 可见性监控平台,可让您追踪 AI 系统如何在整个网络中实际引用和使用您的内容,这是最接近真实反馈的方式,用以判断您的 llms.txt(以及您其余内容)是否产生了任何效果。这个数据点比文件本身更重要:再完美的 llms.txt 也无法替代高质量的内容创作,而监控正是您了解两者之间差异的方式。

常见问题

Yasha 是一位才华横溢的软件开发者,专注于 Python、Java 和机器学习。Yasha 撰写有关人工智能、提示工程和聊天机器人开发的技术文章。

Yasha Boroumand
Yasha Boroumand
CTO, FlowHunt

使用 AmICited 监控您的 AI 引用

追踪 AI 系统如何在整个网络中引用和使用您的内容。实时了解您的 AI 可见性和内容归属情况。

了解更多

LLMs.txt 文件
LLMs.txt 文件:AI 内容可见性与引用权威性指南

LLMs.txt 文件

了解 LLMs.txt 文件是什么、它与 robots.txt 有何不同,以及为什么它对 ChatGPT、Perplexity 和 Google AI Overviews 中 AI 的可见性与引用至关重要。完整实施指南。...

2 分钟阅读
如何实现LLMs.txt:分步技术指南
如何实现LLMs.txt:分步技术指南

如何实现LLMs.txt:分步技术指南

了解如何在您网站上实施LLMs.txt,以帮助AI系统更好地理解您的内容。为所有平台(包括WordPress、Shopify和静态网站)提供完整的分步指南。...

2 分钟阅读
如何在 AmICited 中审查你的 llms.txt 文件
如何在 AmICited 中审查你的 llms.txt 文件

如何在 AmICited 中审查你的 llms.txt 文件

使用 AmICited 的「智能体可访问性」审计中的 llms.txt 审查功能,获取并验证你的 /llms.txt 文件——该文件用于告知 AI 智能体如何读取和引用你的网站。...

1 分钟阅读