SEO Playbook · Process

技术SEO审计:爬取与索引

在您大规模投入新的SEO内容之前,运行一次技术基线审计,找出爬取、索引、规范化、渲染和内部链接方面的问题。

2 min read

技术基线审计

阶段P2 · 步骤A — 了解
时间盒: 轻度审计2–4小时,标准审计1–2个工作日,深度审计3–8个工作日。
负责人: 技术SEO负责人。工程、分析、内容和本地化负责人提供证据并在各自领域接受修复。

技术基线审计旨在确定搜索引擎能否找到、解释并选择企业期望它们展示的URL。其范围涵盖爬取控制、HTTP响应、索引、规范化、链接、渲染、国际化定位和安全传输。结果是按优先级排序的发现项登记表,包含指定的负责人和验收测试,而非一个分数。

为什么这个阶段在此处

在存在爬取或索引问题的网站上发布内容会加剧损害。搜索引擎通常在评估和奖励内容之前,就能更快地在新的URL上发现重复的缺陷。错误的规范化模板可能将所有文章指向别处;robots规则可能隐藏整个目录;客户端渲染的导航可能为非JavaScript客户端创建孤立页面。每个新页面都会扩大受影响的范围,使修复风险更大。

先修复基础。顺序是爬取能力 → 可索引性 → 内容质量 → 性能,因为每一层都是一个关卡。爬取能力意味着爬取器可以发现并请求URL;可索引性意味着可到达的URL有资格被收录。只有在此之后才能评判内容质量和性能。被robots.txt屏蔽的快速页面无法参与竞争,而无法到达的页面的标题标签也无关紧要。

本阶段接收来自发现与目标 的范围、优先旅程、市场和风险。过早执行此阶段会产生缺乏业务背景的爬取结果。跳过此阶段则会让研究和制作针对无法可靠进入索引的模板进行。

顺序是一种控制,而非偏好
切勿将发布截止日期作为跳过阻碍性爬取或索引缺陷的理由。能够恢复整个模板访问权限的修复,其优先级高于那些仅影响已有排名资格的页面的、看起来更重大的优化。

输入与输出

输入定义预期网站,而不仅仅是爬取器发现的内容。输出告知下一负责人哪些URL可以安全测试,哪些仍然受阻。

方向项目验收条件
输入生产环境来源和规范化主机包含协议、www决策、子域名、国际化主机和已知的遗留域名。
输入预期可索引URL清单列出模板、目录、语言区域、站点地图来源以及排除项(如过滤器、账户页面和内部搜索)。
输入访问权限和证据生产环境爬取权限、Google Search Console、Bing Webmaster Tools、分析工具、日志文件(如有)、部署历史记录和CMS规则。
输入发现简报指明优先旅程、收入或线索价值、市场、发布约束和负责的负责人。
输入近期变更登记表记录迁移、重新设计、JavaScript框架变更、规范化或分页变更、事件以及发布日期。
输出按优先级排序的发现项登记表每个发现项包含受影响范围、证据、根因、影响、工作量估算、置信度、负责人、截止日期和完成条件测试。
输出爬取和索引基线记录符合条件的URL、已爬取URL、状态分布、站点地图覆盖率、索引率、孤立页面数量和深度分布。
输出阻碍依赖决策说明发布是否可以进行,仅对未受影响的模板进行,或暂停直到指定的阻碍项通过重新测试。
输出交接包为下一阶段提供干净的URL样本、未解决的排除项、渲染证据和已接受的限制条件。

选择审计深度

在爬取之前选择深度。估算值假设访问权限已就绪且不包含实施时间。

模式适用场景诚实时间盒覆盖范围和局限性
轻度大约500个以下可索引URL、一个主要模板和语言、近期无迁移、无依赖JavaScript的主要内容2–4小时控制项、站点地图、响应、代表性爬取、优先检查、基础规范化和移动端/HTTPS样本。可能遗漏长尾孤立页面、罕见循环、近似重复、特定模板渲染失败和hreflang缺陷。这是分流,而非迁移保障。
标准大约50,000个以内预期URL、多个模板、常规JavaScript或实质性内容项目1–2个工作日完整爬取、站点地图对账、抽样检查、重复页面、深度、渲染和模板规则。这是成熟网站的默认选项。
深度超过大约50,000个URL、分面导航、多个语言区域、独立的移动端行为、大量渲染、迁移、不明原因的索引丢失或重大收入风险3–8个工作日增加分段爬取、日志、参数、分页、更广泛的渲染比较、发布关联分析和系统性hreflang样本。大型迁移可能需要更长时间。

检查清单

按顺序进行。未通过的关卡可能使后续样本失效,因此在继续之前记录失败及其影响范围。

1. 确认目标为生产环境

操作内容: 验证协议、主机、robots文件、分析属性、Search Console属性和站点地图主机。重要性: 预发布环境可能看起来无问题,而生产环境仍有问题。操作方法: 解析商定的规范化主机,比较优先页面和响应头,记录爬取来源。工具: 浏览器、爬取器配置、Search Console选择器。完成条件: 登记表标明已确认的生产环境来源和属性,种子URL或导出中无预发布环境主机名。

2. 爬取前测试robots.txt

操作内容: 检查每个生产主机的/robots.txt及其引用的站点地图。重要性: Disallow规则会在内容被评估之前阻止爬取。操作方法:Disallow模式与预期清单进行比较,测试匹配和不匹配的URL,区分爬取阻止与noindex工具: 原始响应和robots测试器。完成条件: robots返回200,有意的屏蔽有理由,可索引样本被允许访问,每出现一个无意的屏蔽则触发一个关键发现项。

3. 将站点地图与实际URL对账

操作内容: 比较已提交的站点地图与规范化的可索引清单。重要性: 站点地图应列出网站希望被搜索引擎选择的URL,而非重定向、错误或重复页面。操作方法: 规范化条目,按模板比较数量,然后在站点地图与索引 中对新增和遗漏进行抽样。工具: https://app.amicited.com/reports/google-search/sitemaps-indexing和爬取导出。完成条件: 覆盖率达到至少95%,0个条目为重定向或错误,每个缺口都有原因或负责人。

4. 测量状态码分布

操作内容: 将响应分类为2xx3xx4xx5xx重要性: 错误会阻止检索,重定向会增加跳转次数。操作方法: 跟随并报告重定向,按模板分段,并与Bing爬取 进行比较。工具: https://app.amicited.com/reports/bing-webmasters/crawl、爬取器和监控。完成条件: 可索引URL返回200;内部错误、循环和链均为零;有意设置的重定向已记录在案。

5. 消除重定向链和循环

操作内容: 追踪重定向至其最终响应。重要性: 跳转次数多会减慢发现速度;循环则永远无法到达内容。操作方法: 导出路径,将内部链接更新为最终规范化URL,合并规则。工具: 重定向报告和头部检查。完成条件: 内部链接直接指向目标,遗留重定向只需一次跳转,无循环或链存在。

6. 建立符合条件的索引率

操作内容: 比较Google的索引状态与有意符合条件的URL。重要性: 包含重定向、过滤器、重复页面或noindex页面会使比率失去意义。操作方法: 构建符合条件的分母,在URL检查 中检查优先样本,按模板对排除项进行分组。工具: https://app.amicited.com/reports/google-search/url-inspection、Search Console和清单。完成条件: 至少90%已被索引,或每个缺口都有根因负责人;低于80%为主要发现项。

7. 验证规范化正确性

操作内容: 比较声明的、最终的和Google选择的规范化URL。规范化URL是相似URL中的首选版本。重要性: 错误的规范化URL会使信号从未预期的页面转移出去。操作方法: 测试唯一页面的自引用、有意的交叉规范化、以及在HTML、站点地图、重定向和链接之间的一致性。工具: 规范化报告和https://app.amicited.com/reports/google-search/url-inspection完成条件: 100%的独特可索引页面指定一个绝对的、返回200的、可索引的规范化URL,每个选定的不匹配项都有解释。

8. 查找重复和近似重复聚类

操作内容: 将主内容完全相同或大幅重叠且搜索目的相同的URL分组。重要性: 重复页面会分散内部信号,迫使搜索引擎选择一个企业可能并不偏好的版本。操作方法: 比较精确哈希值、标准化文本相似度、标题、规范化URL、参数和模板用途;然后选择合并、差异化、noindex或移除。工具: 爬取器重复报告、页面清单和Google搜索页面完成条件: 没有聚类包含一个以上服务于相同意图的、未解释的规范化可索引URL,且每个被接受的变体都有记录在案的独特用途。

9. 查找孤立页面并测量链接深度

操作内容: 将爬取器URL与站点地图、分析工具、Search Console、CMS导出和反向链接结合起来,查找没有可爬取内部链接的页面。测量从首页出发的最短点击路径。重要性: 孤立页面可能出现在站点地图中,但获得的内部上下文或权重很小;过深的深度使发现变得脆弱。操作方法: 比较来源,在目录视图 中检查目录模式,追踪导航、面包屑导航、枢纽页面和上下文链接。工具: https://app.amicited.com/reports/directory和多来源爬取。完成条件: 有意孤立页面数为零,优先页面在首页三次点击以内,其他有意纳入索引的页面在五次点击以内,每个例外都有预先设计的发现路径。

10. 比较渲染后与非JavaScript的HTML

操作内容: 比较初始服务器响应与JavaScript执行后的页面。重要性: 浏览器可能显示非JavaScript客户端从未接收到的内容和链接。操作方法: 在禁用脚本的情况下获取代表性页面,检查原始HTML,然后比较标题、主要内容、链接、规范化URL、robots指令、结构化数据和渲染后的状态。工具: HTML模式和渲染模式的爬取器以及浏览器开发者工具。完成条件: 初始响应包含发现优先页面所需的主要内容、规范化URL、索引指令和可爬取导航;任何仅依赖JavaScript的依赖项已被明确接受并在各模板上经过测试。

11. 在适用时验证hreflang

操作内容: 验证连接语言或区域等效页面的注释。重要性: 不完整或冲突的聚类可能使搜索引擎忽略定位设置,并显示错误的市场版本。操作方法: 测试有效的语言-区域代码、绝对规范化URL、自引用、互惠返回链接、x-default(当其具有实际回退角色时)以及每个目标的索引能力。工具: 爬取器hreflang报告和URL样本。完成条件: 无效代码、缺少自引用、缺少返回链接、非规范化目标、重定向和错误均为零。如果网站没有本地化等效页面,则记录"不适用"而非编造注释。

12. 测试分页和爬取路径

操作内容: 验证多页分类或存档序列是否暴露可爬取链接和有用的唯一URL。重要性: 无限滚动或仅按钮加载可能隐藏较深的项目,而将所有页面规范化到第一页则可能将不同的清单从发现中移除。操作方法: 禁用JavaScript,跟随下一页和编号链接,检查状态码、规范化和robots指令,测试最后一页和超出范围的参数。工具: 非渲染爬取和浏览器。完成条件: 每个预期的项目可通过锚链接到达,每个有用的页面自规范化为自身,无效页码返回适当的错误而非软200,并且没有序列创建无界的URL空间。

13. 检查移动端对等性

操作内容: 比较移动端和桌面端在内容、链接、元数据、指令、结构化数据和响应状态方面的交付情况。重要性: 谷歌主要评估移动端呈现;仅在移动端隐藏有意义的内容或链接会改变其可理解的内容。操作方法: 使用桌面端和智能手机用户代理进行爬取,比较代表性模板,而非仅比视觉截图。工具: 配对爬取、移动端URL检查和浏览器响应式模式。完成条件: 所有用于含义和发现的可索引内容和可爬取链接对等,零个仅移动端屏蔽、规范化差异或错误响应。

14. 强制使用HTTPS并清除混合内容

操作内容: 验证安全交付、主机重定向、证书、规范化协议、内部URL和通过HTTP加载的资源。混合内容是指HTTPS页面请求了不安全的资源。重要性: 不安全的请求可能被阻止,暴露用户,并造成不一致的URL信号。操作方法: 爬取所有HTTP变体,检查证书覆盖范围和浏览器安全错误,搜索渲染后的资源请求。工具: 爬取器、浏览器安全面板和服务器配置。完成条件: 每个HTTP页面通过一次重定向到其匹配的HTTPS URL,所有规范化和内部链接使用HTTPS,证书对每个活跃主机有效,主动或被动混合内容请求为零。

AmICited中的工具

使用产品报告作为检查清单的证据,而非作为爬取的替代品。

  • 站点地图与索引 位于https://app.amicited.com/reports/google-search/sitemaps-indexing,显示已提交站点地图状态、警告、错误和索引操作。
  • URL检查 位于https://app.amicited.com/reports/google-search/url-inspection,提供Google对抽样URL的实时判定和所选规范化URL。
  • Bing爬取 位于https://app.amicited.com/reports/bing-webmasters/crawl,揭示Bing的爬取器活动和URL级别的问题。
  • Google搜索页面 位于https://app.amicited.com/reports/pages,帮助选择高价值落地页,并区分有可见性的页面和搜索数据中缺失的页面。
  • 目录视图 位于https://app.amicited.com/reports/directory,揭示版块级别的模式,并支持深度和孤立页面调查。
  • 数据健康 位于https://app.amicited.com/features/data-health/,记录已连接证据是否足够完整以支持自信的决策。

决策规则

阈值产生发现项;它们不能替代判断。按模板和业务重要性进行分段:十个结账分类的失败可能比一千个损坏的存档标签更重要。

检查项发现阈值默认严重级别
Robots一个预期可索引URL被屏蔽,或robots不可用/非200当范围为优先模板时为严重
站点地图覆盖率包含的预期规范化可索引URL少于95%;任何重定向、4xx5xx、被屏蔽或非规范化的条目主要;系统性遗漏为严重
索引率符合条件的URL少于90%无已解释的排除项;低于80%始终为发现项主要;当发布导致下降时为严重
规范化任何独特页面无规范化URL、有多个规范化URL、目标非200或目标非预期;任何系统性自引用错误按范围为严重或主要
响应任何内部4xx5xx;超过5%的可爬取内部URL为重定向主要;任何广泛的5xx为严重
重定向任何循环或两个及以上跳转的链;任何指向重定向的内部链接循环/链为主要,孤立过期链接为次要
重复超过一个未解释的规范化可索引URL服务于实质上相同的意图当模板范围广泛时为主要
孤立页面和深度任何有意孤立页面;优先URL深于3次点击;其他预期URL深于5次点击优先或模板模式为主要
JavaScript主要内容、规范化URL、索引指令或发现链接在初始HTML中缺失,且未被接受的已测试依赖项覆盖受影响模板为严重
Hreflang任何无效代码、缺少互惠链接、不可索引目标、重定向或错误当本地化适用时为主要
分页项目无法在没有JavaScript的情况下到达、所有页面规范化到第一页、或无界的参数组合主要
移动端对等性任何缺少的主要内容/链接、冲突的指令/规范化、或移动端专属错误当系统性问题时为严重
HTTPS任何无效证书、HTTPS降级、或主动混合内容;任何内部HTTP链接证书/主动内容为严重;其他为主要

影响×工作量×置信度进行优先级排序。根据受影响的可索引URL和业务旅程,对影响进行1–5分评分。将工作量作为便利因子进行1–5分评分,其中5表示小而可逆的变更,1表示大型有风险的计划;同时以小时或天为单位记录诚实估算。置信度评分为:0.5(合理假设)、0.75(重复出现的证据)或1.0(已复现的根因)。乘积给出了排序辅助,而非虚假的精确度。

应用依赖覆盖规则:能够解除其他工作阻塞的修复,优先于分数更高但不解除阻塞的修复。 在发布前移除robots屏蔽,优先于优化已索引的标题标签。在同一依赖级别,优先处理模板范围广泛的原因,而非症状。

交付物:按优先级排序的发现项登记表

交付一份共享登记表,而非爬取导出。每个根因一行,URL样本另行附上。

字段必需内容
发现项ID和标题稳定标识符加上缺陷的简单描述
关卡爬取能力、可索引性、内容质量或性能
根因产生症状的规则、模板、组件、部署或配置
范围和证据受影响的模板/数量、代表性URL、报告链接、爬取时间戳和复现步骤
影响对发现、资格、合并或用户旅程的预期变化;影响分数1–5
工作量指定团队、以小时/天为单位的估算、便利性评分1–5、依赖项和回滚风险
置信度0.5、0.75或1.0,附上支持该选择的证据
优先级计算分数加上任何依赖覆盖及其理由
负责人和截止日期一个具体责任人以及商定的交付日期
完成条件关闭所需的精确重新测试、阈值、样本和证据

当严重和主要发现项已有负责人和估算、阻碍项已有顺序、假设已标记、发布决策已明确时,登记表即为完成。

常见问题

一份包含200个项目的报告无人能执行

爬取导出将观察结果与决策相混淆。将重复的URL归因于导致它们的模板或规则,提供代表性样本,并指定一个负责人。由一个导航组件产生的200个损坏URL是一个具有可测量范围的根因发现项,而非200个任务。

报告症状而非原因

“页面未索引"是一个症状。原因可能是无意的规范化URL、孤立的模板、内容单薄的参数变体、移动端错误或仅依赖JavaScript的链接。一个发现项在确定可控原因或明确标记下一个诊断测试之前,还不具备优先级排序的条件。

意外审计了预发布环境

预发布环境可能有不同的robots规则、认证、数据、模板、功能标志和主机行为。在每个导出文件的顶部记录生产环境来源和Search Console属性。如果为了发布保障必须针对预发布环境运行爬取,请将其标记为独立的比较,切勿将其指标合并到生产基线中。

同时避免将有意的排除算作损失、将站点地图包含视为索引证明、仅测试首页、或仅按URL数量排序。定义符合条件的集合,按模板分段,并保留验收证据。

下一阶段

下一阶段,AI可访问性与代理就绪 ,需要一个技术上稳定的样本。移交预期可索引清单、每个优先模板的干净代表性URL、原始和渲染后的HTML比较、robots和响应证据、规范化决策、已知排除项以及待解决发现项登记表。

不要声称网站"技术上健康”。说明哪些模板通过了爬取和索引关卡,哪些仍然受阻,以及发布是否可以继续进行。下一负责人在能够测试AI特定用户代理和提取内容而无需重新发现未解决搜索爬取缺陷时,即可验收。

FAQ

技术基线审计应多久重复一次?

在迁移、重新设计、域名变更或大型发布计划之前运行,然后在发布后重新执行受影响的检查。持续监控,并在模板、导航、渲染或规范化规则发生变化时重复一次标准审计。

一个健康的网站应该具有多少索引率?

对于有意符合条件的URL,90%或以上是起始期望,80%–90%需要解释,低于80%为发现项。从分母中排除重定向、重复页面、过滤器和有意设置的noindex页面。

在技术修复进行期间,我们可以发布内容吗?

只有当新URL可爬取、可索引、已规范化、内部可链接且不受缺陷影响时才可以。如果发现或选择受阻,请暂停;新增URL只会扩大清理范围。

如果已连接Search Console,还需要爬取器吗?

是的。Search Console报告Google所观察到的情况;爬取器测试当前网站并揭示链接、响应、深度、规范化和重复页面。两者不可相互替代。

审计中发现的修复项由谁负责?

SEO负责人持有登记表和验收标准。工程团队通常负责服务器、渲染、重定向、规范化和HTTPS修复;内容团队可能负责重复和链接问题。每个项目需要指定一个具体的人。

在扩展内容之前修复爬取和索引基础
打开AmICited的站点地图和索引报告,捕获基线,将每个阻碍项转变为有负责人且可测试的发现项。

← All SEO Playbook guides

准备好付诸实践了吗?

免费检查 · 7天试用 · 无需信用卡