跳到正文
原文
Neilpatel新闻· Neil Patel·· 5 小时前编辑评分24

XML Sitemap 优化:如何提升网站可抓取性

XML Sitemap Optimization: How to Improve Crawlability

编辑导读

XML sitemap 应仅收录希望搜索引擎抓取和索引的规范 URL,动态 sitemap 能随页面新增、删除、重定向或变更自动更新。

要点

  • XML 站点地图应包含你希望搜索引擎抓取和索引的规范网址,而不是网站上的每个网址。
  • 对于大多数网站而言,动态站点地图是最佳选择,因为它们会随着页面的添加、移除、重定向或更改而自动更新。
  • 确保 日期准确,并仅将其用于有意义的页面更新,让搜索引擎学会信任这一信号。
  • Google 会忽略 和 标签,因此包含它们对 SEO 没有好处。
  • Google Search Console 可以将你的站点地图变成一种诊断工具,显示哪些已提交的网址正在被发现和索引。

大多数网站都有 XML 站点地图。不过,其中很多站点地图并未得到优化。 

这意味着网站所有者错失了一个改善 SEO、领先竞争品牌的好机会。

你的站点地图为搜索引擎提供了一张通往你希望其找到的内容的路线图。当这张路线图充斥着重定向网址、非规范网址或过期内容时,搜索引擎就更难完成自己的工作。

这会迫使搜索引擎花时间筛选你并不希望它们索引的网址。

另一方面,优化良好的站点地图能为搜索引擎提供一条更直接的路径,通往你最重要的内容。它有助于更快地发现新页面和更新过的页面,并让搜索引擎专注于你最希望它们抓取和索引的页面。

在本指南中,我们将探讨站点地图中应该包含什么、不应该包含什么。我还会向你展示如何构建站点地图,以帮助搜索引擎更高效地抓取你的网站。

什么是 XML 站点地图?

简单来说,XML 站点地图是一个列出你希望搜索引擎了解的网址的文件。可以把它视为目录,帮助爬虫了解你的网站上有哪些内容。

    (“XML”代表“Extensible Markup Language”,即一种组织和共享信息的方式。)

    站点地图为爬虫提供通往重要网址的直接路径,因此它们不必完全依赖链接来发现这些网址。当重要页面深藏在网站中,或未通过内部链接得到良好连接时,这一点尤其有用。

     Image of a Google ‘crawler’ to illustrate how a sitemap directs it to your website.

    AI 和 LLM 爬虫在发现网址时也可以引用你的站点地图,这使优化后的站点地图成为除了 Google 和 Bing 之外,帮助 AI 平台发现你的内容的另一种方式。

    一个基本的站点地图条目只需提供几项有用的信息:

    • 页面的位置:https://www.example.com/mypage
    • 页面最后一次实质性更新的时间:2026-09-30

    你可能已经在旧版站点地图示例中见过 和 。Google 会忽略两者,因此如今没有理由再包含它们。

    拥有站点地图只是起点。如果其中充斥着过期或被重定向的网址,你从中获得的价值就远不及本可获得的那么大。下面我们来看看如何优化它。

    动态站点地图与静态站点地图:该使用哪一种?

    如今有两种站点地图:静态站点地图和动态站点地图。

      静态站点地图会捕捉特定时间点你网站上的网址。问题在于,你的网站并非一成不变。 

      发布新页面、删除旧页面、更改网址或重定向页面后,你的静态站点地图就会过期。除非每次进行更改时都重新生成它。

      不过,动态站点地图可以跟上这些变化。它会随着你的网站演进而自动更新,因此搜索引擎始终能准确获知你网站上当前上线的 URL。对大多数网站来说,这是更好的选择。

      即使你不是 SEO 专家,也可以自己构建动态站点地图。许多内容管理系统和网站平台都能为你生成站点地图。

      WordPress 用户可以使用 Yoast SEO 或 Rank Math 等插件,而 Shopify 和 Squarespace 等平台则内置了站点地图功能。

      A screenshot of the “View the SML Sitemap” option in Yoast SEO.

      来源链接: https://yoast.com/app/uploads/2024/12/viewsitemaps-768×163.jpg 

      Screenshot of the Rank Math HTML Sitemap tool.


      来源
      https://rankmath.com/wp-content/uploads/2022/11/html-sitemap-options.jpg 

      如果你的网站是定制开发的,开发者可以编写一个自动生成并更新站点地图的脚本。动态站点地图生成工具也是另一个选择。

      静态站点地图仍然有其用途。

      Screaming Frog 等 SEO 工具可以抓取你的网站并生成静态站点地图,记录你当前的 URL。这使它适合用于审计网站和诊断站点地图问题。

      尽管如此,我不会把该静态文件用作网站长期运行的生产环境站点地图。请使用能够跟上网站变化的动态站点地图。

      你的 XML 站点地图应包含哪些标签?

      优化站点地图的关键之一,是确保你提供给搜索引擎的信息确实有用。就标签而言,你不需要提供太多。

        对于标准 XML 站点地图,有两个标签是我最关注的:

        <loc>:页面 URL

        这是唯一必需的标签。它告诉搜索引擎在哪里可以找到该页面,并且必须包含你希望被索引的完整规范 URL。

        这里必须准确。URL 应使用正确的协议(http 或 https),并与你的 URL 是否使用 www 保持一致。因此,如果某个页面的规范版本是 https://www.example.com/page,那么站点地图中就应当准确填写这个地址。

        <lastmod>:页面最后一次有实质性更新的时间

        这个标签是可选的,但可能很有用。Google 可能会利用准确的 <lastmod> 日期来判断页面何时发生变化,以及是否应再次抓取该页面。

        这里的关键词是准确。

        不要仅仅因为版权年份变了或做了轻微的外观调整,就更新 <lastmod>。Google 表示,该日期应反映页面的重大更新,例如主要内容或结构化数据的变更。

        如果你的 <lastmod> 日期始终不准确,Google 可能停止将其作为抓取信号使用。

        同样,你也可能在较旧的站点地图示例中看到 <changefreq> 和 <priority>。你可以将它们省略。Google 会忽略它们。

        这两个标签都不会告诉 Google 应多频繁地抓取某个 URL,也无法让 Google 确信你的某个页面值得更多关注。因此,应把重点放在其他地方。

        对于大多数网站,让站点地图保持简单且准确是最佳做法。

        哪些页面应包含在你的 XML 站点地图中?

        虽然这可能违背你的所有直觉,但不要把 XML 站点地图做成网站所有 URL 的清单。相反,它应当只列出你希望搜索引擎抓取和索引的页面。

          这一区别对于站点地图优化非常重要。用会重定向或返回错误的 URL 塞满站点地图,会浪费抓取资源,并就你真正认为哪些页面重要发出相互冲突的信号。

          以下是你应该排除的内容:

          • 301 重定向:应改为包含最终目标 URL。没有必要让爬虫访问一个 URL 后再重定向到另一个 URL。
          • 404 和 410 页面:这些 URL 已不再包含你希望被索引的内容,因此不应出现在你的站点地图中。
          • 非规范 URL:如果某个页面的 canonical 标签指向另一个 URL,请在站点地图中放入该规范 URL。
          • Noindex 页面:纳入这些页面会向搜索引擎传递相互矛盾的信息。你的站点地图表示“这里有一个我希望被索引的页面”,而 noindex 指令却恰好相反。
          • 分页 URL:通常可以排除这些 URL,除非各个页面原本就打算作为搜索着陆页。
          • 参数 URL:筛选器、排序选项、会话参数及类似功能可能会生成大量本质上相同的 URL 变体。除非某个变体具有独立的 SEO 价值,否则应将其排除。
          • 实用工具页面:登录页和账户页是为已经进入你网站的用户打造的,不会吸引搜索流量。其他页面(如隐私政策)可能是业务所必需的,但大概不需要放进你的站点地图。

          你的目标不是构建尽可能大的站点地图,而是向搜索引擎提供一份简洁、可信且仅包含你真正希望出现在搜索结果中的 URL 清单。

          哪种站点地图类型最适合 SEO?

          对于大多数网站,标准 XML 站点地图就足够了。它会列出你希望被索引的规范 URL,并在适当的情况下包含准确的 <lastmod> 日期。

            不过,对于某些网站,还有其他适合的站点地图格式,包括:

            站点地图索引文件

            当你的站点地图达到 50,000 个 URL 或压缩后大小达到 50 MB 时,就需要将其拆分为多个文件。站点地图索引是一个单一文件,用于指引搜索引擎找到每一个单独的站点地图文件。

            我建议按内容类型组织这些文件,并为其指定描述性名称,例如 /sitemap-blog.xml 或 /sitemap-products-mens.xml。这样一来,在 Google Search Console 中按内容类型进行分析会更容易。

            图片站点地图

            你可以在标准 XML 站点地图中加入图片信息,而不必单独创建一个。

            不过,对于大多数网站而言,ImageObject 等结构化数据能向搜索引擎提供更多有关图片及其与页面关系的信息。

            视频站点地图

            如果视频在你的网站中占较大比重,专用的视频站点地图可以让你向搜索引擎提供有关每个视频的额外信息。你也可以只在现有站点地图中添加视频标签。

            Google News 站点地图

            这是专为新闻发布商设置的。它只能包含最近两天内发布的文章 URL。

            较旧的 URL 应从 News 站点地图中移除,但仍可保留在常规站点地图中。

            HTML 站点地图

            这类站点地图略有不同。它们是为帮助用户浏览网站而构建的页面,而不是为引导搜索引擎爬虫而创建的文件。

            如果你的导航和内部链接已经让用户能够轻松找到内容,那么 HTML 站点地图不太可能带来太大作用。先查看用户是否确实在使用你的站点地图,再决定是否在全站显著位置提供链接。

            对于大多数网站,请从标准 XML 站点地图开始。只有当内容确实需要时,再添加专门的站点地图格式。

            如何提交并验证 XML 站点地图

            既然你已经优化了站点地图,现在是时候让它发挥效用了。下一步是确保搜索引擎能够找到并处理它,从而在你的网站发生变化时保持最新状态。

            将站点地图提交到 Google Search Console

            先从 Google Search Console 开始。如果你还没有连接网站,请按照 Google 的说明添加并验证你的网站属性。

            设置完成后,在 Search Console 中选择你的网站,并点击“索引”部分下的“站点地图”。

            A screenshot from Google Search Console with an arrow pointing to the Sitemaps link

            。在“添加新的站点地图”下输入你的站点地图 URL,然后点击“提交”。

            A screenshot from Sitemaps in Google Search Console where new sitemap URLs are added.

            不过,提交后不要就此止步。查看站点地图报告,了解 Google 上次读取该文件的时间,以及处理过程中是否遇到任何错误。

            A screenshot from in Google Search Console where new sitemaps can be tested.

            修复发现的任何问题,完成后重新提交站点地图。

            请记住,提交站点地图并不保证 Google 会抓取或索引其中的每个 URL。但这能为 Google 提供另一种发现你希望获得搜索排名的页面的方式。

            将站点地图添加到 Robots.txt

            我还建议在 robots.txt 文件中引用你的站点地图。

            包括 Google 和 Bing 在内的所有主流搜索引擎都支持站点地图字段,这能让读取该文件的爬虫直接访问你的站点地图。

            只需添加一行类似下面的内容:

            Sitemap: https://www.example.com/sitemap.xml

            请使用完整 URL,包括协议和域名。如果你使用站点地图索引文件,则应让爬虫指向该文件。

            将站点地图提交到 Bing

            虽然 Google 主导着网络搜索,但 Bing 仍然值得你花几分钟处理。根据 Statcounter 的数据,2026 年 8 月 Bing 约占全球搜索引擎流量的 4.5%。

            要向 Bing 提交站点地图,请登录 Bing Webmaster Tools。选择已验证的网站并打开“站点地图”部分。点击“提交站点地图”,输入 URL,然后提交。

             A screenshot of Microsoft Bing Webmaster Tools, on the Sitemap page.

            之后,你可以监控其处理状态,并查看 Bing 提供的任何错误或警告。

            使用 IndexNow 实现更快的更新

            网站内容发生变化时,你不必总是等待搜索引擎重新抓取。IndexNow 是一种免费的开源协议,当某个 URL 被添加、更新或移除时,你可以借此通知 Bing 和其他参与该协议的搜索引擎。

            如果你经常更改网站内容,IndexNow 会尤其有用。许多 CMS 平台和 SEO 工具都可以通过 Rank Math 或 Yoast SEO 自动执行这一流程。开发人员也可以直接使用 IndexNow。

            这并不能取代 XML 站点地图。可以把站点地图视为完整的、持续维护的 URL 清单,而 IndexNow 则在发生变化时提醒参与协议的搜索引擎。

            使用站点地图报告诊断索引问题

            将站点地图提交到 Google Search Console 后,该工具会持续提供有价值的反馈。事实上,其报告可以帮助你识别索引问题,并准确找出问题发生的原因。

            先查看站点地图的提交状态。绿色的“成功”表示 Google 已处理你的站点地图。但如果看到错误,请点击进入以了解出了什么问题。

            然后修正问题并重新提交。

            接下来,关注 Google 从你的站点地图中发现的 URL 数量,以及最终进入索引的 URL 数量。如果两者存在较大差距,就需要进一步调查。

            有些排除项完全正常。排除项数量过多可能意味着你遇到了技术问题,或者 Google 认为你的某些页面不适合编入索引。

            这就是为什么如果你将网站拆分为多个站点地图,我建议使用描述性名称。不要使用 sitemap-1.xml 和 sitemap-2.xml,而应使用 sitemap-blog.xml、sitemap-products.xml 等名称。

            例如,如果大多数被 Google 索引排除的 URL 都来自产品站点地图,你就能立即知道应该把调查重点放在哪里。

            对于规模较大的网站,还有一件事需要记住。Google Search Console 将站点地图报告限制为 1,000 个 URL。因此,如果你需要检查每一个受影响的 URL,就应将站点地图分成每组 1,000 个,而不是将每组的数量最大化到 50,000 个 URL。

            这意味着你需要创建和管理更多站点地图文件,因此请仅将此方法用于确实需要更高可见度的网站。

            使用 Ubersuggest 查找站点地图错误

            即使优化了站点地图,你仍然需要定期检查它是否存在问题。Ubersuggest 的 Site Audit 可以帮助你发现与站点地图相关的问题,同时让你更全面地了解网站的健康状况。

              以下是使用 Ubersuggest 检查站点地图错误的方法:

              步骤 #1:输入你的域名,然后点击“搜索”。

              Ubersuggest homepage with a search bar for entering a domain or keyword and a Search button.

              步骤 #2:点击左侧边栏中的“Site Audit”。

              Ubersuggest navigation menu with Site Audit selected under the Analyze and Audit section.

              步骤 #3:查看你的 Site Audit 结果。

              Ubersuggest Site Audit results showing Pages Crawled and SEO Issues Discovered.

              要查找站点地图中的问题,请查看与页面状态、SEO 问题、严重错误、警告和建议相关的数据。

              例如,当你点击“严重错误”时,以下是我的网站显示的结果:

              Ubersuggest Site Audit Critical Errors report showing SEO issues analyzed.

              我的站点地图没有问题,但如果有问题,你可以在这里找到更多信息。除了问题本身,你还会看到一个“了解更多”按钮,用于提供其他信息。

              Ubersuggest sitemap issue details explaining what a sitemap.xml file does and linking to guidance for creating or fixing one.

              然后,你可以按照相关提示进一步了解如何修复错误。

              Site Audit 还可以让你更全面地了解网站的技术健康状况,因此你可以在检查其他 SEO 问题的同时检查站点地图问题。这样一来,它就适合作为定期检查工具,而不是运行一次后就置之不理。

              定期使用 Ubersuggest 检查站点地图的健康状况。每月运行一两次审计只需几分钟,并且可以随着网站变化帮助你及时发现问题。

              常见问题

              我应该如何决定将哪些 URL 包含在 XML 站点地图中?

              包含你希望搜索引擎抓取和编入索引的规范 URL。排除重定向页面、错误页面、noindex 页面,以及指向的页面并非其规范版本的 URL。把站点地图看作一份重点展示你希望出现在搜索结果中的页面的清单。

              更新站点地图结构能否加快最近发生更改的页面的索引速度?

              这可以帮助搜索引擎发现更改,但不保证能加快索引速度。请确保站点地图准确无误,并使用 <lastmod> 标识经过实质性更新的页面。Google 可以根据准确的 <lastmod> 日期决定是否再次抓取某个 URL。

              我应该如何处理规范标签、分页内容和查询参数?

              你的站点地图 URL 应与规范标签保持一致。在大多数情况下,应排除分页 URL 和基于参数的 URL,除非你明确希望对这些页面进行索引。如果站点地图将 Google 指向某个 URL,而规范标签却指向其他地方,你就在向搜索引擎发送相互冲突的信号。

              什么时候适合在站点地图中添加图片或视频条目?

              当图片或视频是你希望人们在搜索中发现的重要内容时,可以使用它们。你可以将图片或视频信息添加到现有的 XML 站点地图中,而不必为每项内容单独创建文件。

              哪些常见的站点地图错误会导致搜索引擎跳过该文件?

              首先检查你的站点地图是否可以访问且格式正确。损坏的 URL、无效的 XML、错误的 URL 格式,或文件超出站点地图大小限制,都可能引发问题。提交后,请检查 Google Search Console 中的处理错误,以了解需要修复哪些问题。

              结论

              当你把 XML 站点地图视为具有营销价值的内容,而不只是技术 SEO 待办事项清单上的一个勾选项时,它才会发挥最大作用。

                良好的 XML 站点地图优化能让搜索引擎清楚了解你希望其抓取和索引的页面。它还意味着要保持 <lastmod> 日期准确无误,这样 Google 在决定哪些内容可能需要重新抓取时才会信任这些日期。

                你的站点地图还可以帮助你发现问题。Google Search Console 报告让你能够比较已提交的 URL 与 Google 实际索引的 URL;当某些情况看起来不对劲时,这能为你提供一个诊断起点。

                请记住:站点地图只是整体技术 SEO 策略的一部分。如果你想聘请值得信赖的专家来协助发现并修复技术 SEO 问题,NP Digital 可以提供帮助。

                来源:Neilpatel新闻 · https://neilpatel.com/blog/xml-sitemap/

                部分链接为推广/关联链接。