【SEO问答】百度一直抓取已经删除的链接,如何减少抓取这样的链接?

SEO问答】百度一直抓取已经删除的链接,如何减少抓取这样的链接?

百度一直抓取已经删除的链接,抓取404链接的占比已经是200链接的好几倍了,如何减少抓取这样的链接?在网站内链和网站地图已经剔除了这些链接,只有百度在疯狂的抓取,其它搜索引擎都不会大量抓取已经删除的链接。

由于url规则因素无法通过robots文件屏蔽掉。

站长1

那就智能尽可能统计404链接,提交给百度资源平台的死链接功能

站长2

网站是静态吗?你可以整站生成一下,防止有些正常页面,链接到404页面的。 设置404死链接页面,一定要返回状态码是404,蜘蛛爬取几次就不爬取了

文章为作者独立观点,不代表站长派立场,本文链接:https://zhanzhangpai.com/?p=1876

免责声明:本站部分内容来源互联网整理,如有侵权请联系站长删除。站长邮箱:1245911050@qq.com

(0)
上一篇 2022年3月23日 上午9:57
下一篇 2022年3月23日 上午10:03

相关推荐