【SEO问答】百度一直抓取已经删除的链接,如何减少抓取这样的链接?
百度一直抓取已经删除的链接,抓取404链接的占比已经是200链接的好几倍了,如何减少抓取这样的链接?在网站内链和网站地图已经剔除了这些链接,只有百度在疯狂的抓取,其它搜索引擎都不会大量抓取已经删除的链接。
由于url规则因素无法通过robots文件屏蔽掉。
站长1
那就智能尽可能统计404链接,提交给百度资源平台的死链接功能
站长2
网站是静态吗?你可以整站生成一下,防止有些正常页面,链接到404页面的。 设置404死链接页面,一定要返回状态码是404,蜘蛛爬取几次就不爬取了
文章为作者独立观点,不代表站长派立场,本文链接:https://zhanzhangpai.com/?p=1876
免责声明:本站部分内容来源互联网整理,如有侵权请联系站长删除。站长邮箱:1245911050@qq.com