不要按“首页/内页”或“新/旧”随意分组。先用一个假设情境说明:某站一次上线200个结构相同的商品页,百度只发现其中约30个,其余170个在日志里几乎无抓取。此时要判断的是“为什么这30个被优先发现”,而不是立刻改模板。对照组应按被发现路径划分,而不是按页面属性划分。
假设这200个页面中,有40个出现在站点地图里、30个有站内链接指向、130个只能靠列表分页逐层进入。若只按“是否在站点地图”分组,会混淆站内链接的贡献。更稳妥的做法是构造三组:
这样划分后,如果A组被发现比例明显高于B组,说明站点地图可能起了作用;如果A、B接近而C明显偏低,问题更可能在入口深度,而不在站点地图本身。这一步决定了下一步是改链接结构还是改提交方式。
对照组若内容差异过大,结论会被污染。假设这200个页面里,被发现的30个恰好是库存充足、有参数表、有用户评价的页面,那“是否被发现”可能只是内容差异的结果。可操作的做法是:
如果无法凑出足够数量的可比页面,说明当前样本不足以支撑“入口来源导致发现差异”的判断,此时应先补内容,而不是继续调入口。
假设上述200页中,内容完整度接近的有90页:A组30页、B组30页、C组30页。观察一段时间内的抓取日志后,若A组被发现25页、B组24页、C组6页,那么差异主要出现在C组。此时合理的下一步是:给C组页面增加至少一条来自已被抓取页面的站内链接,然后观察C组是否向B组靠拢。
如果A、B两组差异也很大,比如A组25页、B组8页,则站点地图的提交方式值得单独验证。验证方法是:从B组中随机抽10页加入站点地图,保持其他条件不变,再对比这10页与B组剩余页面的抓取变化。这个动作的结果直接决定下一步是扩大站点地图覆盖,还是回到链接结构。
当页面之间不是同模板、同层级、同内容类型时,按入口来源分组会失效。例如促销页、资讯页、商品页混在一起,抓取差异可能来自模板复杂度或更新频率,而不是入口。此时应先把页面按模板聚类,再在每一类内部做入口对照。
另外,抓取量归零或发现量很低,不能单独证明某个入口无效。服务器返回异常、页面被robots.txt限制抓取、内容重复度高,都会产生类似现象。robots.txt限制抓取也不等于可靠的索引移除,站点地图不保证收录。需要结合日志状态码和页面自身条件一起看,再决定是否调整分组变量。
对照的终点不是“哪组高哪组低”,而是确定一个可复现的入口动作。若C组补链接后被发现比例上升,就把该链接位置固化到模板;若B组加入站点地图后无明显变化,就不要再把站点地图当作主要手段,转而检查分页深度和列表页可达性。每一步动作的结果,都应回到同一组页面做前后对比,而不是换一批新页面重新开始。
只有把分组变量、控制条件和动作结果串成一条可回退的链路,批量页面部分被发现的问题才会从猜测变成可验证的判断。