先把“未被发现”当成待检验的假设,而不是结论。划分对照组的核心是让两组页面只差一个变量:一组进入提交链路,另一组保持原样,然后比较被抓取和进入索引的比例。若两组在模板、内链、上线时间上本来就不同,比较结果无法归因于提交动作。
假设一个情境:某站点有 800 个新页面,通过站点地图和提交接口推送后,日志显示约三成有抓取记录,其余没有。此时若直接把这 800 个页面分成“提交过”和“没提交过”,两组几乎必然不可比,因为提交往往优先给了重要栏目或更新更频繁的页面。
更稳妥的起点是先固定判定标准。用服务器日志中的抓取记录、站点地图文件的访问记录、以及页面在索引中的可见状态三者交叉确认,而不是只看某一个信号。抓取量下降可能来自抓取预算分配变化、服务器响应变慢、或该批 URL 本身被判定为低价值,不能单独证明提交无效。
判定口径一旦固定,就把它写进分组规则里,后续所有比较都基于同一标准。这一步做错,后面再精细的对照也救不回来。
常见两种做法各有成立条件。
随机对照适合页面之间差异不大、总量足够的情况。把同批次页面随机分成 A、B 两组,A 组走完整提交链路,B 组只保留原有内链和站点地图,不做额外提交。代价是需要足够的样本量,否则随机波动会淹没真实差异;而且如果站点规模小,拆组后每组都不足以观察出稳定趋势。
配对对照适合页面天然分层的站点,比如商品页、文章页、栏目页混杂。做法是先按模板、层级深度、上线时间、内链数量等特征配对,每对中一个进提交组、一个进对照组。代价是配对维度选错会引入新的偏差,比如只按模板配对却忽略了页面内容更新频率的差异。
选择条件可以简化为:页面同质、量足,用随机;页面异质、量少,用配对。若两者都不满足,先缩小问题范围,只对某一类模板做对照,而不是强行覆盖全站。
分组之后,需要能区分“提交起作用”和“其他原因导致被发现”的证据。可以观察这几类信号:
如果提交组被抓取更多,但对照组中部分页面也因内链更新被抓取,说明发现渠道不止一个。这时应把“是否新增内链”作为另一个变量单独观察,而不是笼统归因。
具体动作:在提交前,先给这批页面建立一份带分组标记的清单,记录每个 URL 的模板类型、层级、上线时间、内链数量,然后按配对规则分好 A、B 组,再只对 A 组执行提交。
这个动作的结果会直接决定下一步:如果 A、B 两组在两周内抓取比例接近,说明提交不是当前瓶颈,应转向检查内链结构或页面质量;如果 A 组明显更高,且差异稳定,才可以把提交作为可复用的动作推广到同类模板。注意,站点地图提交不保证收录,robots.txt 中的抓取限制也不等于可靠的索引移除,这些信号只能作为辅助判断,不能替代对照结果。
不同搜索引擎对提交接口的支持情况需要分别核查,同一份分组方案未必适用于所有引擎。若站点同时面向多个引擎,应按引擎分别记录抓取和可见状态,而不是合并成一个总数。另外,HTTPS 部署不保证页面安全无漏洞,也不直接决定排名,它不应成为分组变量。
最后,若某组数据在某段时间内归零,先别急着下结论。抓取量归零可能来自日志采集中断、服务器临时不可达、或该批 URL 被临时降权,这些都需要用其他证据排除后,才能回到对照结论上。