直接回答:把“有效地址集合”定义为规范地址及其允许保留的参数白名单,而不是所有能返回 200 的 URL。无限参数组合下,你无法逐条验证,只能先确定哪些参数影响内容、哪些只影响展示或追踪,再决定保留、改写还是退出。缺少完整日志和权限时,最小动作是抓取一个已知参数族样本,观察搜狗收录查询结果中规范地址与实际返回是否一致;如果一致,说明该参数族尚未造成分裂,但不能据此推断全站安全。
保留适用于参数确实改变主体内容的场景,例如分页、筛选出不同商品集合、多语言切换。此时应让每个有效组合拥有稳定且可被抓取的地址,并在页面上给出指向规范版本的链接。保留不等于放任:需要限制参数个数、取值范围和排序方式,否则组合仍会爆炸。
改写适用于参数只影响排序、会话、追踪或展示偏好。常见做法是把这类参数从可索引地址中剥离,统一指向无参数版本,或改写成静态路径。前提是你能够稳定识别参数语义,并且改写后不会让用户看到与规范地址不同的内容。
退出适用于参数组合没有独立检索价值、且无法收敛的情况。退出不是删除页面,而是让这些地址不进入索引候选集合,例如通过规范标签、robots 限制抓取路径,或直接不生成内链。需要注意:robots.txt 的抓取限制不等于可靠的索引移除;已被收录的地址可能仍会出现在结果中,直到重新抓取并处理。
没有全量日志和后台权限时,不要试图枚举所有组合。选一个参数族做样本,执行以下动作:
这个动作的结果会直接影响下一步:如果第二类占多数,优先做改写;如果第一类占多数,优先做保留加收敛;如果第三类已经稳定,暂时不需要大改,但要继续观察新参数是否被引入。
假设某站点有筛选参数 color、size、sort,每个参数有若干取值,且顺序可任意排列。若全部保留,组合数会迅速膨胀。此时可以规定:color 和 size 影响商品集合,保留并固定顺序;sort 只影响排序,改写为无参数默认排序或静态路径。这样有效地址集合从“所有排列”收缩为“颜色与尺寸的有限组合”。
这个例子的数字仅用于说明比较方法,不代表任何真实站点的规模。执行后应复查搜狗收录查询中是否仍出现旧排序参数地址;如果仍出现,说明退出策略尚未生效,需要检查内链、站点地图和规范标签是否同步更新。
请求量下降、抓取量归零或某参数地址不再出现在收录查询结果中,都不能单独证明你的定义正确。它们还可能是抓取预算转移、服务器屏蔽、页面临时不可用或查询样本偏差造成的。站点地图不保证收录,HTTPS 也不保证安全无漏洞或排名提升。要判断有效地址集合是否收敛,至少需要同时看:规范地址是否稳定、内链是否只指向有效集合、以及新参数是否被持续拦截在生成环节之外。
如果条件允许,把上述样本检查固化成定期抽查,而不是一次性任务。当参数生成逻辑变更时,重新跑一遍样本,确认有效地址集合没有被悄悄扩大。这样做的结果不是保证收录,而是让你在参数无限增长时仍有一个可维护的边界。