网站规模扩大后,最先不该继续手工做的,是那些“每新增一批页面就要重复判断一次、且判断标准已经稳定”的工作,例如旧内容的保留或退出、内链增删、页面模板检查、失效链接处理和结构化数据核对。手工做并非立刻出错,而是当页面从几十个变成几百上千个后,人工漏判和前后不一致的概率会明显上升。判断标准还没稳定的工作仍应手工做,因为此时自动化只会把错误放大。
是否适合停止手工,不取决于工作量大小,而取决于判断规则是否已经稳定。可以用一个简单标准区分:同一类页面,让两个人分别判断,如果结论基本一致,说明规则已经稳定,可以交给脚本或批量工具;如果两人经常得出不同结论,说明规则本身还没定,继续手工反而更有价值。
一个实际动作是:先抽 30 个同类页面,由两个人独立判断一轮,记录分歧点。如果分歧集中在少数边界情况,就可以把稳定部分写成规则,边界情况保留人工复核;如果分歧遍布各类页面,说明现在还不适合批量化。
旧内容退出是规模扩大后最典型的手工瓶颈。假设一个站点原有 200 篇内容,扩张到 2000 篇后,其中约三成是过期活动页、重复参数页或已停止维护的产品页(此为说明比较方法的假设数字,不是真实统计)。这时可以按两种条件分开处理。
如果一批页面既没有持续的自然搜索进入,也没有其他页面或外部来源指向它,可以批量设置 410 或 301 到最相关的上级页面,并批量移除站内入口。动作完成后,下一步应观察这些 URL 在 360 与搜狗中的抓取和索引变化,而不是立刻判断处理正确。抓取量下降或索引量归零,也可能只是搜索引擎尚未重新访问,不能单独作为处理正确的证据。
这类页面不适合直接批量删除。更稳的做法是保留 URL,改写内容指向当前仍有效的主题,或 301 到语义最接近的现存页面。这里必须逐条看,因为判断“最接近”需要理解页面原意,脚本只能辅助列出候选,不能替你做最终决定。
例外情况是:如果旧系统本身即将下线,无法保留原 URL,那么优先保证有外部引用的页面得到映射,其余页面可以批量退出。这个取舍的依据是外部引用的维护成本通常高于站内重复内容。
旧系统退出常涉及 URL 结构变化、参数规则变化和跳转规则重写。批量生成跳转规则可以交给脚本,但映射关系的确认不应完全手工,也不应完全自动。可行的做法是:脚本根据 URL 路径相似度生成候选映射,人工只复核相似度低和一对多的部分。
旧合作关系退出时,手工应保留在“哪些页面仍需要保留入口”这一步。合作终止不等于相关页面必须删除,如果这些页面仍有搜索进入,直接移除入口会造成不必要的损失。动作上可以先保留页面、撤下合作标识、更新页面说明,再根据后续进入情况决定是否退出。
规模扩大后常见的错误是二选一:要么全部保留,要么整批删除。更可操作的是分三层处理。
分层的依据不是页面数量,而是每个页面在获取内容和被搜索引擎理解上的实际作用。抓取、索引和排名是不同环节,一个页面没有被索引,不代表它没有价值;一个页面排名下降,也不代表应该立即退出。
如果站点规模虽大,但页面类型差异极大,每类页面的判断规则都不同,那么强行批量化会制造更多错误。此时更合适的是按模板分组,只在组内批量处理,组间仍手工判断。另一个例外是规则刚刚调整、尚未经过一轮验证的阶段,此时手工处理少量样本,用来确认新规则是否成立,比直接批量执行更稳妥。规模扩大改变的是执行方式,不是判断标准本身;标准没定之前,手工仍是必要环节。