先给结论:自动导出遗漏分页,通常不是“导出失败”,而是导出任务只取到了第一页或某个时间窗口内的结果,后续分页没有被纳入。检查完整性的核心动作,是把导出文件的记录数、时间范围、分页边界和筛选条件,与工具当前可见的结果逐项对照;如果对照不成立,就不要直接进入分析或分发环节。
同样表现为“少了数据”,原因可能完全不同。先区分三类情况,再决定保留、改写还是退出当前导出方案。
如果导出文件只有几十条、且时间戳跨度很短,优先怀疑时间窗口;如果记录数正好是整页大小的倍数,优先怀疑分页边界;如果 URL 结构明显单一,优先怀疑筛选条件。
不要只看导出文件本身。完整性检查需要至少一个外部参照。以下三个对照点按可靠性从高到低排列,能拿到哪个就用哪个。
假设一个场景:某次导出得到 200 条记录,工具列表显示总数为 437 条,且导出文件最后一条记录的时间比任务发起时间早了约 6 小时。这时可以判断,遗漏同时涉及分页边界和时间窗口,不能只补抓最后一页。
检查出遗漏后,下一步不是立刻重跑,而是先判断当前方案是否值得保留。三种取舍各有适用前提。
如果导出文件覆盖了大部分时间范围和主要 URL 类型,只是最后一页或最后一段时间缺失,可以保留已有数据,单独补抓缺失部分。适用前提是:你能明确说出缺失的边界在哪里,并且补抓后可以合并。动作上,先记录缺失的起始页码或起始时间,再单独发起一次范围更窄的导出。补抓结果与原有文件合并后,需要重新检查记录是否有重复。
如果遗漏是因为筛选条件过窄、每页条数设置不合理,或者导出任务本身不支持自动翻页,就需要改写导出方式。适用前提是:工具允许调整筛选条件或分页参数,并且你能在调整后重新验证。动作上,先去掉非必要筛选,把时间范围缩小到可完整覆盖的一段,再分次导出。分次导出的结果需要保留每次的时间范围标记,否则合并时无法判断覆盖是否完整。
如果工具不显示总条数、不显示分页边界,也不提供导出任务的时间范围说明,那么每次导出都无法验证完整性。这种情况下,继续使用自动导出会把不确定性带入后续分析。适用前提是:你已经尝试过调整筛选和分页,仍然无法建立可核对的参照。动作上,改用能显示结果总数或分页信息的方式获取数据,或者把导出结果标记为“未验证”,不用于需要完整覆盖的判断。
个别样本上成立的检查方法,放到规模化场景里可能失效。需要提前写清边界。
如果导出文件的记录数、抓取量或某个统计值出现归零,也不能单独证明处理正确。归零还可能来自筛选条件过严、时间窗口没有匹配记录、字段映射错误或工具侧结果尚未生成。需要结合分页边界和时间范围一起判断,才能决定是补抓、改写还是退出。
完整性检查的终点不是“确认有遗漏”,而是决定下一步做什么。如果三个对照点都指向同一段缺失,并且你能说出缺失的边界,就补抓并合并;如果对照点之间互相矛盾,先不要合并数据,而是缩小范围重新导出一次;如果无法建立任何对照点,就把当前导出标记为不完整,不进入依赖完整覆盖的分析。每次导出后保留导出时间、筛选条件、记录数和最后一条记录的时间戳,这些信息是下一次判断完整性的起点。