AI 学习零基础入门 · 更新于 2026年10月8日 · 8 分钟阅读

表格里最常见的 6 种脏数据:用 AI 去重、拆分、统格式的排查顺序

表格里最常见的 6 种脏数据:用 AI 去重、拆分、统格式的排查顺序
本文目录

周一下午,行政助理小赵接到一串任务:老板要一份上季度客户台账,按地区统计签单额,顺带把重复的合并掉。

她打开文件,1480 行,8 列。第一眼看上去没什么问题——日期有值、金额是数字、客户名也都填了。

她把整张表丢给 AI,附上一句「帮我去重并按地区汇总签单额」。

AI 回来一份漂亮的表格,小赵对着原表核了一遍,发现少了 3 家客户、2 个地区的金额对不上,还把两笔不同日期的续费算成了同一天,问题不在 AI,在于她把「洗数据」当成了一件可以外包的事。

先看清一个事实:AI 不知道哪一行才是对的

多数人用 AI 处理表格时,脑子里想的是「表格很脏,AI 帮我变干净」。但这两件事中间隔着一个必须有人回答的问题:脏数据里,哪一行才算对的?

上例里那个「只差一个空格」的客户名,只有做过半年台账的人才知道那其实是两家不同的分公司,不该合并;而日期格式混用导致的错位,只有知道「续费发生在签约 anniversary」的人才能判断该不该改。

这两个判断 AI 都做不了,因为它手里没有你的业务背景,于是就有了这篇文章要讲的东西:处理脏数据的第一步永远不是打开 AI,而是先做诊断。

6 类脏数据,特征各不相同

脏数据不是一种东西。把它们混成一句「帮我清洗」,等于让一个助手同时做六种判断,它只能猜。

那具体是哪六类,各自怎么认?

下面这 6 类是实际业务表里出现频率最高的,每一类给了识别特征和处理成本。

第1 类:重复值(最常见,也最危险)

识别特征:看起来两条一模一样,但业务上其实不同。

小赵遇到的正是这类。「XX 科技」和「XX 科技 」看起来重复,实际上前者是签单主体、后者是收款主体,两笔金额都要算。

为什么危险:去重是所有清洗动作里唯一一个会减少行数的操作,别的操作最多改错一个单元格,去重一按,整行就没了,而且不可逆——原始文件如果没备份,这笔账就永远对不上了。

第 2 类:格式不统一

识别特征:同一列里出现两种以上写法。

最常见的是日期。「2026/1/5」「2026-01-05」「20260105」「1月5日」混在一列里,在 Excel 里它们是文本,排序会乱、算差值会报错。

日期是脏数据里最值得优先处理的,因为它会连锁污染后面所有的时间计算——按月汇总、按季度统计、同比环比,全都建立在日期能被识别的前提上。

第 3 类:空格与不可见字符

识别特征:肉眼完全看不出来,但复制粘贴就出问题。

这一类的成因很生活化:从网页复制带了一层不间断空格、从系统导出带了 BOM 头、用手机拍屏幕后 OCR 识别出来的全角字符,它的可怕之处是不可见——你在 Excel 里检查这一列觉得没问题,提交到系统就报格式错误,排查半天找不到原因。

第 4 类:一格多值

识别特征:一个单元格里塞了两三个内容,用斜杠或逗号分隔,「张三/李四」「2026年 3月,第二次续费」都是这一类,处理它需要你先回答一个问题:拆开的标准是什么? 按人拆还是按行为拆?拆完是保留原列还是用原列加新列?这决定了后面能不能合并回去。

第 5 类:缺失与占位符混用

识别特征:空单元格和「无」「-」「待定」「暂无」同时存在,这一类最影响统计,求和时 Excel 会跳过文本,于是「待定」既没被算进去、也没被标记成缺失,它变成了一个静默的缺口,你在汇总里看到「本季度共 47 单」,实际可能是 49 单里有2 单被填成了「待定」。

第 6 类:口径不一致

识别特征:每一行单看都没错,合计却对不上。

最典型的是金额含不含税、同比用的是自然月还是财年、签约额按下单还是按回款。这一类不是数据问题,是定义问题,靠工具永远解决不了——它只能改数字,改不了口径。

排查顺序:为什么顺序比方法重要

上面 6 类不是并列关系,如果顺序错了,你会做无用功——先花半小时统一日期格式,再发现重复行没合并,统计结果照样是错的,那正确的顺序应该怎么排,为什么?

我的实际顺序是这样的:重复 → 日期 → 空格 → 多值 → 缺失 → 口径。

前四条能靠规则和工具解决,第五条要人工判断,第6 条要先跟需求方对齐。

三条排序理由,每条都是踩过坑的:

重复放最前,因为它是唯一一个会减少行数的操作, 一旦你开始改动单元格,就分不清哪些改动是在去重前做的、哪些是之后做的,先把行数固定下来,后面的操作才可追溯。

日期排第二,因为它传染。 日期错乱会让排序、分组、时间差全部失效。你在错乱的日期上做任何统计,结论都是错的,而且错得很隐蔽——数字看起来正常。

空格排第三,因为它决定前两步能不能被正确识别, 带着不可见空格,「2026-01-05」和「2026-01-05 」在程序看来是两个不同的值,你先去重、再统日期,都会漏掉这一条,它是底层问题,不解决,上面两层就是沙上建塔。

至于「口径不一致」为什么排最后——因为它需要你先跟老板确认。在口径没对齐之前做的一切清洗,都可能白做。 你把表洗得很干净,然后对方说「我们看的签单额是含税的」,前面全废。

让 AI 做对的前提:一次只给一类

诊断清楚之后,就可以交给 AI 了,但交法很讲究,为什么?

最常见的错误是把所有问题一次性描述出来。「帮我去重、统日期格式、去掉空格、拆分多值单元格、补全缺失项」——这句话里塞了五种判断,AI 会平均分配注意力,结果是每种都做得半吊子。

那正确做法是什么?

正确做法是一轮只处理一类,处理完自己核一轮,再进下一轮。

下面是可以直接抄的四段提示词,按上面四类的顺序对应。

第1 轮:查重复,但不合并

先只让 AI 列出疑似重复项,不要它直接删。原因前面说过:去重不可逆,而「疑似」和「确认」之间隔着业务知识。

提示词这样写:

附件是客户台账。请找出疑似重复的记录,输出一张表:
新增列 repeat_flag,值为"疑似重复-组N",其余列原样保留。
不要删除任何行,不要修改任何原始值。
分组依据:客户名+签约日期。

注意三个约束:只加列、不删行、不改值。让 AI 往表里「加东西」而不是「减东西」,是所有清洗操作的安全底线。

拿到结果后你只需要判断一件事:每组里该保留哪一行。判断完再自己删。

第 2 轮:统日期格式

附件中"签约日期"列存在多种格式:2026/1/5、2026-01-05、20260105、1月5日。
请统一转为 YYYY-MM-DD 格式,新增列 date_norm,保留原列不变。
无法解析的单元格,在 date_norm 填"待确认",并在报告末尾单独列出这些行的行号。

这段提示词里有两个关键设计:

一是不覆盖原列,新增一列。日期解析有失败的可能,保留原列才能对照。

二是明确给出失败时的行为(「填待确认并列出行号」),不给这句,AI 会自己编一个合理日期——2026-01-05 它可能猜成 2026-01-13,因为你写的是「2026年1月5日」这种写法,5日被当成别的了。任何清洗指令都必须先约定失败怎么办。

第 3 轮:查不可见字符

请检查"客户名""联系人"两列,找出含以下字符的单元格:
空格(含全角空格 U+3000)、不间断空格 U+00A0、零宽字符 U+200B。
输出行号、列名、字符的 Unicode 码位。用 repr() 形式展示原始字符串。

为什么要查Unicode 码位?因为你在屏幕上根本看不见这些字符。让 AI 用 repr() 打出来,你才能看到 'XX 科技\u00a0' 这样的真实内容,这一步做完,剩下的空白就好处理了。

第 4 轮:拆一格多值

"参与人"列存在"张三/李四"这类多值。请按分隔符拆分为多行,
新增列 split_flag 标记原行号,保持其他列原样,不合并回去。

拆成多行而不是拆成多列,是因为多列之后没法参与统计;而拆成多行之后,「同一笔单的参与人」这个关系还在。

顺带提醒一句:拆完之后行数会变,所以这一步必须放在最后做,否则前面三步的排查结果全部作废。

那些 AI 帮不上、只能人做的部分

上面四轮提示词覆盖了能被规则化的脏数据。但有一件事永远要人做,口径, 为什么这一项 AI 无论多强都替不了你?

小赵那张表,最后卡住的地方是老板说:「我们看的签单额是含税的,财务那边还有个回款口径,你两个都出一版。」

这一句话让前面所有清洗的结论都变了一档。AI 不会知道「签单额」在你这家公司对应哪个字段、哪个时间点。

所以处理脏数据的正确顺序其实是:先跟人对齐口径 → 再诊断 → 再让 AI 执行 → 最后自己核, 顺序反了,前面全是白做。

还有一个务必要做的动作:动原文件之前先备份。 如果文件是别人发给你的,找他要源文件;如果只有这一份,先复制一份,改名加日期。清洗过程不可逆,这个习惯省不了多少时间,但能救回一次事故。

收尾:清洗完不等于能交付

最后一件事经常被忽略,你把表洗干净了,交付之前还要做一次交叉核对,至少核这三项:清洗前后行数差能不能解释(每一步该减少的行都记下来);关键列的空值率变化;以及随机抽10 行人工比对原表,前两项是统计核对,第三项是抽样核对,10 行不多,但能拦住绝大多数「步骤都对、合起来错」的情况。

小赵第二次处理时,就是抽了 10 行才发现 AI 把「2026年1月5日」统一成了 2026-01-13——因为她原表里那一列有三种写法,而 AI 只按其中一种解析。规则化的操作,也可能因为没见过某种格式而出错。

顺带说一句,这篇讲的是诊断顺序和提示词结构,具体工具怎么选可以看站内另一篇:Kimi 处理 Excel 表格实测:3 步搞定脏数据那篇是工具侧的横向实测,和本文的排查顺序正好互补,表洗完之后怎么把数字变成老板要看的结论,则在用 AI 把报表变成老板要的结论里讲过。

Avatar photo

龙主编

龙主编,AI智习室官方媒体主编。 专注 AI 行业观察与实操分享,擅长将复杂技术转化为通俗易懂的实战指南。 坚信 AI 不是取代人类,而是赋能每个人。 内容风格: 真实案例 + 详细干货 + 可操作性 使命: 让普通人也能抓住 AI 时代的红利。