去年我给一家中型电商做数据诊断,他们数据仓库里躺着 47 亿条用户行为记录,埋点覆盖了从首页曝光到支付成功的 217 个节点。团队负责人打开 Grafana 面板时,眼神里带着一种“我们拥有全部答案”的笃定。我问了他一个问题:“过去三个月,你们基于这些数据做了多少个上线决策?”他沉默了几秒,说出了一个让我至今难忘的数字:三个。三个月,47 亿条数据,三个决策。这不是个例。过去七年,我先后在零售、SaaS、内容平台三个赛道做过数据架构和增长策略,见过太多团队把“数据驱动”活成了“数据囤积”。今天这篇文章,我想把“数据越多越好”这个误区的真实代价讲清楚,不是从教科书里搬概念,而是从我亲手踩过的坑、亲手做过的 A/B 测试、亲手关掉的数据管道里,还原一个从业者眼中的真相。

如果只能用一个判断来总结这七年的教训,我会说:数据的价值不取决于你拥有多少,而取决于你能让多少数据“参与决策”。这个结论和大多数人对大数据的浪漫想象直接冲突,但它经得起反复检验。
我习惯用一个简单公式来衡量数据的真实效用:数据效用 = 参与决策的数据维度数 ÷ 总采集维度数 × 决策准确率提升幅度。这个公式当然不完美,它没有量纲,不能直接跨团队对比,但它的作用不是精确计量,而是强迫团队回答一个关键问题:你仓库里躺着的那些数据,有多少真正走进过会议室、走进过需求评审、走进过上线回滚的判断?在我服务过的项目中,这个比例长期徘徊在 3% 到 8% 之间。换句话说,超过 90% 的采集和存储成本,是在为一种“万一以后用得上”的心理安慰买单。
为什么这个误区如此普遍?三个原因叠加在一起:第一,技术门槛降低让采集变得几乎零成本,SDK 一行代码就能上报几十个字段,云端存储按 GB 计费看似便宜,团队很容易陷入“先采了再说”的惯性;第二,组织内的数据可见性焦虑,当你的同级团队都在晒“我们每天处理 XX TB 数据”时,很少有人敢说“我们只采了 8 个字段但做对了 5 个决策”;第三,也是最隐蔽的一个,数据分析培训市场推波助澜,市面上的课程大量教授 Python 爬虫、SQL 取数、Tableau 可视化,但极少有人教“在什么情况下应该主动放弃一批数据”。

讲到这里,有必要还原一下这种幻觉的滋生环境。2016 年到 2020 年这五年,是中国互联网行业“数据崇拜”最狂热的时期。我当时在一家 C 轮 SaaS 公司负责增长团队,亲历了从“指标驱动”到“数据肥胖”的全过程。这段经历让我意识到,“数据越多越好”不是某一个人的认知偏差,而是一套组织行为模式在特定激励结构下的必然产物。
2018 年 Q2,我的增长团队和隔壁的产品团队几乎同时立项了一个用户行为分析项目。产品团队的做法是梳理核心路径,在 12 个关键节点做埋点,每个事件附带约 5 个属性。而我们的数据分析师主动提出:既然都接入了神策(当时用的是神策),为什么不把所有页面的点击、滚动、停留时长全采了?反正 SDK 支持自动采集,多采不额外收费。我当时没有拦住这个建议,这是我犯的第一个错误。
三个月后,问题开始浮现。第一,事件量爆炸导致查询变慢,任何一次简单的漏斗分析都需要扫描数千万行数据,BI 看板加载时间从几秒变成几十秒;第二,指标污染,由于自动采集覆盖了弹窗、浮层、loading 动画等非用户主动触发的元素,“按钮点击率”这个核心指标被严重稀释,我们不得不花两周时间写过滤规则;第三,也是最致命的一点,分析师被数据淹没,当你可以看到一切的时,你反而不知道该回答什么问题。那段时间我们的分析报告呈现出一种明显的“宽而浅”特征:覆盖面很广,但每个结论都经不起推敲。
这个场景让我总结出一条血的教训:数据采集的第一原则不是“能不能采”,而是“采了之后谁会看、看什么、怎么看”。如果你回答不了这三个问题,就不要采。

2020 年我做用户研究时,遇到过一个典型的认知偏差案例。当时团队在做一个新功能的用户需求验证,问卷回收了 4200 份。产品经理看到这个样本量非常兴奋,认为“四千人的声音足够有代表性”。但我拉出数据一看,发现了三个严重问题:
第一,抽样偏差,问卷是通过 App 内弹窗分发的,但弹窗触发条件是“登录超过 3 次且版本号在 3.2 以上”。这意味着我们看到的是重度用户和新版本用户的声音,沉默用户和老版本用户的意见完全没有进入样本;第二,响应偏差,愿意点开弹窗并完成问卷的用户,本身就是高度参与型用户,他们对新功能的“强烈期待”不代表全量用户的真实态度;第三,题目设计诱导,问卷中有一道题是“您是否希望我们尽快上线以下功能”,选项列出了 5 个功能勾选框但没有任何“我都不需要”的选项,这等于默认了用户至少对其中一个有需求。
4200 份问卷,三个结构性偏差,最终导致一个结论:团队满怀信心上线的新功能,实际使用率不到 2.3%。更讽刺的是,我们在上线后的归因分析中发现,真正预测用户是否使用该功能的变量只有两个:用户过去 7 天内的核心功能使用频次和用户账号注册时长。这两个变量在原来的数据仓库里躺了两年,从来没有人用它做过需求判断。四千人的问卷,不如两个关键变量的分析。

2021 年我在一家内容平台主导推荐策略迭代,当时模型团队有一个强烈的冲动:把可用的特征从 80 个扩充到 600 个。理由很充分:内容数据(标题、正文、标签、封面图特征)、用户数据(阅读历史、搜索记录、停留时长、分享行为、收藏夹内容)、上下文数据(时间、设备、网络环境、地理位置),这些数据都在,不用白不用。
我坚持让团队先做一个对照实验:用 80 个精简特征和 600 个全量特征分别训练模型,在验证集上看 AUC 和线上 CTR 的差异。结果出乎大多数人的意料:600 个特征的 AUC 指标比 80 个特征高了 1.2 个百分点,但线上 CTR 反而下降了 0.7%。原因是什么?过拟合。600 个特征里包含了大量与用户长期兴趣无关的短期噪音,比如用户某天下午连续刷了三篇社会新闻,并不是因为他对社会新闻有持续兴趣,而是因为那天有一条突发事件的推送。这些噪音在训练集里被模型“记住”了,但无法泛化到未来的推荐场景。
这个实验成了我在团队内部推动“特征极简主义”的关键证据。我后来总结了三条经验:第一,每新增一个特征,必须证明它带来的是增量信号而非噪音;第二,特征上线前必须做时间序列交叉验证,确保它在不同时间段的表现稳定;第三,特征重要性排名后 50% 的特征,默认应该被裁掉,除非有明确的业务逻辑支撑保留。

2022 年我给一家零售企业做数据诊断,公司的一个现象让我印象深刻。他们的大屏展示着超过 60 个实时指标,从 GMV、客单价、转化率到各门店的温湿度传感器读数,滚动刷新。运营总监每天早会盯着大屏看 15 分钟,然后,几乎什么也不做。因为这个大屏呈现的是“发生了什么”,但没有告诉他们“为什么发生”或者“应该做什么”。
我们做了个实验:让运营团队把早会时间从“看大屏”改成“看三张表”,一张是昨日异常指标清单(偏离过去 30 日均值超过 2 个标准差自动列入),一张是待处理预警(库存预警、差评预警、物流延迟预警),一张是当天排期行动项。一个月后,团队的周均主动干预次数从 7 次提升到 23 次。关键改变不是数据量变少了,而是数据被压缩成了“可行动的信息”。
这让我重新思考了数据看板的设计逻辑。大多数团队的看板是按“系统模块”组织的:流量模块、用户模块、交易模块、客服模块……每个模块堆砌十几个指标。但业务决策从来不按系统模块发生。一个“退货率突然上升”的问题,涉及交易、物流、客服、商品四个系统的数据。当这些数据分散在不同的看板模块中时,决策者在拼图的过程中就耗尽了认知资源。我后来提出一个设计原则叫“场景化看板”,以业务决策场景为组织单元,每个场景只看 5 到 8 个关键指标,多一个都不要。这条原则是我在多个项目中反复验证后确定的最有效的看板设计标准。

如果你做过 A/B 测试,你一定遇到过这种情况:实验跑了两周,样本量足够大,p 值小于 0.05,你以为可以下结论了。但上线后效果和实验期完全不一样。我在 2019 年到 2023 年间亲自参与或审核过超过 200 个 A/B 测试,最有价值的一条经验是:p 值只是告诉你“差异是否可能是随机产生的”,它不告诉你“差异是否重要”。
2023 年 Q1,我们测试了一个注册流程优化方案。实验组样本量 12 万,注册转化率从 8.7% 提升到 8.9%,p 值 0.03,统计学意义上显著。产品经理准备推全量。我拦住他,做了两件事:第一,计算效应量,Cohen's d 只有 0.08,属于极其微小的效应;第二,拆分子群体,把 12 万用户按设备类型、来源渠道、新老用户三个维度拆分后重新检验,发现仅有 iOS + 自然流量 + 新用户这一个子集显著,其他组合均不显著。
这个案例的核心教训是:大数据量可以产生虚假的统计显著性。当样本量足够大时,即使微乎其微的差异也能被检测为“显著”。但业务上,我们需要的是“有实际意义的差异”,而不是“统计上不等于零的差异”。我后来把效应量和置信区间作为审实验的必看指标,p 值只是第三项。这个习惯帮我拦截了至少 6 次错误的全面上线。

归因是数据分析中最容易掉入“数据越多越好”陷阱的领域之一。2018 年我刚接触归因时,团队用的是末次点击归因,后来升级到线性归因,再后来上了基于 Shapley 值的算法归因。每一次升级,我们都在模型里塞进更多的触点数据:搜索点击、信息流曝光、Push 推送、EDM 打开、小程序分享,仿佛触点越多,归因就越“精准”。
但 2022 年我做了一次回溯分析,用 2021 年全年数据对比了三种归因模型对预算分配决策的实际影响。结论是:从末次点击升级到线性归因,预算分配的调整幅度达到 18%,确实优化了 ROI;但从线性归因升级到算法归因,预算分配调整幅度只有 3.2%,且调整后的 ROI 提升在统计意义上不显著。换句话说,我们在复杂模型上投入的半年开发时间,几乎没有产生实际业务价值。
原因事后才看清楚:归因精度的边际收益递减非常快。当你能区分搜索和推荐两个渠道的贡献时,价值巨大;当你能把推荐拆成信息流推荐和详情页推荐时,价值已经很小;当你能进一步拆分不同推荐算法版本时,价值趋近于零,因为渠道内部的预算调整空间本来就不大,你无法单独关掉某个算法版本而不影响上下游。这个案例教会我:在归因上追求极致精度之前,先确认精度提升能转化为可执行的预算调整。如果不能,那就是在解一个没有商业价值的数学题。

最后一个场景来自 2024 年我给一家金融机构做数据治理咨询的经历。这个客户的数据治理团队有 15 个人,用两年时间建立了一套极其完备的数据标准和元数据管理体系,数据质量规则超过 4000 条。入库的每一条数据都要经过十余道校验,不一致的数据被先打入“待修复池”暂不开放。领导层对这个工程的评价是“数据资产化了”。
但一线业务团队的评价截然相反。一个风控策略分析师告诉我,他想用一组商户的经营流水数据做风险模型优化,数据在“待修复池”里躺了 8 个月还没通过校验,因为部分早期商户的营业执照信息格式不一致。“等这个数据洗完,我们模型团队的两个策略迭代窗口都错过了。”他无奈地说。
这是一个经典的“为了治理而治理”的案例。我不是否定数据治理的价值,烂数据确实会毁掉分析,但我强烈反对的是:把“数据完美”作为“数据可用”的前提条件。正确的做法应该是“分级治理”:核心指标(影响结算、合规、风控判定结果的字段)设置严格校验规则,边缘字段放开容忍度;高频使用的数据优先治理,低频使用的数据甚至可以不做治理,等有人要用时再定向清洗。
我后来给他们提了一个治理策略调整方案,核心思路八个字:按需治理,容忍残缺。实施两个月后,业务可用数据集从 23 个增加到 71 个,数据相关的需求吞吐率提升了一倍以上。数据质量的绝对评分下降了大约 3 个百分点,但业务决策的质量和速度都显著改善了,这才是数据治理的真正目标。

七个场景讲完,一个自然的问题是:为什么聪明人反复犯同样的错?如果只是“因为不懂”,那么教育就能解决问题。但事实是,即使在数据分析团队内部,知道“数据越多越好是误区”的人,也不一定能避免掉进去。这说明问题不只是认知层面的,还有更深层的组织行为学和认知心理学原因。
2023 年我读了一篇关于决策心理学的论文,具体出处是《Management Science》上关于 ambiguity aversion(模糊厌恶)的综述,它给了我一个关键启发。人在面对不确定性时,天然倾向于收集更多信息来“推迟决策”,因为多收集信息这个行为本身,在心理上替代了“做决策”的焦虑感。你不是在拖延,你是在“收集数据”。这个心理机制解释了为什么很多团队明明已经能用 5 个指标回答的问题,偏要等到 50 个指标都齐了才敢开口。
我在团队内部做过一个小实验:把一个已经能用现有数据给出明确建议的分析需求,分别以“现在给结论”和“等下周全部数据到齐再给结论”两种方式呈现给同一个分析师。结果,当被告知“还有一批数据下周到”时,分析师对“现在给结论”的信心评分从 7.2 降到了 5.8。但事实上,那批下周到的数据和当前问题之间的理论相关性不到 0.15。数据的存在本身,就制造了一种“现在的判断还不够”的错觉。
这对管理者的启示是:在团队内部,需要明确区分“数据收集”和“决策制定”两个阶段,并给每个阶段设置硬性时间盒。我现在的做法是:接到分析需求后,48 小时内必须给出基于现有数据的最优判断,哪怕这个判断带有明确的置信度标注(比如“基于当前数据,置信度约 70%”)。如果需要补充数据,再单独排期。这个“48 小时原则”是我从 2021 年执行至今最有效的反囤积规则。

2022 年我经历了一次深刻的组织激励反思。当时公司数据中台团队的季度 OKR 里有一个 KR 是“数据资产覆盖率提升至 85%”,衡量的是“已接入数据中台的业务系统数据占全部可接入数据的比例”。这个 KR 看起来合理,但它直接导致的行为是:中台团队拼命游说各个业务线把数据接入中台,至于接进去之后有没有人用、用得好不好,不在 KR 的考核范围内。
结果一年下来,数据中台接入了 12 个新数据源,平台日处理数据量增长了 4 倍,但数据需求的响应中位数时长从 3 天延长到了 11 天,因为管道变粗了,查询变慢了,数据目录变复杂了,找数据反而更难了。这是一个典型的“指标达成但价值倒退”的案例。
我把这种现象称为“覆盖率的诅咒”。凡是把覆盖率、数据量、表数量作为核心 KPI 的团队,最终都会陷入数据膨胀但效用递减的困境。正确的激励应该围绕“数据被用于决策的频次和效果”来设计:多少比例的已接入数据在过去 90 天内被至少一次分析查询使用?多少分析结论直接影响了业务决策?多少决策带来了可度量的业务指标改善?这三个问题才是指向数据价值的真正标尺。
不要低估工具默认设置对行为的影响。2024 年我给一个团队做数据架构审计时发现,他们使用的某个主流移动统计 SDK,默认自动采集 34 个事件和 47 个属性,而且关闭自动采集的开关藏在四级菜单之下。绝大部分接入团队不会主动去修改默认配置,不是不想,而是不知道有这个选项,或者不知道改了会怎样。
类似的,主流云数仓产品的默认分区策略、默认生命周期管理,往往都是“永久保留、全量存储”,因为这样对厂商来说客户账单最大。但使用者如果不去主动调参,就会在不知情中积累海量从未被访问的数据。
我的建议很实操:每次接入一个新数据源或开启一个新的数据管道时,团队必须在评审文档里明确填写三个字段:数据的预期使用者是谁、第一个使用场景是什么、预计首次使用时间在接入后多久。如果这三个字段至少有一个填不出来,那就先别接。这个流程我推了两年,拦截了大约 30% 的“冲动型接入”。
说完误区和原因,必须给出一个可操作的判断框架,否则前面的分析就只是抱怨。以下是我在实际工作中经过反复调校形成的四步判断逻辑,每一步都有具体的触发条件和决策标准。
不是所有数据分析问题都对数据量有同等需求。我把常见问题分成四类,每一类对数据量的依赖曲线完全不同:
(1)归因类问题(“为什么 GMV 下降了?”):这类问题最容易被“数据多”误导。归因的核心不是数据量,而是对照组设计。你需要的是一个受冲击的群体和一个不受冲击的对照组,两组在其他维度上尽可能相似。如果对照组构造得不好,十亿条数据也归不出正确的因;如果对照组构造得好,几万条数据就能锁定关键变量。我在归因问题上坚持一个“最小数据原则”:先基于一个精心构造的对照组做初步归因,验证假设方向后再决定是否需要扩大数据范围做精细化拆解。
(2)预测类问题(“下个月的 LTV 是多少?”):预测模型对数据量的需求取决于信号稳定性和特征维度。如果预测对象的模式稳定(例如季节性波动有规律),几千条有序数据就可能得到不错的预测结果;如果模式动荡(例如受政策冲击),再多数据也难准确,找更多的数据不如找更相关的特征。预测类问题上,我优先追求特征质量的提升,而非样本量的堆积。
(3)探索类问题(“用户在使用中有哪些我们不知道的行为模式?”):这类问题确实需要较大的数据量来发现潜在模式,但需要配以清晰的信号过滤机制,否则找到的“模式”大概率是噪音。我的做法是先在小样本上做探索性分析形成假设,再在大样本上做验证性检验,这比直接在大样本上乱找效率高得多。
(4)监控类问题(“核心指标是否异常?”):监控问题的关键在于及时性而非数据量。你最需要的是准确、实时、稳定的少量核心指标,不是几百个指标的铺开。我在监控体系上坚持“少即是多”,每多一个监控指标,就多一个可能的误报来源,就多稀释一分值班人员的注意力。

这个方法论我借用的是经济学中的“边际效用”概念,但做了业务化的改造。具体操作是:在引入一个新数据源之前,做一个预分析,评估这个数据源与当前核心指标之间的最大可能相关性。如果最大可能的解释力度不超过 5%,那么这个数据源大概率不值得为它增加系统的复杂度。
2019 年我做过一次系统的边际评估。当时团队正考虑接入一个第三方数据源,用户手机安装 App 列表,据厂商说可以提升用户画像的精准度。我让团队先在已有的用户画像基础上做了一组预测实验,把安装列表信息当作“校验信号”来看它能为现有画像增加多少分类准确性。结果:整体分类准确率提升了 0.8%。再核算这个数据源的采购成本(约 12 万/年)和数据接入开发的排期成本(约 4 个人周),最终 ROI 是负的。这 0.8% 的准确率提升就算拿到了,能不能转化为实际的业务增量也是一个巨大的问号。
这个案例后来成了我培训新人时的标准教材:不是所有“可能有用”的数据都值得接,你需要一个量化的边际价值评估,而不是拍脑袋说“万一有用呢”。

这是整个框架中最核心的一步,也是最难执行的一步,因为它要求你在引入数据之前就预判数据对决策的实质影响。我摸索出的一个实用方法是“双路径预测检验”:
路径 A:用当前已有的指标集合做一次决策判断,记录判断结论和置信度。
路径 B:在路径 A 的基础上加入你想新增的数据指标,再做一次判断,看结论是否改变、置信度是否显著提升。
如果 B 的结论和 A 一致,且置信度提升不超过 10 个百分点,那新增的数据就是“冗余信息”,它让你感觉更安心,但并未实质性改变你的行动。这一类数据的选择应该被延迟或直接放弃。
我在 2023 年用这个方法评估过一个定价策略分析需求。现有数据(历史价格、销量、竞品价格)已经支持了一个置信度约 75% 的建议。团队提出新增社交媒体舆情数据来“增强分析”。双路径检验的结果是:加入舆情数据后结论没有改变,置信度从 75% 提升到 78%,提升了 3 个百分点,但舆情数据接入和清洗需要 6 周。我直接否决了这个需求,把 6 周时间用在提升定价策略的落地执行质量上,带来的业务收益远超 3 个百分点的置信度提升。
这一步很容易被忽略,但在技术层面杀伤力极大。每增加一个数据源,你增加的不仅是一个表或一个 Topic,还有:
我总结了一条经验规则:在数据架构层面,新增一个上游数据源,至少要在两个下游分析场景中证明其必要性,否则不予接入。这个“1对2”的准入规则可能看起来严苛,但它迫使需求方真的去思考“如果没有这个数据会怎样”,而不是在需求文档里写“有比没有好”。在我最近的项目中执行下来,约 40% 的“看起来似乎有用”的数据需求在申请阶段就被过滤掉了,释放出的工程和分析时间可以投入在更核心的指标上。

在全力批判“数据越多越好”之后,我必须加上这一节,为了让这个观点保持平衡。推动数据极简主义时,最怕的就是从一个极端滑向另一个极端,从“什么都采”变成“什么都不采”。以下是三种你必须保持充足数据储备的场景,缺了数据是真的会出问题。
欺诈检测、安全攻击、系统宕机,这些事件的共同特征是发生频率极低但后果极其严重。这类场景下,你需要大量历史数据来建立基线,因为异常信号的正常波动范围需要足够的数据才能被校准。2019 年我在一个支付系统工作,当时的风控模型因为数据量不够,把每年“双十一”期间正常的交易峰值误判为攻击行为,导致大量订单被错误拦截。
这个教训告诉我:对于低频高影响事件,数据量不是“越多越好”的问题,而是“不够就办不了”的问题。你需要至少覆盖一个完整业务周期(通常是一年)的数据,才能区分正常的周期性波动和真正的异常。这一类数据,该采就采,该存就存,不要吝啬。
如果你需要分析的用户群体本身就很小,比如一款 B2B 产品的付费客户只有 300 家医院,或者你的目标是对残障用户的体验做针对性优化,那么“数据精简”的空间本身就很小。300 个客户,你把所有可用的互动数据都采了也谈不上“数据爆炸”。
在这种场景下,你需要的不是减少数据,而是提高数据的颗粒度和丰富度。每一家客户的每一次沟通记录、每一个工单流转节点、每一种合同条款的偏好组合,这些数据加在一起,才能让 300 个样本产生足够的技术信噪比。我曾给一家医疗 SaaS 做分析,它的客户总数才 200 多家,但因为把每家客户从售前到续费的全链路数据都接入了,仍然做出了相当精细的客户分层和流失预警模型。
如果你从零开始做一个推荐系统或搜索排序模型,冷启动阶段确实是“数据越多越好”的阶段,但这里有一个严格的时间限制:这个阶段应该被控制在 3 到 6 个月之内,之后必须转向质量优先。冷启动期需要足够的数据量来让模型学习基本的模式结构,但一旦模型的基础性能稳定下来,再往上提升就应该靠特征工程和数据质量,而非继续堆数据量。
我 2020 年主导一个内容推荐系统的冷启动时,前四个月采集了所有可用的用户行为数据,不做筛选;第五个月开始执行特征精简和数据过滤,AUC 在接下来两个月里反而提升了 2.3%。这说明冷启动阶段的数据堆量是手段,不是目的;一旦过了这个阶段,同样的堆量策略反而会变成负担。

前面的章节把问题、原因、判断框架都讲清楚了,这一节我要给一套可以直接执行的四步操作方案。这套方案我在 2023-2024 年间先后在三个团队(一个 SaaS、一个电商、一个内容平台)里落地过,根据实际反馈做了三轮迭代。每个步骤都附带具体的执行标准、时间线和验证方式。
大部分“数据太多”的团队,第一步要做的事情不是优化,而是盘点。我指的盘点不是拉一个数据目录清单,而是回答以下五个问题:
我在每个客户团队做资产盘点时,前三个问题的答案几乎总是令人意外的,不是因为数据太少,而是因为没人能说清楚到底有哪些数据、哪些在被使用、成本是多少。一般情况下,一个中型数据团队完成这样一次全量盘点需要 2 到 4 周,产出物是一张“数据资产使用率报表”。在我 2024 年服务的三个团队中,90 天零使用率的数据资产占比分别是 31%、44% 和 52%。

盘点完成后,下一步就是针对 90 天零使用率的数据资产执行处置。处置分为三档:
第一档:立即停止采集。如果该数据资产满足三个条件,90 天零使用、无下游关键报表或模型依赖、业务方无法给出明确的“未来三个月内会使用”的计划,那就立刻在数据管道中关掉它。不要再犹豫“万一以后用得上”。我的经验是:一个数据如果过去半年都没人看,未来半年被看的概率低于 5%。
第二档:降频归档。有些数据确实有长期保留的价值(比如年度同比需要的财务数据、合规审计日志),但不需要实时在线。这一类数据从热存储迁移到冷存储,查询时效从秒级降为小时级,成本可以降低 70% 到 90%。
第三档:条件保留。有些数据目前零使用,但关联着一个即将上线的分析项目。这一类数据给予 60 天的宽限期,如果到期仍未进入实际使用状态,自动转入第一档或第二档处理。
这个三档处置框架我在 2023 年第一次推行时遇到了不小的阻力,业务方的“数据安全焦虑”非常强烈。我当时的应对方式是设置了一个“快速恢复机制”:被关掉的数据管道如果后续确实需要,可以在 48 小时内恢复采集。有这个机制兜底之后,业务方的配合意愿显著提升。到现在为止,关了 40 多条管道,恢复请求只有 2 次,且都是因为业务规划的实际变化,这说明当初的判断是合理的。
存量清理只是治标,如果入口不控制,半年后数据又会膨胀回原来的规模。我从 2022 年开始在所有团队里推行一个“数据准入评审”流程,核心是一张不到一页纸的准入清单,必须回答四个问题并达到通过标准:
实施两年多,这张清单把新增数据资产的通过率从接近 90% 压到了不到 50%。不是因为变严了,而是因为很多需求在填清单的过程中就自我淘汰了,填到第二个问题时,需求方自己会意识到“好像确实没有明确的使用场景”。
最后一步是把数据效用变成团队季度的常规动作。我设计的审计框架很简单,三个指标:
审计结果直接关联数据团队负责人的季度绩效。这看起来很“硬”,但效果非常显著,当沉默率被写进 OKR,数据资产的膨胀速度就得到了有效的组织约束。我目前服务的一家企业连续审计了四个季度,沉默率从 52% 降到了 24%,使用率从 23% 提升到 41%,而总数据资产规模反而缩减了 18%,这就是我所说的“数据极简主义”的可量化成果。

我不想把这篇文章写成“数据极简主义万能论”。不同阶段、不同规模的团队,对数据量的需求策略完全不同。一刀切的建议是危险的。以下是三种典型阶段的具体建议。
这个阶段的团队通常只有 2-5 个人在碰数据,没有专职数据工程师,甚至 BI 系统都是在第三方 SaaS 上凑合用的。此时最危险的策略就是“先全采了再说”,因为你们没有人力去处理全采带来的噪音和复杂度。
我的建议是:聚焦 3-5 个“北极星指标”的上下游数据,其他一切先不碰。举个例子,如果你做的是一个内容产品,北极星指标是“用户日均阅读时长”,那你应该采的只有:用户启动事件、内容曝光事件、内容点击事件、阅读完成事件,以及每个事件的核心属性(内容 ID、用户 ID、时间戳、来源渠道)。至于滚动深度、分享行为、收藏行为,这些在 0-1 阶段根本不值得投入宝贵的分析时间。
创业公司最稀缺的资源不是服务器费用,而是分析师的注意力。每多一个指标就多抢占一分注意力,让人看不清什么才是真正重要的。我在辅导早期团队时最常说的话是:“在你只有 1000 个用户的时候,与其看 50 个指标的仪表盘,不如给 10 个用户打电话。”
当团队从 5 人长到 20 人,业务线从 1 条变成 3 条,数据量的需求自然会上升。这个阶段不是不能增加数据,而是每增加一类数据,必须同步增加相应的治理能力。具体来说:
成长期最常见的坑是:业务在扩张,数据在膨胀,但治理投入没有同比增加。等到数据混乱到影响决策时再回头治理,成本是预防性治理的 3-5 倍。这个阶段的取舍原则是:允许数据量增长,但要求数据质量和可用性同步增长。

进入成熟期的标志不是数据量有多大,而是你开始感受到数据复杂度对组织效率的制约,跨部门取数需要排期,一个简单分析需要 JOIN 十几张表,新人入职三个月还搞不清楚数据字典结构。
这个阶段的核心动作不是增加新数据,而是系统性地删减、合并、抽象。我在一家成熟电商做过的数据架构瘦身项目,花了 6 个月把 1200 多张表精简到 400 张,回收了约 40% 的存储成本,同时因为查询路径简化,平均分析任务耗时缩短了 60%。这不是什么高深的技术,就是严格执行了一个原则:凡是能被更宽的表替代的窄表就合并,凡是可以被聚合表替代的明细表就降维,凡是没有下游依赖的中间表就删除。
成熟期经常遇到的阻力是老员工的“记忆依赖”,“那张表虽然现在没人用,但我记得三年前某次分析用过它,说不定以后还会用”。应对这种阻力的方式是:归档而不是直接删除。提供低成本但可恢复的冷存储方案,既能解放主存储和查询资源,又能保留“安全感”。
这篇文章写到现在,核心想说的其实只有一句话:数据不是资产,用起来的数据才是资产。躺在数据仓库里沉默的字节,和堆在仓库里积灰的库存没有本质区别,它占用空间,消耗管理成本,却不产生任何价值。更糟糕的是,它给你一种“我有很多数据所以我了解用户”的虚假安全感,让你远离真正重要的东西:走到用户面前,看懂行为背后的动机,在不确定中做出判断。
去年我在一次内部培训中做了一个总结,把它贴在这里作为文章的结尾:“好的数据分析师不是拥有最多数据的人,而是能用最少的数据做出最可靠判断的人。当你下一次想要接入一个新数据源时,请先花五分钟问自己:这个数据会让我的决策变快多少、变准多少?如果答不上来,就把它先放一放。你的判断力,才是整个数据系统中最稀缺的资源。”
如果你正处在数据堆积的焦虑中,我建议从今天开始做一件事:找一张纸,写下你的核心业务问题是什么,然后列出回答这个问题最少需要哪 5 个指标。盯着这 5 个指标看一周,看看你是不是已经能做出足够好的判断。我猜答案会让你意外。
我最近在做一个小型电商推荐系统的项目,为了提升准确率,我拼命往模型里喂数据,包括用户浏览时长、鼠标轨迹甚至天气数据。结果模型在测试集上表现越来越差,我头都大了。不是说大数据时代,数据越多越智能吗?到底哪里出了问题?
这是一个典型的过拟合陷阱。我曾在某电商平台负责推荐算法优化,刚开始也犯了同样错误,从10万条数据扩展到500万条,模型AUC反而从0.82降到0.73。原因是当加入大量无关特征时,模型会学习到噪声中的虚假模式。
比如天气数据可能与用户购买行为完全无关,但模型误以为某些天气组合对应某些购买,导致泛化能力变差。真正有效的做法是:先做特征筛选,使用互信息或相关系数保留关键字段。我的经验是,把最相关的20个特征用好,效果通常优于盲目引入200个特征。
实战中,我建议用逐步回归或L1正则化强制稀疏,你会发现90%的预测力藏在不到10%的特征里。所以别迷信数量,要算‘信噪比’,1克信号+1吨噪声不如1克纯净信号。
我是一家早期SaaS公司的产品经理,公司没钱、没服务器,但老板整天让我采集全量用户点击、页面停留、屏幕录制等数据,说以后数据分析能发现宇宙真理。我总觉得这样效率极低,但又怕错过什么。到底收集多少数据是合理的?有没有一个最低门槛?
这个问题我亲身经历过。3年前我帮一家营收500万的电商工具创业团队做数据基建,他们当时每月用3T的云存储存用户行为日志,但实际有效分析只用了其中不到5%。我的判断是:创业阶段,数据收集应遵循‘问题驱动’而非‘存储驱动’。具体分三步:第一,明确当前关键业务目标(比如提升次日留存5%);
第二,倒推哪些数据能直接反映或影响该指标(如登录频次、核心功能使用时长);第三,只采集这些字段,其他先打标签但不入库(例如用事件标记但不下沉到明细表)。我当时的实操是:用GA的‘核心维度’功能,只存储用户ID、行为类型、时间戳、附加属性(如商品ID),一个月成本从5000元降到800元。
记住:30个精确定义的指标比300个模糊指标有价值得多。别被‘以后可能有用’绑架,80%的冷数据从未被第二次访问。
我们团队最近做客户分群,用CRM导出的销售线索数据,里面有很多空值和重复项。同事说‘先把量堆起来,等数据多了再清洗’。结果我用这些数据跑聚类,出来的群组完全没有业务含义。难道不是数据越多,洗出来的样本越代表性吗?
这是‘坏数据发酵’效应,我把它叫做‘数据糖水化’,一锅坏掉的糖水,加再多水也救不回来。曾经我负责某CRM系统的数据分析,系统里30%的客户手机号字段为空,20%的地址填写错误。
老板要求用这些数据做地域营销,我们扩充了3倍数据量后,结果反而更差:因为空值被模型自动填充为默认值(比如‘北京市’),导致北京地区的用户画像被严重扭曲。真实案例:一家在线教育公司用含错的数据做线索评分模型,模型倾向给‘年龄=0’的异常用户打高分(因为系统把未填写的年龄默认0),投放后转化率低于1%。
我的做法是:先做数据审计,统计每个字段的缺失率、异常值分布,用箱线图识别离群点;然后设置清洗阈值,比如缺失率超过60%的字段直接剔除。数据质量达标前,不要轻易扩容。记住:一条干净的记录价值超过100条垃圾记录。一把好钥匙胜过一堆废钥匙。
我们公司把用户浏览、点击、搜索、下单甚至页面滚动深度都存下来了,每天新增几百万条事件。但每次开数据分析会,大家还是拍脑袋做决策,说数据太乱,找不到规律。说好的数据驱动呢?是不是我们方法不对?
这是典型的‘数据丰富但洞察贫瘠’现象,核心原因是收集时没有绑定业务假设。我曾在某出行平台工作,当时技术团队骄傲地说‘我们能记录用户每一步操作’,但业务团队根本不会用。
后来我主导了一个小实验:聚焦‘用户取消行程’这个单一痛点,只收集下单时间、等待时长、司机距离、价格涨幅4个字段,数据量从每天10万条降到500条。然后我们做了一周的小样本分析,发现‘等待时长超过5分钟且价格上浮10%以上’的组合,取消率高达67%。基于此优化调度策略,取消率下降18%。
这个案例说明:洞察来源于对业务问题的深度理解,而非数据规模。我建议你对照‘ARCI模型’(行动、结果、背景、干预)审查数据:每条数据能否回答‘用户在这个场景下做了什么?’‘结果如何?’‘为什么?’。如果你的数据无法直接关联到某个业务假设,它大概率是噪音。
从明天开始,关掉50%的事件埋点,只保留那些你愿意为它写分析报告的数据。


读者评论
作为一家电商公司的数据负责人,这篇文章几乎就是在写我的日常。我们仓库里也有几十亿条数据,但真正推动产品改版的决策一个月也就两三个。场景一提到的埋点膨胀和指标污染太真实了,我之前就是那种‘既然能采何乐不为’的心态,结果查询越来越慢,看板越来越乱。文章里的‘场景化看板’思路让我豁然开朗,回去就要试试把按系统模块组织的看板改成按业务场景组织。
用户调研那段简直就是我们团队的翻版。之前做一个功能迭代,回收了三千多份问卷,样本量够了就急着上线,结果使用率不到5%。后来复盘发现,问卷分发渠道天然屏蔽了沉默用户,样本本身就有结构性偏差。文章说的对,数据多不代表代表性强,真正有用的反而是沉淀在仓库里没人问津的基础字段。这篇文章值得每个产品经理和数据分析师认真读一遍。
我是做推荐系统的技术背景,看到场景三里80特征与600特征的对比例子非常熟悉。好多同行总想着堆特征刷离线auc,完全忽略了过拟合和线上劣化的风险。文章提到的新增特征必须证明是增量信号这个原则,我已经截图发给团队了。不过想请问一下作者,时间序列交叉验证的具体做法有没有更详细的分享?这篇文章让我重新审视了自己负责的推荐管线的特征治理。非常实用且有深度。