前天我在公 众号中发表幸存者偏差与技术创新后意犹未尽:我多年来的工作生活中,其实一直在于这个问题相伴。在科技活动中,“幸存者偏差”无处不在。儿子吵着让我讲天文学的故事时,我讲的一段也是这个道理:
太阳系中,很多行星一直围着太阳转。如果飞得快一点,就离开太阳系了;如果飞得慢一点,就落入太阳中了。为什么它们飞得恰好不快也不慢呢?其实,太阳系刚刚形成的时候,一定有很多物质围着太阳转。其中,飞得快的飞走了,飞得慢的落入太阳里去了。只有那些恰好飞得不快也不慢的,才一直围着太阳飞......
数据分析本质一种科技探索活动,必须关注“幸存者偏差”的影响。我讲大数据分析课的时候,常常讲到“练太极拳的身体差”。真正的原因是:往往身体差的人,才去练太极拳。这不就是典型的幸存者偏差吗?在工业体系内,这种现象比比皆是:当人们采取某种手段来克服特定干扰、提高产品质量时,数据上常常有相反的表现——采取这种控制手段的产品质量反而差。这也是工业大数据分析最容易出错的地方。
其实,用“幸存者偏差”的原理,可以提高数据分析的效率和价值。怎么做呢?
当我们接手用户的数据分析问题时,用户常常说:我们不知道问题出现在哪里。遇到这样的问题,是非常头疼的,必须学会聚焦。我的方法是:问题往往出现在用户容易忽视的地方——也就是说,问题本身就是“幸存者”。
那么,哪些问题容易导致用户忽视呢?我总结过几条:工序跨度太大的时候、数据代表性不强或容易误解的时候、检测出问题的时候、相关原理与多数场景不同的时候、逻辑链条太长的时候......总之,用户想不到的地方很多,但容易出错的地方却是可以聚焦的。
宝钢多位领导说我有哲学思维。其实是工作中遇到这种需要思辨的问题太多了:作为科技工作者,如果不时常反思,也就难以成为“幸存者”。