NO.806 为什么说机器只是人的延伸?


策划人:张露莎

和你一起终身学习。这里是罗辑思维。

昨天我们讲了一个很离奇的医疗事故。在美国,一个16岁男孩,竟然被医院喂下了高于常规量38.5倍的抗生素,差点丧命。昨天我们已经总结了:是因为机器太能干了,所以制造了空前复杂性;因为机器太可靠了,所以让人放松了警惕;又因为机器太强大了,所以把很小的错误放大成了一场灾难。

看到这件事,很容易得出一个结论,机器不行,安全这事还是得靠人。昨天那个故事里,只要一个大活人,甭管是送药的护士,还是吃药的病人,只要有起码的警觉,多核对一下,不就可以避免悲剧吗?

常识告诉我们,我们生活在一个机器时代。只靠人怕是也不行。今天我们再来看另外一个例子。

2017年的第89届奥斯卡颁奖典礼,闹了一出乌龙事件。把最重头的“最佳影片”奖颁错了。

事情是这样的。当时颁奖嘉宾宣布“最佳影片”是《爱乐之城》。那你想,当然是全场轰动。场外呢,各大媒体几乎同时发了消息,向全球都播发了,主创团队都激动地在台上发表过感言了。结果过了两三分钟,主办方尴尬地宣布,对不起大家,sorry,刚才的奖颁错了,“最佳影片”奖应该是《月光男孩》,不是《爱乐之城》。

你看,这就很尴尬了。

那为什么会出现这个乌龙呢?因为负责递颁奖信封的人把信封拿错了。那这个递信封的人是谁啊?不是普通的阿猫阿狗,是普华永道的审计师。

这件事,说起来有点怪。我们都知道普华永道是全世界最著名的会计师事务所,他们跟奥斯卡颁奖有啥关系?

这段关系由来已久,从1934年就开始了,普华永道为奥斯卡颁奖礼服务已经有80多年的历史了。为啥呢?两个原因。

第一,奥斯卡票数的统计可是个大工程,这本身就是一件非常复杂的会计工作,需要普华永道的专业能力。

但是更重要的,还需要借重普华永道的信用和品牌能力。只有像普华永道这种独立的第三方机构,才能让公众相信这个计票工作即准确又公正,没有黑箱黑幕。那是著名会计师事务所,他们算的账,连华尔街都认,好莱坞当然也能认。

那普华永道这次犯了这么低级的错误,是因为他们徒有虚名,活干得草率吗?其实也不是。他们干这个活,既有悠久的传统,也有严密的系统。而且这个系统是严格排除机器介入的。

奥斯卡选票是手填的,计票是人工的,结果是不准输入计算机的。为啥?因为怕黑客侵入计算机,干扰结果,或者是提前泄露结果。所以,每届奥斯卡的最终结果,直到颁奖仪式开始,都只有两个人知道,谁啊?就是普华永道的那两名审计师。

对这两个人的要求也很严,他们得牢记结果,不仅写在纸上,还得记在大脑里,同时为了避免堵车、信封丢失等意外情况,他们特意准备了两套一模一样装有奖项结果的信封,两人各带一套,兵分两路前往仪式现场,路线都不能一致。在现场,他们俩会分别站在舞台的左右两侧,这样能保证颁奖嘉宾无论从哪边都可以拿到需要的信封。

你看,考虑得很周全吧。但是没有用,人就是人,是一个脆弱的,非常容易受情绪干扰的物种和系统。

你想,全世界都在等颁奖结果,全世界只有这两个人提前知道颁奖结果,我要是这两个审计师中的一个人,我也很兴奋,那是站在世界之巅的感觉,脑子一抽抽,什么错误都可能犯。

我们再来看一下这个乌龙事件:这件事很重要;干这件事的公司既有经验,也重声誉,干事的系统也尽可能地考虑到了所有细节和意外。但是,就这样也没用。只靠人,就连这么重要、简单的活儿也不容易干得好。这一点是不是很绝望?

好了,问题来了。在建立安全系统这件事上,人不可靠,联系到昨天的案例,机器也不可靠,那怎么办呢?怎么才能建立一个安全的系统呢?

其实,答案也许既不在机器一边,也不在人这一边,而是怎么处理好机器和人的关系。

回想一下昨天的那个案例,要命的问题,不是机器本身不可靠,而是人被当成了机器的零件。机器一旦发出警报,指望人像一个电子元件那样,马上做出准确的、灵敏的反应,是不可能的。

比如说,你家里有一个烟雾警报器,这本身是安全的保证。但是,它要是过度灵敏,抽根烟它报警,炒个菜它也报警,扫个地它也报警,那最终结果,一定是你干脆把它关了。所以,那个“狼来了”的故事,其实是一个很深刻的隐喻。一次没有狼,两次没有狼,大伙儿就再也不信了。人始终会保持对信息的判断权,人永远不会是机器的一个零件。

所以你要建立一个安全系统,那系统必须倒过来。机器服务于人,关系才能理顺。

最近我看到一个航空业的例子,就很说明问题。

波音公司生产的飞机上,原来是动不动就发警报,因为飞机,安全是重中之重,但是老是发警报,要么把飞行员搞得手足无措,要么让飞行员对警报熟视无睹。

后来在生产777型客机的时候,波音公司就对警报系统做了优化。简单说,就是做了个警报的分层,把不同的紧急状况分成四个层级。

比如说,最低一级的警报。这个级别只是在屏幕上有文字提示。比如说,现在快降落了,但是起落架还没有放哦。这个只是提醒,而且有充分的后备方案,所以不用吱哇乱叫。

第二个级别情况就稍微严重一点,比如机舱内空调出了故障,飞行员得看一下故障到什么程度再做判断。这时候,除了屏幕的警示文字,还会亮起警示灯。但是灯是不叫的。

第三个级别就比较严重了,比如发动机失火。这种情况虽然严重,但飞行员还是有足够的应对方案的。这时候警示灯、警示文字,都会出现,而且灯会变成更显眼的红色,除了视觉提醒,还会响起警报声。

那什么情况才能触发最高级别的警报呢?在现代的波音飞机中,只有飞行过程中出现了动力失速这一种情况,才能触发最高级别的警报。因为一旦失速,要是不立刻采取措施,飞机很可能面临坠毁的危险。这时上面说的红色警示灯、警示文字、语音警报都会同时出现,警示文字会变成最显眼的红色。这还不够,飞机的操纵杆也会剧烈振动,要让飞行员能够立刻看到、听到、感觉到飞机正在失速,必须立刻采取措施。

你看,这个改造,看起来只是一个优化,只是把警报分级了嘛,但这其实是一个实质性的改变:安全系统中人和机器关系颠倒过来了。

原来,机器只要有一丁点儿问题,就要指挥人。而现在是,机器只是人的助手。机器给出的任何信号,都必须考虑到人的反应,照顾到人的接受程度。安全的最终责任,其实交给了人。也许这才是未来所有安全系统该有的样子。

今天的最后,发一点我自己的感慨。

人类社会一直这样,每次机器发生一点进步,人类社会都会出现一种声音,机器要替代人了。其实这件事从来没有发生。

机器每前进一步,人都会水涨船高地前进一步。没有汽车之前,就没有汽车司机。有了飞机,才有了人类的飞行员,有了计算机,就有了编程人员。

人类这个物种,总是能在机器的基础上重新定位自己的存在,并且握有对文明世界的主导权。

麦克卢汉说得好,整个文明史,其实都只是人的延伸。

今天就聊到这里。罗辑思维,明天见。