你好,这里是《邵恒头条》,我是邵恒。

就在上周,人工智能领域接连迎来两条重磅的法律监管消息。你可能也在新闻上关注了:4月21号,欧盟委员会公布了一份人工智能法案的草案。

在草案当中,欧盟委员会指出,虽然人工智能技术的确能创造广泛的社会和经济利益,但它的风险也是有目共睹的,比如人工智能技术驱动的监控系统,如果使用不当,可能会侵犯人们的隐私。所以草案把各类人工智能技术划分为三个等级,分别是高风险、低风险,以及需要被禁止的。

给你举一个,在他们看来需要被“禁止”的例子:有一类技术可能会在“不知不觉中对人类意识进行操控,从而影响他的决定或者扭曲其行为,进而给人造成心理或者身体伤害”。这种技术属于完全被禁止之列。而这条条例,让不少人联想到亚马逊、脸书等等大公司的智能算法。

同样是在上周,就在欧盟发布AI法案的前两天,美国的联邦贸易委员会FTC也在网站上发表了一篇文章,文章被解读为,FTC将要追击那些算法自带偏见的公司。比如说,如果一家公司声称,我们的算法丝毫不带有种族歧视,但是查看公司的数据库,发现用来训练算法的数据显然倾向于某个种族,这就不行啦。这种欺诈行为将会受到严惩。出售这种有偏见的算法也会被禁止。

在欧盟和FTC的监管消息发布之后,我看到不少关注科技的媒体评论说,AI自此进入了一个新的监管纪元。

那为什么在当下这个时间点,AI监管会成为焦点呢?

我想,这不仅仅因为AI应用越来越多,还因为托马斯·弗里德曼说的那个判断:世界正在变深。这个判断的意思是,传感器越来越小,价格越来越低廉,越来越深入物理世界的各个角落,比如你可以在衬衫里携带传感器,监测自己的身体机能,连接电商平台的销售。AI技术越来越深地埋入我们看不到的角落,这种隐蔽性让监管日益迫切。

前两天,《纽约客》杂志上发表了一篇有意思的文章,这篇文章就展现了AI技术深入物理世界的一个极端情况:深入人的大脑。当这种情况发生的时候,被改变的不仅仅是人的行为,还有人对自我的意识。而由于种种原因,比如研究的缺乏或者监管的忽视,我们对这种可能的影响依然知之甚少。

接下来,我就来跟你分享一下这篇文章里的案例。友情提醒:今天的节目比较长,需要15分钟左右,感谢你的耐心。

《纽约客》这篇文章的标题叫做《大脑机器: 大脑植入设备会改变你的自我身份吗?》。这篇文章讲的是,全世界最早植入脑机接口设备的一批人。

今天咱们都知道,马斯克的公司正在研发植入式的脑机接口设备:在他的设想当中,一个小缝纫机式的手术机器人,在头上切一个微小的创口,就能把一个微型芯片植入人脑。并且马斯克说他希望这样的技术能够首先用来治疗疾病。

我们都会觉得这样的技术特别前沿。不过其实,在国外,从25年前开始,美国的食品药品监管局就批准了一类脑机接口设备的使用,就是所谓的“深脑部刺激设备”,用于治疗帕金森、肌张力障碍或者其他颤抖类的疾病。这类治疗的原理是,在脑部的特定位置植入一个设备,利用设备发出的电刺激来调解脑部的活动,控制肌肉运动方面的症状。

也有的设备更加智能,它们可以通过采集脑信号,预测某种疾病发病的频率和时间。

那有多少人接受过类似的植入治疗呢?你可能想不到,今天全世界,出于治疗目的而携带神经植入设备的人,总共有20万人。如果我们想观察脑机接口设备对人的影响,这20万人是一个相当庞大的样本群体。

对于大部分的患者来说,深脑刺激的治疗往往很有效。但是2006年,一个法国的研究团队发表了一篇论文,他们发现了一系列的特别案例:从病理的角度来说,患者的治疗非常成功,达到了预期的效果。但是,患者的行为方式却发生了一些意想不到的改变,以至于给他们的生活造成了重大影响。在他们的研究当中,65%的患者在接受了大脑设备植入之后,婚姻和亲密关系破裂;64%的患者想要换工作,甚至离开自己原有的职业赛道。

跟设备植入之前相比,他们的智能和焦虑水平并没有改变,甚至焦虑水平还下降了。但是这些患者往往会感到他们和“自我”产生了疏离感。比如,有一个人觉得自己就像是一个电动玩具,另一个人觉得自己像是随时被一个遥控器操控一样。

显然,这些人对于“自我”的认识,在接受脑机接口植入之后发生了巨大的变化。

这是怎么回事呢?

澳大利亚塔斯马尼亚大学有一个哲学讲师弗德里克·吉尔伯特(Frederick Gilbert),一直都在研究自由意志。他对这些患者的情况产生了好奇心,于是找到了一系列这样的患者进行了深入访谈,他想知道这些人的生活出现这么大的变化,到底是什么造成的?

一开始他怀疑,这些患者的生活之所以发生巨变,是因为他们的生活本来是围绕着疾病“建模”的。比如说,一个人因为患病的原因,原本对妻子很依赖,但是因为疾病康复了,这种依赖关系瓦解了。夫妻关系最重要的联结就断裂了。

但是经过研究,这位学者发现情况远远没有这么简单。他发现一些患者的变化实在是太大了,显然不是他的“建模”理论可以解释的。

比如说,有的人在植入之后,感受到了前所未有的自信和愉快。有一个女性感觉自己比之前年轻了15岁,有一天非要强行用手抬起一个台球桌,一下子伤了后腰;有一个男士,本来很温柔,但是在植入设备之后性格变得非常强势,他的老婆觉得完全难以忍受;还有一个女士,在接受了设备植入之后,总是想起一出是一出。比如她刚刚接受手术9天之后,身体还没痊愈呢,非要步行10公里去医生的办公室。她的性格变得太冲动,以至于她的家人觉得,他们失去了曾经的那个人,为此他们感到难过。

你看,说这些患者性格大变,治疗前后完全不是一个人,可能都不夸张。

这种变化是怎么来的?有一个最显而易见的可能性,就是这些设备的植入改变了大脑的化学物质、神经元连接的方式,甚至大脑结构。而这种植入带来的脑部变化,远远超出了科学家的预期。

这当然是一个非常合理的解释。不过,吉尔伯特针对一些患者做了一些深度的访谈,发现情况也并不全都是如此。他发现,对于一部分患者来说,植入设备带来的心理变化,可能比物理层面的直接改变更有解释力。

什么意思?他追踪了6个植入过脑机接口设备治疗癫痫的患者。有一家总部在西雅图的公司叫NeuroVista,他们为癫痫患者开发了一个脑机接口产品。

我在文稿里放了一张图,你可以看到这个产品大致的形态。

简单来说,这个产品的功能是预测癫痫的发作:你可能也知道,癫痫俗称羊角风,发作的时候,轻者突然失神、一部分肌肉僵硬,严重的可能会浑身抽搐、倒地。因为没法预测癫痫发作的时间,不少患者都会在发作的时候不小心受伤。

而NueroVista公司就针对这个痛点,开发了一个产品:他们会在患者的大脑皮层植入一个硅材料的、十字形状的接收器,上面有16个电极。癫痫发作的时候,患者的脑部会出现异常的、突发的放电现象。这些电极就是用来采集信号的。

而在设备的另一端,是一个信号传输器,埋在患者的胸口。传输器接收到脑电信号之后,会再通过无线的方式,把数据传输给一个体外的处理器。患者需要随身携带这个处理器,它就像是一个BP机一样。

NeuroVista公司首先会监测患者发生癫痫时异常的脑信号,然后他们会用一个智能算法来学习脑信号,对下一次发生癫痫的时间进行预测。每当癫痫快发作的时候,处理器就会亮起红灯,提醒患者本人采取措施。

进入人类临床试验之后,NeuroVista发现,在10个接受植入的患者当中,有3个人的癫痫发作可以被精准地预测。

按理说,这是一个很有用、很好的产品。但是吉尔伯特在研究的时候却发现,其中两个预测效果特别好的患者,在使用设备之后,性格乃至人生轨迹,都出现了完全相反的巨大变化。

两个患者都是在青年时期患上的癫痫,都因为癫痫时常发作,生活严重受到影响。一个患者不得不放弃了自己热爱的表演生涯,另一个患者从小就在学校受到霸凌,成年后经常因为癫痫突然发作而进医院。他们后来都植入了NeuroVista的设备。

一个患者,在植入之后,第一次感到自己终于拥有了一个正常人的生活,这位患者的名字叫Rita。因为NeuroVista设备的预警信号,一般比癫痫发作要提前至少15分钟,Rita说,这让她有充足的时间找一个更安全、更隐私的地方躺下来,预防突发情况。

后来她发现,因为预警引号足够早,所以她完全可以在接到预警的时候,吃抗癫痫的药物,阻止癫痫发作。以前每次癫痫发作之后,Rita都觉得自己失去了一部分记忆,那种空落落的感觉会让她害怕。但是有了这个设备之后,她第一次觉得,她可以信任自己了。植入之后,她第一次尝试了线上约会,并且很快遇到了一个心意相投的人,两个人结婚了。

但是遗憾的是,NeuroVista由于缺乏经费,在2013年停止运营了。那些植入了设备的人,后来也因为缺乏设备维护,感染风险太高,不得不把设备取出。

《纽约客》杂志采访这位患者的时候,虽然距离她取出设备已经过去了6年时间,但是她依然忍不住流眼泪。她甚至用了“思念”这个词,来形容她对设备的感受。你看,这种强度的情感联结,显然不仅仅是一个人和一个治疗工具的联结。

对于这种现象,吉尔伯特是这么解释的:他认为NeuroVista设备和患者的融合,已经创造了一个全新的,机器和人脑共生的身份。用Rita自己的话来描述,她觉得她和那个植入设备完全融为了一体,那个设备就是她的一部分。

但是,同样的治疗经历,在另外一个患者身上,却产生了完全相反的效果。这位患者的名字叫Galvin。在她的设备植入之后,癫痫发作的预警信号就一直响个不停。并不是因为设备出问题了,而是因为,Galvin的癫痫每天发作上百次,甚至在她睡觉的时候,癫痫都在发作。

但是,Galvin和她的医生,以前却从来不知道她的病情已经严重到这个程度,因为有一些癫痫的发作比较轻微。可想而知,当Galvin从一个脑部设备得知这个情况,对她来说是一个多大的冲击?以前她还能假装自己不在乎,但是每天处理器上的红色警报一直都在响,无时无刻不在提醒她,她并不是一个正常人。她很快就觉得自己的生活失控了,自此陷入了深深的抑郁。

所以对于Galvin来说,当NeuroVista公司关停,她取出设备的时候,她感到并不是难过,而是一种如释重负的感觉。

你看,这两个患者的反应虽然截然相反,但从这两个例子里我们都能感受到,脑机接口设备会给人的心理状态带来巨大的改变,甚至深刻地影响一个人的“自我”。

吉尔伯特认为,目前科学界对于这方面的研究实在是太少了。大部分发表的论文,都聚焦于设备针对疾病的疗效,但是很少讨论设备本身的伦理问题和风险。甚至按照规定,做相关实验的公司,也不需要详细地描述失败的案例情况,他们只需要提供一个成功比例的数据就可以。这些缺失导致我们对脑机接口设备的应用,并没有一个“全景式”的,从物理到心理的认知。

如今,脑机接口的应用范围越来越广。美国食品药品监管局已经批准了开展脑机接口用于治疗老年痴呆症,以及一些精神性疾病的实验,比如精神分裂症、抑郁症、厌食症等等。但是显然,我们对于这些治疗手段的伦理影响知道的还远远不够。

好,《纽约客》杂志的这篇文章,我就给你介绍到这里了。

你看,过去,科技产品对人来说,一直都是工具,是媒介,是人能力的一种外延。但是今天的很多科技产品,越来越不像工具,而是变得像“我”的一部分。拿走你的手机,你是不是会难受半天,觉得寸步难行?当然,那种情况下,生活依然能继续。但是有了脑机这样的技术,情况不一样了。它可以直接改变“我”是谁,甚至成为“我”。 如果一部分“我”被拿走了,这可不得了了。

这篇文章让我感受到,世界在变深,其实也体现在,科技对于人性的介入变深,人对科技的“瘾”也在变深。

好了,这就是今天的《邵恒头条》。我是邵恒,我们明天见。

脑机接口自我