查看《浅薄:互联网如何毒化了我们的大脑》小说信息

第10章 面对互联网:我们已经丧失了人性(第1页,共2页)

字体:

在计算机科学发展史上,那是颇为奇特的一幕,现在仍然值得一提。1964~1965年期间,麻省理工学院41岁的计算机科学家约瑟夫·魏泽鲍姆(josephweizenbaum)花了几个月的时间,编写用于分析书面语言的软件程序,程序在该校新引进的分时计算机系统上运行。一名学生坐在分时计算机系统的一台终端面前,通过键盘输入一句话,魏泽鲍姆编写的程序就会根据一套简单的英语语法规则,识别出句子中的关键单词或关键短语,并对使用这个单词或短语的上下文进行语法分析。然后,程序会根据另一套规则,把刚才输入的句子转换为一个新句子,这个新句子似乎是对原来那句话的回应。计算机生成的那句话立刻就会出现在那位学生的终端显示屏上,让人产生两人在交谈的错觉。

魏泽鲍姆在1966年1月发表的一篇论文中介绍了自己编写的这个程序,并举例说明它是如何工作的。如果有人输入“iamveryunhappythesedays”(我这些日子很不快乐)这句话,计算机只要识别“iam”这个短语通常用于描述说话者的当前情形或精神状态就可以了。计算机随后会对这句话进行改造,把它变成一句回应“howlonghaveyoubeenveryunhappythesedays”(你这些日子很不快乐有多久了)。魏泽鲍姆解释说,程序首先“对原始语句”应用“一种模板,模板中的部分内容和‘iam’这两个单词相匹配,模板中的剩余部分把‘veryunhappythesedays’这些单词分离出来”。然后程序使用一个算法上的“重组工具包”,按照模板格式裁剪句子内容。“任何具有‘iamblah’格式的句子”都会被“转换为‘howlonghaveyoubeenblah’,这种转换跟blah的含义无关”,这样的规则包含在程序算法当中。

魏泽鲍姆编写的这套程序是那个时代的产物。20世纪五六十年代,人们热衷于计算机、软件编程及人工智能。高涨的热情不仅催生了人脑就是电脑的想法,而且造成了人类语言就是运行于计算机内部的程序算法的输出结果的感觉。戴维·格鲁姆比亚(davidgolumbia)在《计算的文化逻辑》(theculturallogicofcomputation)一书中解释说,以魏泽鲍姆在麻省理工学院的同事诺姆·乔姆斯基(noamchomsky)为首的新兴“计算语言学家”断言,人们讲话、写作所使用的“自然语言”形式是对“负责执行所有语言功能的大脑内部那台计算机运行情况”的反映。1958年,乔姆斯基在《信息与控制》(informationandcontrol)期刊上发表的论文中写道,“描述语法的一个可能办法就是在通用图灵机上编写程序”。按照格鲁姆比亚的说法,计算主义理论之所以具有如此强大的说服力,是因为这种理论包裹在“新奇技术产生的”诱人“阴影”之中。对人们的讲话方式实施逆向工程,可以发现语言的潜在编码,然后就可以像软件那样复制这些编码。

魏泽鲍姆把他的软件程序命名为eliza,取自英国作家萧伯纳《卖花女》中的伦敦女孩伊莱扎的名字。在小说中,伊莱扎在傲慢的语言学教授亨利·希金斯辅导下,学说正确的英语。为了让模拟交谈更有趣,魏泽鲍姆还给这个人工谈话者安排了一个角色——心理医生罗杰斯。根据魏泽鲍姆后来发表的文章中的解释,选择这个名字是有现实意义的。20世纪40年代,心理学家卡尔·罗杰斯(carlrogers)开发了一套心理治疗技术。采用罗氏治疗法治疗心理疾病时,心理医生在跟病人交谈的过程中,假装自己对这个世界一无所知。在大部分情况下,他们只是简单模仿病人的说法,以开放式的陈词滥调回应病人。知道心理医师的无知是假装的之后,病人就不会把“各种各样的背景知识、深刻洞见和推理能力”归因于他们的治疗师了。魏泽鲍姆认识到,罗氏治疗法中的医师角色对eliza具有“至关重要的心理效用”:它表明程序的虚无性会掩盖某些真正的智能。

魏泽鲍姆为我们提供了一段谈话记录,这是一位女士对eliza进行早期测试时的部分交谈内容(楷体部分是计算机的回答):

天下的男人都很相似。

怎么相似的?

他们总是会用这样那样的事情烦扰我们。

你能举个实例吗?

嗯,我男朋友让我产生这样的想法。

你男朋友让你这么想的啊。

他说我大部分时间都情绪低落。

听到你说情绪低落,我很难过。

是这样的,我不快乐。

你觉得到这儿来会对你有所帮助,让你不那么不快乐吗?

我需要帮助,这是肯定的。

如果得到帮助,你会怎样呢?

或许我能学会如何跟妈妈相处吧。

说说你的家庭情况吧。

我妈妈对我关爱有加。

家里还有别人关爱你吗?

我爸爸。

你爸爸。

你在某些方面挺像我爸爸的。

你看到什么相似之处呢?

你不是那么咄咄逼人,不过我想你不愿意让我注意到这一点。

是什么让你认为我不是那么咄咄逼人的呢?

你不跟我争论。

为什么你觉得我不跟你争论呢?

你怕我。

你认为我怕你,这样会让你感到高兴吗?

我爸爸谁都怕。

魏泽鲍姆承认,自己的创造对自然语言处理这个新兴领域贡献不大,甚至可以说无济于事。他评论说,计算机程序员可以轻而易举地让机器的“行为令人啧啧称奇,即便是经验最丰富的观察家也经常因此而目瞪口呆”。不过,他继续说道,程序的“内部工作机制一旦被解释得明明白白,程序的神奇魔力马上就消失了,剩下的只不过是一些计算机程序的集合,而这些程序都很容易理解。观察家会在心里说‘这样的程序我也能写’”。这个程序随即会被“从标着‘聪明才智’字样的货架上拿下,放在摆放古董的位置上”。

无独有偶,魏泽鲍姆就像亨利·希金斯教授一样,很快发现自己的平静生活被打乱了。eliza在麻省理工学院声名大噪,迅速变成了计算机理论和分时系统方面授课和讲座的主要内容。eliza以一种外行一望便知的方式,向人们证明了计算机的强大功能和超高速度,它是最早做到这一点的软件程序之一。你跟eliza聊天,完全不需要数学背景,更用不着计算机科学方面的知识。eliza程序在其他学校也广受欢迎,并且引起了新闻媒体的注意,按照魏泽鲍姆后来的说法,eliza成了“全国性的玩具”。尽管公众对这套程序表现出来的浓厚兴趣让魏泽鲍姆十分惊异,可是真正让他感到震撼的地方在于,使用这一软件的那些人是那么迅速、那么深入地“对计算机动了感情”,他们跟它谈话时仿佛那就是一个真人。“经过一段时间的交谈之后,尽管我一再解释,但他们还是会坚持认为机器真的理解他们。”魏泽鲍姆的秘书曾经目睹他为eliza编写程序的过程,她“肯定知道那仅仅是个计算机程序”,可是连她都被征服了。在魏泽鲍姆办公室的计算机终端上使用了一段时间交谈程序之后,这位秘书请求教授离开房间,因为谈话的隐私性让她感到难为情。魏泽鲍姆说:“我以前没有意识到,在一个相对简单的计算机程序面前暴露极为短暂的时间,竟然会诱使一个十分正常的人产生强烈的虚幻思想。”

更奇怪的事情还在后头。声望卓著的心理学家和计算机学家开始以极大的热情提出,在实际治疗疾病的过程中,计算机程序可以发挥很有价值的作用。三位一流精神病理学家在《神经与精神疾病杂志》(journalofnervousandmentaldisease)上撰文写道,eliza只要略作调整,就能成为“广泛应用于饱受心理治疗医师短缺之苦的精神病院和心理咨询中心的治疗工具”。由于“现代及未来的计算机具有分时运行功能,针对这种目的设计的计算机系统一小时就能诊治几百个病人”。著名天体物理学家卡尔·萨根(carlsagan)在《博物学》(naturalhistory)杂志上发表文章,对eliza的巨大潜能表达了同样激动的心情。按照他的预测,“能治疗精神疾病的电脑终端网络”将会不断发展,“这个网络就像许许多多的电话亭排成的阵列一样,人们每次在这里花上几美元,就能跟一个专注、合格而且不会对你发号施令的心理治疗医师对谈”。

图灵曾经在《计算机器与智能》一文中探讨过“机器会思考吗”这个问题。如何判断计算机是否有智能,他提出了一个很简单的实验方案,他把这个方案称为“模仿游戏”,不过人们很快就把这个实验叫做图灵测试。测试的时候,让一个人作为“审问者”,坐在一个房间里的计算机终端面前,跟其他房间里的“两个人”通过打字进行交谈,其中一个是真人,另一个则是假装成人的计算机。图灵认为,如果审问者无法区分计算机和真人,那么就可以认为计算机具有智能。通过语言魔术般地变出一个可信的自己,这样的能力就是真正会思考的机器出现的标志。

跟eliza交谈是图灵测试的变通。可是魏泽鲍姆惊讶地发现,跟他的这个计算机程序“谈话”的那些人几乎没有任何兴趣对eliza的身份进行理性、客观的判断。他们愿意相信eliza就是一台会思考的机器,他们愿意以人的素质影响eliza——即便他们十分清楚eliza不过是按照简单而明显的指令执行任务的计算机程序。事实证明,图灵测试对人类思维方式的测试作用丝毫不亚于对机器思维方式的测试功效。那三位精神病理学家在《神经与精神疾病杂志》发表的文章中,不仅提出eliza可以用来替代真人治疗医师,而且还拐弯抹角地提出心理治疗医师本质上就是一种计算机:“可以把真人治疗师视为一个有一套跟近期目标和远期目标密切相关的决策规则的信息处理器和决策者。”eliza在模拟人的时候尽管有些笨拙,但它却鼓励人类把自己看成是对计算机的模拟。

人们对eliza这一软件的反应让魏泽鲍姆心力交瘁,这个现象在他头脑当中埋下了一个以前从来没有考虑过但是后来困扰他很多年的问题:“人就是一种能言善辩的能力达到了新水平的机器,对于给我们带来这种观点的计算机,我们又该如何看待?”在eliza问世10年之后,魏泽鲍姆于1976年在他的著作《计算机威力与人类理性》(computerpowerandhumanreason)中提供了这个问题的答案。他提出,要想理解计算机带来的影响,就必须在诸如地图和钟表之类能改造自然并改变“人对现实的认知”的众多智力技术的背景下看待这种机器。这样的技术变成了“人们用来构建自己世界的部分原料”。这些技术一经采用,就永远不会被抛弃。起码只要不让人类社会陷入“极度混乱”,这些技术就不会废弃。魏泽鲍姆写道,一项智力技术“与社会结构融合得浑然一体,在各种各样至关重要的基础结构中根深蒂固,除非彻底破坏整个社会结构,否则再也无法把这项技术分离出来。这种情况一旦出现,智力技术就成了任何社会结构中不可缺少的组成要件”。

自从第二次世界大战结束后数字式计算机发明以来,我们对它的依赖与日俱增,而且这种趋势似乎无法动摇。魏泽鲍姆所说的那个几乎是“同义反复”的事实可以帮助我们解释这一现象。“计算机似乎成了在第二次世界大战之后的社会生存的先决条件。美国政府、企业和产业界中那些最‘进步’的分子对计算机不加鉴别地热烈拥抱,使得它在形式上成了社会生存必不可少的重要资源,似乎计算机本身一直在帮助我们塑造现代文明社会。”魏泽鲍姆通过自己在分时网络方面的经验知道,计算机发挥的作用必将不断扩展,绝不会止步于政府管理流程和工业生产流程的自动化。计算机将会逐步成为定义人们日常生活的种种活动的仲裁者——怎样学习,怎样思考,怎样进行社会活动。他发出警告,智力技术的发展历史表明:“把计算机引入某些复杂的人类活动,可能就是让我们作出无法反悔的承诺。”我们的智力生活和社会生活可能也会像我们的工业流程一样,逐步成为计算机强加给我们的种种内容的反映形式。

魏泽鲍姆最终相信,人之所以为人的最大特点恰恰就是人最不可能计算机化的部分——我们思想和身体之间的联系,塑造我们记忆和思维的经验,我们具有丰富情感的能力。在我们跟计算机越来越密不可分的过程中,我们越来越多的人生体验通过电脑屏幕上闪烁摇曳、虚无缥缈的符号完成,最大的危险就是我们即将开始丧失我们的人性,丧失人之所以区别于机器的本质属性。魏泽鲍姆写道,避免这种命运的唯一途径就是我们要有足够的自我意识和无畏胆识,拒绝把我们精神活动和智力追求中最“人性化”的工作,尤其是“需要智慧”的任务委派给计算机。

魏泽鲍姆的《计算机威力与人类理性》是一本有关计算机及软件工作机理的学术专著,除此之外,它还是作者的大声疾呼,是一个计算机程序员满腔热情,有时甚至是自以为是地对自己职业所具有的局限性的检讨。这本书并没有让作者跟同行们拉近关系。该书出版之后,魏泽鲍姆被视为那个领域的异端,遭到了主流计算机科学家,尤其是对人工智能孜孜以求的那些人的批判。达特茅斯人工智能会议组织者之一约翰·麦卡锡以嘲讽的口吻告诉很多技术专家,他把《计算机威力与人类理性》当做“一本不讲道理的书”弃置一旁,并且斥责魏泽鲍姆在进行伪科学的“道德说教”。在计算机数据处理领域之外,这本书只是激起了一层涟漪。该书问世之时,正赶上第一代个人电脑从业余爱好者的工作台一跃变成大众产品。社会大众整装待发,正在准备迎接一股即将把计算机带入大部分单位、家庭和学校的抢购狂潮,他们根本没有心情去考虑一位变节者的疑问。

小说目录