人工智能会取代人类吗?

免费资源获取方式

本书作者:托比▪沃尔什 (作者), 闾佳 (译者)

本书读后感及个人笔记分享· · · · · ·

人工智能的影响
思考机器会以许多不同的方式影响我们。在最高的层面上,它们可能会威胁我们的生存。接下来,它们会改变我们的社会和经济,取代人类目前从事的许多工作。在最低的层面上,它们会为人类所做的每一种活动(从做爱到作战)带来翻天覆地的变化。本章将探讨人工智能在人类、社会、经济、就业和战争方面可能带来的冲击。


↑点击获取书籍完整版下载↑

人工智能与人类
让我们从重大的风险开始:思考机器有可能会终结人类。人类成为地球上的支配物种,在很大程度上是因为我们的智能。许多动物都比我们体格更大,速度更快,更为强壮。我们运用智能发明了工具、农业,没过多久(从进化的尺度上来看),又发明了蒸汽机、电动机和智能手机等惊人的技术。这些技术改变了我们的生活,使我们主宰地球。智能一直是我们进化的关键部分,以至于我们把它放进了自己的名字里:我们是“智人”——聪明的人。

人工智能会取代人类吗?不足为奇,思考机器(说不定比我们更聪明)对我们的地位造成了篡夺威胁。一如这世界上的大象、海豚和鲨鱼,要仰仗我们的善意才能继续存活下去,我们的命运说不定也要仰赖这些善于思考的高等机器的决定。电影和书籍讲述了邪恶机器人想要接管世界的故事。不过,与其说人类会死在险恶的机器人手里,倒不如说人类更有可能死在不胜任的机器人手里——我们可能会制造出因为犯错而令人类灭亡的思考机器。以下是几种有可能导致我们灭亡的不同风险场景。

风险1:好心办错事
一种风险场景是,超级智能的目标可能设计不力。这种风险可追溯到弥达斯国王(King Midas),他没有清晰地说明自己真正想要的东西(译注:弥达斯国王,希腊神话中的弗里吉亚国王,故又称“迈达斯王”或“迈达斯国王”,以巨富著称。关于他点石成金的故事非常有名,大意是他得到了酒神的报答,获得了点石成金的本领,但给自己带来了巨大的麻烦:他摸到食物,食物变成金子;摸到女儿,女儿也变成了金雕像。)因为思考机器太聪明了,它们达成目标的方式说不定会让我们大吃一惊。假设我们给护理机器人设定的目标是:照顾我们年迈的母亲,让她过得好,过得开心。机器人说不定会作出判断,认为往咖啡里不停地加入吗啡,能很好地实现这一目标——但这肯定不是我们想要的。

风险2:到处都是回形针
就算目标得到恰当的设定,还有第二种风险场景:它可能存在伤害人类的不良副作用。尼克·波斯特洛姆在一个众所周知的思想实验中探讨了这一风险。假设我们制造了一台超级智能机器,并给它设定了目标:尽量多地生产回形针。机器着手制造越来越多的回形针工厂。最终,整个地球上塞满了生产回形针的工厂。机器完全是按照我们的要求做的,但结果对人类来说可不太好。

风险3:它们还是我们?
第三种风险场景是,任何超级智能恐怕都有着包括自我保护、为实现其他目标积累更多资源在内的目标,但这样的目标可能跟我们的生存无法兼容。我们可能希望把机器关掉。我们消耗的资源,超级智能可能认为更适合用来实现它的目标。于是,超级智能说不定会得出结论:为了完成它的目标,最好是消灭我们。“游戏结束,人类。”

风险4:活动目标
第4种风险是,任何超级智能都可以重新设计自己,并设定新的目标。我们怎样确保这些新目标跟人类的目标保持一致?原有系统那些没有坏处的地方,可能在新的系统里得到了放大,对人类非常有害。

风险5:冷漠
第5种也是最后一种风险是,超级智能对我们的命运无动于衷。一如我对某种蚂蚁的命运漠不关心,超级智能对我的命运也一样无动于衷。要是我正在建房子,我才不管会不会破坏了一窝蚂蚁巢。同样地,超级智能可能也毫不关心我们的存在。如果我们碰巧挡了它们的路,说不定就被消灭了。

你应该担心吗
所有这些风险,都建立在我们给予机器足够的自主权在现实世界里行动,故此能够给我们造成伤害的前提之上。事实上,如今更紧迫的风险是,我们已经在给愚蠢的人工智能自主权了。虽说有些制造商想要劝说你相信自动驾驶汽车很安全,但老实说,它们并不那么聪明。而我们却开始让它们在超出其能力范围的环境里获得控制权。2016年5月,加利福尼亚州发生了第一起自动驾驶汽车致命事故。如果卷入此事的特斯拉汽车更智能的话,应该能够看到道路对面正在转弯的卡车。我们真正应该担心的,不是人工智能,而是自主权。我们绝对不应该对智能不足的系统下放自主权。

这些既定风险还主要依赖于超级智能的迅速出现。如果发生这种情况,我们就难得有机会看到问题出现并加以纠正。但如前文所述,出于许多原因,我认为:技术奇点不会出现,更出色的系统需要我们付出艰辛努力,超级智能会缓慢出现。我的大多数同事认为,超级智能至少需要几十年,甚至上百年才有可能出现。故此,我们应该有足够的时间采取预防措施。

这些风险里,有一些对超级智能持有相当蹩脚的看法。如果我给你布置的是制造回形针的任务,而你却为了完成它开始杀戮,我大概可以判断你并不那么智能。我们认为,聪明的人,尤其是有知觉和感情的人学习到了良好的价值观,可以预测自己行为的后果,能明智地看待他人的困境。说不定,超级智能既聪明又睿智呢?

我们最大的风险
在我(以及不少从事人工智能工作的同事)看来,人工智能并非当今人类面临的最大威胁。我怀疑,它甚至连前十大威胁都排不上。还有太多直截了当的危险能轻易摧毁人类,包括人为危险,如全球变暖、似乎永远不会终结的全球金融危机、全球反恐战争以及伴随而来很可能令社会分崩离析的全球难民问题、人口过剩。除此之外,还有外来的威胁,如大瘟疫、超级火山爆发和巨型流星、人体对抗生素的抵挡力越来越强等看似平凡的问题,我也甚为担心。

当然,我们不能排除人工智能向人类提出的生存威胁,但它的概率太小,而且也足够遥远,今天的我们无须为之投入太多资源。我们不能忽视它,我也很高兴看到,针对这些事关生存的担忧,世界各地成立了多家研究中心。我有信心,这是一个我们正出手加以遏制的威胁。然而,我们今天还有其他许多需要担心的问题——人工智能对我们社会造成的影响就是其一。我们对这些问题是否有着足够的认识,还远远不够明了。

人工智能和社会
思考机器将深刻地改变我们的社会。整体而言,计算机尤其是人工智能,对人类的尊严提出了威胁。“伊莉莎”的作者维森鲍姆,在这一辩论中发出了最雄辩的声音。早在1976年,他就认为,人工智能不应该替代那些需要尊重和谨慎的岗位。[1]具体而言,他指的是医生、护士、士兵、法官、警察和治疗师等工作。(考虑到“伊莉莎”带给他的经历,最后一条似乎并不怎么叫人意外。)

遗憾的是,维森鲍姆的警告,没有获得太大的重视。这些群体从事的诸多任务,都有着对应的智能系统正在开发。维森鲍姆对计算机在军事领域可能产生的负面影响尤为担心,他称计算机是“军队的孩子”(我们很快会回到人工智能对战争的影响这个话题上来),他担心的是,计算机缺乏(甚至有可能永远缺乏)同情、智慧等人类特质。

思考机器对社会还有其他的影响方式。在上一章,我提到了它们对隐私的影响以及算法歧视的情况。我们父母和祖父母一代人靠着斗争得到的许多权利即将失去,这一点存在着真切的风险。我们可能并未意识到这些权利正逐渐消失。但有可能,某天我们醒来,发现随着机器接管了从前人类专属的岗位,这些自由有不少都消失了,同等的机会,不再赋予所有人。我们并不是有心给机器编出了歧视程序,而是我们没把它们编写得好到足以避免歧视。

弟兄之海
人工智能还有一个方面,把算法歧视这类问题变得复杂起来,那就是这一领域当前是一片“弟兄之海”(sea of dudes)。这个说法是时任微软研究员的玛格丽特·米切尔(Margaret Mitchell)2016年所说(她现在谷歌任职)。她强调的是,人工智能研究员只有大约10%是女性。其实,更准确地说,这是一片“白弟兄之海”(sea of white dudes)。

遗憾的是,性别失衡始于早年岁月。GCSE是英国年满16岁的在校学生要接受的公共考试。2014年,参加GCSE计算学考试的学生中只有15%是女性。两年后,参加A级计算学考试的学生,只有不到10%的人为女性。在大学和工业界,我们可以为这个问题进行补救,但很明显,我们需要把重点放在动员更多的年轻女性一开始就选择计算学。学生们刚开始选择所需科目的时候,姑娘们就选择了计算学之外的学科。

这种性别失衡对人工智能开发进度是有害的。因为存在这样的问题,有些该问的问题没问,该解决的问题没解决。在人工智能研究领域,其他群体(如黑人、西班牙裔等)代表也不足。这同样有害,而且恐怕没有简单的补救措施。不过,承认问题存在,至少朝着减少未来偏差迈出了第一步。

人工智能和经济学
经济,是我们生活中毫无疑问会受到思考机器改变的一个方面。大多数第一世界国家正在从工业生产转向知识经济,而知识经济的产出不是实物,而是智力商品。思考机器很可能会生产大量此类产品。

80多年前,英国著名经济学家约翰·梅纳德·凯恩斯(John Maynard Keynes)警告说:“我们正遭受着一种新的疾病的折磨,一些读者可能还没听过这个名字,但在未来的岁月,他们会多次听到——技术性失业。”[2]凯恩斯预测,一个世纪之内,人均产出将比当时高4到8倍。他还预测,工作周将减少到大约15小时,以对此加以抵消,让我们获得更多的闲暇时间。

凯恩斯的增长预测是正确的。自那时以来,在澳大利亚,人均产出提高了6倍,美国的生产率也出现了类似的增长。伴随而来的是,大量工作岗位转出传统行业。1900年,1/4的澳大利亚人在农业部门就业。到2016年,澳大利亚农业占总就业人数的比例仅略高于2%。迟至1970年,制造业工人占总劳动力的28%,现在的比例仅比7%略高。不过,对工作周的长度,凯恩斯却说错了。在大多数工业经济体中,工作周只稍微缩短,大约为35到40小时。

从那时开始,对技术性失业的担忧越来越强。1949年,艾伦·图灵非常明确地说:“我不明白,为什么它(机器)不能进入人类智力通常涵盖的一切领域,并最终以平等的方式展开竞争。”3年后,著名经济学家瓦西里·列昂季耶夫(Wassily Leontief)[3]对技术的影响表达了同样的悲观情绪。他写道:“劳动力将变得越来越不重要……越来越多的工人将为机器所取代。我不认为新兴行业能够把所有想要一份工作的人都雇用下来。”[4]

列昂季耶夫以马匹的劳动力为例,说明技术变革对人类劳动力构成的威胁。随着铁路和电报的发明,马匹劳动力在美国经济中扮演的角色越来越重要。随着美国的发展和繁荣,1840年到1900年之间,马匹数量增长了6倍,全美共有2100万匹马和骡子。马匹或许觉得技术变革带来了安全感:虽说在城镇之间运送人员和信息的岗位逐渐消失,但社会上也出现了新的工作岗位,接替了原先的岗位。它们不知道,这是一种短暂趋势。内燃机的发明迅速颠覆了前述趋势,人口越来越多,国家越来越富裕,马匹逐渐从劳动力市场上消失了。到1960年,全国仅有300万匹马,减少了近90%。20世纪初,经济学家就马匹劳动力未来在经济中的角色进行过辩论,他们或许曾经预测,一如过去,在新技术促成的领域,将出现适合马匹的新工作岗位。这可就错得太厉害了。

1964年3月,对技术性失业的担忧进入了成熟阶段。林登·约翰逊总统收到了来自“三重革命特设委员会”(Ad Hoc Committee on the Triple Revolution)的一份简短而令人震惊的备忘录。[5]诺贝尔化学奖得主莱纳斯·鲍林(Linus Pauling)、《科学美国人》(Scientific American)出版商杰拉德·皮尔(Gerard Piel)和日后将要获得诺贝尔经济学奖的贡纳尔·默达尔(Gunnar Myrdal)等杰出人士在该备忘录上签了名。备忘录警告说,技术很快就会造成大规模失业。

从绝对意义上来说,备忘录是错的。大规模失业并未出现。1964年以来,美国经济增加了7400万个就业机会。但计算机和自动化彻底改变了现有的工作岗位,这些岗位需要技能,薪资也涌向了这些岗位。而且,我们不像是已经来到了终点。2015年,美国没有大学学位,年龄在21岁到30岁之间的男性,有差不多22%此前的12个月里没有工作。20来岁、有高中学历的男性,从前是美国工人队伍里最骨干的构成部分。他们离开学校,找到一份蓝领工作,干上40多年,然后退休。今天,1/5的这类人没工作,整个群体的就业率下降了10%。这似乎引发了文化、经济和社会的衰退。没有工作,这一群体很难结婚、离开家乡或是参与政治,他们的未来看起来相当黯淡。

多少就业岗位受到威胁
2016年,受人敬重的计算机科学家莫舍·瓦尔迪(Moshe Vardi)在科学促进会年会上明确地说:

我们正进入一个机器几乎能够在任何任务上胜过人类的时代。我相信,社会赶在以下问题到来之前就面对它:如果机器能做人类能做的几乎任何工作,那么人类要做些什么?……在人类劳动遭到淘汰之前,我们必须挺身而出,迎接这一挑战。

一些研究试图更准确地量化这一影响。得到最广泛报道的是2013年牛津大学的弗雷和奥斯本进行的研究。[6]该报告预测,未来20多年,美国47%的岗位将受到自动化的威胁。其他国家也做过类似的研究,所得结论基本上差不多。讽刺的是,撰写报告本身,就部分地自动化了。作者使用机器学习来准确地预测702种不同的工作岗位里哪些能够自动化。通过机器学习,他们训练了一套分类机制,用程序来预测哪些工作岗位会转为自动化。他们先为程序馈送了一套训练集合,里头有70种他们手工标注的能够自动化的工作岗位。接下来,程序预测了其余的632种岗位是否能够自动化。也就是说,就连预测未来哪些岗位会自动化的工作,也部分地自动化了!

就算你同意报告做出的所有假设(我并不同意),你也无法得出很多报纸所做的结论:再过20多年,我们中有一半人都会失业。牛津报告只估计了未来几十年有多少种岗位有可能转为自动化,这并不能直接变成47%的失业率,原因有很多。

首先,牛津报告估计的只是容易受自动化影响的工作岗位的数量。在实践中,出于经济、社会、技术和其他原因,有些岗位不会转为自动化。举例来说,如今我们基本上可以把航空公司飞行员的工作自动化。老实说,大多数时候,驾驶飞机的就是计算机。但在未来一段时间内,社会很可能要求有飞行员待在仪表盘前面,哪怕他们大部分时间都在浏览iPad。我可以很快举出更多的例子,说明报告里预测的一些能够自动化的岗位,实际上不会转为自动化。

第二,我们还需要考虑技术创造的各种新岗位。比方说,我们不会再雇用很多人来从事铅字排版的工作。但我们雇用了更多的人,从事基本上同等的数字工作:制作网页。当然,如果你是个打字员,饭碗被毁了,那么,如果你接受合适的教育,你能够重新对自己进行定位,在这些新行业里找到工作,这很好。可惜经济学里没有一条基本定理曾指出,新技术摧毁多少旧岗位,就创造多少新岗位。过去的情形如此,纯属偶然。一如20世纪的马匹劳动力一例所指出,事情并不总是如此。

第三,一些岗位只能部分自动化,而自动化其实又可能提高我们的工作能力。例如,科学实验领域出现了许多新的自动化工具:基因测序仪可以自动读取我们的基因,质谱仪可以自动推断化学结构,望远镜可以自动化地扫描天空,但科学家们并未因此丢掉饭碗。事实上,较之文明史上的任何时期,如今从事科学工作的科学家都更多了。自动化提高了生产率,科学知识发现得更快了。

第四,我们还需要考虑今后几十年里每星期的工作时长会有些什么样的改变。在大多数发达国家,每星期工作小时数自工业革命以来大幅下降。美国每星期的平均工作时从大约60小时下降到33小时。其他发达国家走得更远,德国工人平均每星期只工作26小时。如果这样的趋势持续下去,我们就需要创造更多的工作岗位,代替缩短的时间。

第五,我们还需要考虑人口统计变化。求职人数肯定会变。许多发达经济体的人口日趋老龄化,如果能够完善养老金制度,我们中会有更多人开始享受退休生活,不再需要为工作烦心。

注:本站不存储任何书籍,PDF电子版收集于网络,仅供学习交流使用,请于24小时后自觉删除。

pdf免费电子书仅共享学习使用,百度云网盘在线阅读,首发下载后请自觉删除,请支持完整正版:百度微云网盘免费每天听本高清PDF电子书在线阅读下载 » 人工智能会取代人类吗?
网站留言板
分享到:
赞(0)