您的位置 : 首页 >> 电子书推荐分享

《生命3.0》 人工智能时代 人类的进化与重生

下载方式

生命3.0人工智能时代 人类的进化与重生

《生命3.0》 人工智能时代 人类的进化与重生 电子书推荐分享 第1张

本书作者:迈克斯·泰格马克

本书读后感及个人笔记分享· · · · · ·

被奴役的神

假如人类能把上述所有情景的好处全部结合起来,用超级智能开发的技术来消除人类的痛苦,同时保证人类能掌控自己的命运,那岂不是很好吗?这就是“被奴役的神”的情景的魅力。在这种情景中,人类控制着一个超级智能,用它来生产超出人类想象的技术和财富。如果普罗米修斯从未逃脱,那么,本书开头提到的欧米茄团队所能做的可能最后就会变成这样。事实上,这种情景似乎是一些人工智能研究者在处理诸如“控制问题”和“人工智能装箱”等问题时的默认目标。比如,当年美国人工智能协会的主席汤姆·迪特里奇(Tom Dieterich)在2015年的一次采访中说:

今日好书推荐精彩章节阅读· · · · · ·

人们总在问,人与机器的关系如何。我的回答是,这很明显:机器是我们的奴隶。

这是坏事还是好事呢?这个问题微妙而有趣,因为答案取决于你问的对象是人还是人工智能。

这对人类是好是坏

无论结果对人类是好是坏,显然都取决于控制人工智能的人类,因为这些人既能创造出消除疾病、贫穷和犯罪的全球乌托邦,也能创造出残酷的压迫体

《生命3.0》 人工智能时代 人类的进化与重生 电子书推荐分享 第2张

使用技术所需的智慧之间展开了一场较量。如果人类输掉了这场智慧的较量,这个被奴役的人工智能的情景就可能会招致自我毁灭,或导致人工智能逃脱。即便这两种惨剧都避免了,也可能会造成灾难性的后果,因为人工智能控制者的崇高目标可能会在几代人的时间内演变成对人类整体而言极其可怕的目标。因此,人工智能控制者们建立一个良好的管理体系来避免灾难的发生,就成了一件至关重要的事情。几千年来,人类实验了各种不同的管理体系。这些经验告诉我们,管理体系的问题何其多,从顽固不化到随波逐流,再到争权夺势、
继位问题和能力问题。至少有4个方面必须要达到最佳平衡:

。中心化:在效率和稳定性之间存在一个此消彼长的平衡状态,当只有一个领导者时,会非常有效,但在这种情况下,权力总会腐败,换届也很冒险。

。内部威胁:不管权力是过度中心化还是过度去中心化,都必须保持警惕,因为前者会导致党同伐异,甚至只剩下一个领导者统治所有人,而后者会导致臃肿的官僚机构和碎片化。

。外部威胁:如果管理体制过于开放,会容易让外部力量包括人工智能腐蚀它的价值;但是,如果它过于顽固不化,又会导致无法学习新东西,不能适应改变

。目标稳定性:目标“漂移”得过多,会把乌托邦变成反乌托邦的情形。但是,如果目标雷打不动,又会无法适应快速发展的科技环境。

快速获取:直接购买

《生命3.0》 人工智能时代 人类的进化与重生 电子书推荐分享 第3张

注:本站不存储任何书籍,PDF电子版收集于网络,仅供学习交流使用,请于24小时后自觉删除。

本文版权归原作者所有,请支持正版。此处仅提供个人读书笔记 https://yigefanyi.com/shengming3-0-rengongzhinengshidai-renleidejinhuayuzhongsheng/
返回顶部