新华读书会

　　我们生活在技术潜力超乎寻常的年代，然而大量技术发明的涌现都伴随着相应的风险。耶鲁大学知名学者温德尔瓦拉赫警告说：科技失控之前，要从法律、制度、社会文化等多方面着手迎接变革、谋划未来。

　　科技失控，是近两年来人们热议的话题，现代科技每向前迈进一步，人们对未来的忧虑就多一分。在《科技失控： 用科技思维重新看透未来》中，美国耶鲁大学知名学者温德尔瓦拉赫全面分析、审视了那些有可能将人类带上技术不归路的人工智能、转基因、量子对撞机、生物工程、3D打印等技术，指出当这些技术超越了奇点，当机器拥有了人类的思维方式，当生物基因技术模糊了人、兽以及人工智能的界限，这个社会的很多秩序将被改写。与其忧心技术将带来的不确定性，不如在科技失控之前，为迎接变革做好准备，从法律、制度、社会文化等多方面着手谋划未来。

　　在工业革命之初，我们以为机器只是用于延展人们的体力、精力，代替人类去完成那些笨重的、耗时的、重复性的工作，让人从繁重的体力劳动中解放出来；伴随计算机技术的发展，机器从工业世界中突围而出，越来越多地进入医疗、教育、高端服务等领域，一波一波冲击脑力工作者曾经固若金汤的工作。当深蓝战胜世界象棋冠军，当智能机器通过图灵测试，当软银公司的“情感机器人”全新上线，当语音识别、大数据技术与人工智能融为一体，人类作为天之骄子最后的骄傲，也被打上了一个大大的问号。现代科技在服务人类的同时，也对人们现有的工作、生活，以及现有的产业结构发起了新一轮挑战。

　　所有的技术，初始的模样都如同天使，扶弱济困，解除人们的苦痛，使人类能够超越身体的局限，解除时间和空间的限制，令生活更加便捷，释放前所未有的生产力，然而科技的指数化变革，将人类社会制度、伦理、文化的变革速度远远抛在了身后，由此也深埋了各种危机的种子。

　　当人赋予智能机器越来越多的能力，让它们学会了自主学习，与外界沟通，在生产、农业、交通甚至很多智慧领域，机器越来越“主宰”一切。当“机器之心”开始决断人类事务，当机器的“完美理性”，代替了人类由丰富的感情和不完全理性组成的智慧系统时，这个世界的“机器化”“麻木化”也就指日可待了。

　　在美国科技预言学者雷库兹韦尔的《机器之心》中，作者还预设了一个颇具魔幻现实主义的情境：我们的身体里流淌的不仅仅是血液，还有一种会自我繁殖的微纳米机器人；大脑中的记忆由植入的芯片生成；我们的眼球、耳朵与电子智能产品开始融合，成为千里眼、顺风耳，在电子植入产品的作用下我们可以超越自然的生命规律……此时，人与机器的界限已经变得模糊不清。

　　在本书中，温德尔瓦拉赫则提到了一系列比人工智能对人类的侵蚀更令人们难以接受的“黑科技”：基因技术超越拐点成就人兽杂交、试管婴儿不再“受宠”，而科技干预被量身定做的“设计婴儿”开始呱呱坠地，增能的人类拥有了某些动物的本领，技术智人开始取代纯自然进化的智人主宰世界……

　　科技的孤标崛起，在不断触碰人类情感、尊严、权利的禁区，甚至人之为人的基础，冲击着现代社会秩序的基石，甚至核技术、量子对撞等直接危胁着整个地球的安全。科技，究竟是我们的福音还是送人类走上不归路的末世狂曲？

　　就今天而言，技术究竟是以天使还是魔鬼的容颜呈现在人间，主要取决于背后应用技术的人，就如同现代医疗技术、生化技术，可以治病救人，同样也可以伤人、害人一般。在未来，笔者以为面对不断发展的技术，我们需要做好的首先是约束自己，不要因人类欲望和野心的膨胀，而令各种危险的“黑科技”横行。

　　就人工智能而言，让人工智能保留一颗“机器之心”，延伸人类的智力和体力，伸缩人类的时间与空间，或许是人类最好的选择。而在与人类融合，甚至赋予其自主独立意识方面，确需谨慎再谨慎，一旦跨过那个技术奇点，我们所面对的就将是一条技术和社会发展的不归路。而对于生物基因技术，笔者以为那些超越大自然进化规律，人为干预物种的演进，借各种基因为人类增能，也许这并不是人类的进步。从长远而言，人类将成为依赖科技的奴隶，一旦失去这些科学的庇护，人类的成年人也将脆弱如婴孩。

　　科技的未来，就是人类的未来。如何与技术和谐相处，是未来100年人类不得不面对的课题。本书意在通过摆明科技在我们面前的歧路，提醒人们在科技超越奇点之前，厘清思路，善用科技的力量，为人类创造福祉，增强国家力量带来社会发展机遇，避免由于科技失控，触发人类发展危机，甚至是送地球走上不归路。面对那些有可能冲击现有社会文化、伦理、秩序的科技，及时界明科技的禁区，对于不可改变的变革趋势，则应提前在社会制度与文化上做好铺垫。让科技成为人类的朋友，而不是反客为主，是每一个国家的责任，甚至也应成为一种联合践行的国际公约。