失控的未来

　　约翰·黑文斯带读者进入了一个算法和智能机器的全新领域，展示了能够帮助人类掌控自身命运的解决方案，他讲的故事时而妙趣横生，时而发人深省。

　　——《赫芬顿邮报》

　　21世纪的核心挑战便是如何与智能机器既安全又合乎道德伦理地共存。通过细致的研究、访谈，并加以未来场景，黑文斯证明了为人工智能创建道德伦理标准，将有助于保留我们为珍视的价值观。

　　——詹姆斯·巴拉特 《我们最后的发明》作者

　　作者探索了人工智能和机器人领域即将面临的一系列社会问题，本书是有关身份、意义、欺骗和现实的有益指导，绝对值得一读。

　　——史蒂夫·奥莫亨德罗 计算机科学家

　　这是一本充满智慧、风趣幽默、勇于挑战的作品，是目前关于人工智能既美好又实用的前景展望。

　　——蒂姆·莱布李希特 TED演讲人

　　人工智能该何去何从？我们可以接受一位智能助手帮我们安排工作日程，但是否也能接受一位机器人配偶？我们可以接受用陪护机器人来照顾老人，但是否也能接受利用情感类软件来影响孩子的行为？我们可以生活在Facebook的Oculus Rift头戴式显示器所创造的虚拟现实中，但是否愿意让广告商操纵我们的思想及购买行为？

　　我们已经进入了新的时代，各式各样的个性化算法会影响我们的每一个决策，人类协助、智能化以及灭绝之间的界限也已经模糊不清。我们必须为正在侵蚀我们生活的人工智能创建一套道德伦理标准，让每一个人都有权根据自己的价值观控制自己的身份。

　　本书从经济学、新兴技术和积极心理学的角度出发，提出了务实的解决方案，这是首次从价值观的角度对算法式生活的解读，是一本帮助人类拥抱现在并积极定义未来的指南。每一章都以一段虚构的小故事开篇，帮助读者展开想象，设想自己在面对各种有关人工智能的情景时会如何做出反应，同时，作者还借此彰显了梳理价值观的必要性，因为支配当前社会的算法已经在行动了。

　　2014年5月

　　俄亥俄州哥伦布市

　　深夜。郊外的一栋房子里，走廊上的指示灯变红，闪了5分钟。刚开始很慢，后来越闪越快。5分钟之后，是一阵低沉的嘟嘟声，淹没在楼下起居室里传来的《吉米今夜秀》节目里的笑声中。指示灯最后发出了长长的红色闪光，然后灭了。

　　2014年8月

　　马萨诸塞州萨默维尔市

　　“斯科特，我听到你说的了，我觉得你反应过度了。”托马斯边说边解下他绑马尾的发带，“说到底，这只不过是个真空吸尘器而已。”

　　斯科特?兰利是Homebo机器人公司的一名程序员。他揉了揉眼睛，不知道在凌晨3点要等多久才能坐上车。他想象着自己在地铁红线等车的场景，叹了口气，说道：“那是个自动充电的真空吸尘器，托马斯，问题的关键就在这里。它能连上电网、互联网，进行固件升级。所以，虽然我同意你说它只不过是个真空吸尘器，但它还是个非常强大的、可以联网的设备，住在人们的家里。”

　　托马斯仰起头，抖了抖头发，又向前倾了倾身子，拿过噙在嘴里的发带，开始重新整理自己的马尾。“我们已经解决了平衡传感器的问题。加速计也已经通过反复测试，把精确度控制在了94%，能够识别出地板上的微小变化。所以，这些机器人不会再像测试版那样摔下楼梯了。”他皱着眉头接着说道，“当我看到YouTube上普林斯顿大学的男生在聚会上举行Homebo机器人赛跑，而其中的一个摔下楼梯的视频时，我吓得魂儿都没了。”

　　斯科特喝了一口新打开的红牛，脑子已经开始嗡嗡作响了。“是那个机器人撞到猫的视频吗？”

　　“是的，”托马斯说道，“虽然没有致命，但至少有几十个爱猫狂人的评论让我们的律师捏了把汗。”他指着斯科特，“是你解决了那个问题。所以，你只要再解决一次就好了。现在就去办。”

　　斯科特清了清嗓子，慌了神，“这次不只是一个传感器的问题，托马斯，我刚才已经解释过了。这是核心功能的问题。原来的Homebo机器人在无法充电时会自动关闭，因为我们的程序就是这样写的。但现在它们会自己跑到充电站充电。YouTube上已经有几十个这样的视频了。”

　　“你有没有看到父母给机器人装上兔子耳朵的那个视频？”托马斯说道，“就是孩子们在复活节早上醒来后以为四处的彩蛋是真空吸尘器放的那个视频？孩子们都快高兴疯了。那个视频获得了那么高的点击率。公关部的人跟我说，那个视频差点儿让我们登上《艾伦秀》。要真是那样的话，就太好了。”

　　斯科特停顿了一会儿，理了理因为缺乏睡眠和吃太多营养助剂而变得模糊的思路。托马斯不是程序员，也不是数据科学家，他是业务开发的负责人。他曾帮助两家公司成功上市，其中的一家让他有了技术领域的工作背景。斯科特是个程序员，他常常觉得很难向非技术人员解释清楚，想要从机器那里获得预想的结果不像听起来那么简单。这要先了解一个人真正想要的结果，然后再进行反推，努力使之实现。这个部分是很难的，因为人们—尤其是业务开发人员—想要的往往是立竿见影的解决方案，但却不理解编程是怎么一回事。

　　就拿真空吸尘器机器人这个例子来说，像托马斯这样的人总是容易忘记，安装Homebo机器人的家庭有着各不相同的情况—室温差异巨大，这会影响电路；供电情况不一样；而且不同人家里的灰尘量、过敏源从来都不一样。所以要对该机器的操作系统做出统一更改是一件非常费劲儿的事情。托马斯没想到这点，因为在他看来，固件联网这个事儿只要总部下达一项指令，所有的机器便都可以进行升级了。但这种测试不足的“一刀切”思维会带来巨大的风险。

　　“斯科特，你在听吗，哥们儿？”托马斯说道，“我知道你累。我们都累。我还在修改隐私权协议的第三稿，等你给机器升级完了，我们就要发布的。”他咧嘴笑笑，“当然，没人会看的，尽管我们要求他们‘经常去网站查看条款与条件协议的更新’。哪怕我们在协议里说我们已经在产品上装了摄像头，而且会录下他们的性生活，他们也不会发现的。”他看看手机，快速回复了一条短信，“律师还是有些作用的。”

　　斯科特看看自己的电脑，欣赏着自己新编写的代码块。在他还是小孩时，他曾经拉过小提琴，有时候会觉得那个音符和他如今写下的数字非常相似。当一串串字符能表达一定的意义时，他的这种感觉便会更加强烈，就像从大脑中谱写出来的乐章一样，供耳朵享受。尽管他明白在写下代码之后还要进行数十次的测试，但当这些数字在他脑海中被敲出来时，他就知道某个切实的项目或产品的基础已经打好了。能够把数学逻辑和物理原理变成能跟这个世界进行交互的东西—那些存在的、有生命的东西，这是极具创意和成就感的事情。他拥有这种能力，但托马斯没有，这也是斯科特看不起他的众多原因之一。

　　而且，托马斯还是个狂妄自大的浑蛋。

　　“这就是那个代码吗？”托马斯把斯科特从椅子上推了下来，指着电脑屏幕问道。斯科特猛地往起一站时，撞到了自己的胳膊肘。

　　“是的，”他说道，一边揉着自己的胳膊，“这是新的算法，可以防止机器人的主基板一直处于运行状态。”

　　“不错。”托马斯拖动鼠标往下滚动，“这看起来不错，这么长。”

　　斯科特一脸苦相，“没有谢谢吗？”

　　托马斯不再滚动鼠标，站起来，盯着斯科特说：“可以运行了吗？”

　　“这个算法吗？”

　　“是的，当然是这个该死的算法了。两天前就该搞定了，斯科特。我之所以没有开除你，就是因为你是先前开发出Homebo的原始算法的金童。但也正是因为你，当我们的设备一直在掉电，亚马逊上出现如此多的负面评价之后，我还要面对我们一个大风投的质问，跟他解释为什么比原计划晚了这么久。自动去充电站充电看起来还是挺酷的，但当你下班回到家，本想着起居室会一尘不染，可以举办派对，却发现吸尘器停工了，那时你才感到愤怒呢。”

　　“这个故障我可以修好，托马斯。这跟用户所处地点的电网不同有关。”

　　托马斯举起手，打断了斯科特的话，“我不管，斯科特。我就是不能再看到有愤怒的顾客说我们的机器人应该叫作Homeblow（毁家）。如果算法写好了，那就开始运行。”他指指斯科特，让他坐回到椅子上，斯科特照做了。

　　“你是说，现在？”斯科特用手指了指电脑屏幕，“我还有很多错误要修正呢。”

　　“就是现在，斯科特。我会一直在这儿站着，直到我看到什么执行命令为止。最好能够在东部时间明早9点把新算法下载到人们的机器里。新的隐私协议会在5点半批准通过，这样就可以给关心此事的人们留出阅读的时间。当然，还得在他们睡醒的前提下。”

　　斯科特沉默了，把自己的手指关节摁得啪啪响。托马斯凑了过去，都快贴到斯科特的脸上了，斯科特甚至都能从他的口气中闻到晚餐时送到会议室的印度菜的味道。

　　“斯科特，我们这个由麻省理工初创企业和硅谷组成的圈子很小。虽然今天你很抢手，因为你是这个有利润前景且能代表家用物联网概念的产品的主要程序员，但是如果你不立即把这个新算法推送出去的话，我会保证永远没有人再雇用你。我知道你觉得我是个傻瓜，但你错了。我只不过不是程序员而已。你这么骄傲自大地以为你的技术会让你再找到工作，但你不知道如何把你所做的推广出去。没错，在后台，你是主力。但为我们找到资金并支付你薪水的人可是我。我还可以开玩笑，说你就是那个不让我们准时发布的神经兮兮的书呆子。那样，就没有谁会再关心你的技术了。或许我还可以提到你是那个专注于向世界提供免费服务的开源小组的成员，这肯定会让投资者紧张的。可能信息想要免费，但投资者更喜欢收费。”

　　他轻轻敲了一下斯科特的鼠标，电脑屏幕又亮了起来，“我说完了，把算法发出去，不然我就让你看看我是不是在开玩笑，斯科特。看看我要用多长时间可以把你毁掉。”

　　斯科特愣住了。他望向窗外，看到有人在深夜沿着查尔斯街骑行，脚踏板上的反光片在漆黑的河面上闪烁着微光。然后，他看到了窗户上映出的自己的脸—眼睛肿得像有瘀伤，脸上汗津津的。为了让机器人运行，他工作太拼命了。他投入了那么多，他们逼得这么紧。

　　他深吸了一口气，把椅子往前挪了挪，开始敲键盘。几分钟后，他按下了回车键，抬头看了看托马斯，“做好了。机器人需要连接才能进行固件升级，但已经做好了。一旦连接，最多只需要四五分钟。”

　　托马斯点点头，“谢谢，斯科特。”他转过头来，“下次我再让你做这样的事情时，我们就别这么矫情了，好吗？我已经说过了，聪明人，这只不过是个该死的机器人而已。”

　　2014年11月

　　俄亥俄州哥伦布市

　　深夜。郊外的一栋房子里，走廊上的指示灯变红，闪了5分钟。刚开始很慢，后来越闪越快。5分钟之后，是一阵低沉的嘟嘟声，淹没在楼下起居室里传来的《吉米今夜秀》节目里的笑声中。指示灯最后发出了长长的红色闪光。然后，变绿了。

　　上一代Homebo吸尘器都是预先充电的，这是用户指出来希望其具备的功能。但对于把机器人插在坏了的插座上的人来说，这个自动充电功能的魅力就大打折扣了。尽管大部分用户不会遇到Homebo吸尘器因为没电而停止工作的问题，但那例外的一小部分人的抱怨声不容小觑，足以促使公司对其算法进行更新。而现在，只要Homebo吸尘器插在标准的交流电插座上，不管插座工作与否，只要家庭断路器通电，它就可以实现充电。这样一来，机器人总是可以找到电源充电的，用户就不会碰到麻烦或者抱怨了。

　　凌晨12点05分，俄亥俄州哥伦布市的一个Homebo机器人吸尘器无法从自己现有的插座上充电，但由于有了新的算法，它便可以抢夺旁边卧室里的充电电源，而这里唯一正在运行的电器是一个婴儿监视器，而且监视器的备用电池也没电了。凌晨1点30分，婴儿监视器没电了。2点30分，在监视器旁边的婴儿床里，小婴儿因为吐奶而被呛得发不出声音，当妻子不在家时负责照顾小婴儿的父亲在楼下的电视机前睡着了。他没有听到女儿的哭声。

装　　帧：平装-胶订

页　　数：314

开　　本：16开

纸　　张：纯质纸