看书中文网

手机浏览器扫描二维码访问

第四章 对智能机器的信任（第1页）

一秒记住【xiaoyanwenxue.com】精彩无弹窗免费！“人人都可以是产品经理（套装共13册）（.shg.tw）”！

第四章

对智能机器的信任

2016年是自动驾驶汽车进入主流媒体的突破之年。同年1月，我们开着奥迪A7向东驶过圣马特奥大桥，在车流中穿行。开车的是这台车的制造工程师之一，我坐在副驾驶座，另一位工程师坐在后座上，用笔记本电脑监控着汽车的运行状况。这里聚集了当地多个科技园区，随着下班高峰的到来，交通变得越来越拥堵。当天天气晴好，非常适合驾驶，半岛中部地区通常都是如此。我望着车窗外旧金山湾那平静的水面，淡淡的绿色与湛蓝的天空交相辉映。后座的工程师大声告诉我接下来会发生什么，我看到汽车中控台开始闪烁，同时开始倒计时：“自动驾驶模式将于5分钟后启动。”作为首批体验无人驾驶的非奥迪公司人员，我紧盯着计时器，等待着未来科技的到来。

A7标价从6.8万美元起，属高档车定位，但在硅谷人人持有股票期权的消费群体中，却没有足够的吸引力。我看着周围其他车辆里的司机，知道他们对前方将要发生的一切一无所知。5分钟过去了，方向盘上有两个按钮开始闪烁，表示可以按下操作。该设计源自美国的核导弹系统，其中有一处需要同时转动两把钥匙，以免发生错误。工程师驾驶员按下两个按钮，挡风玻璃下沿有一排亮起的LED（发光二极管）灯，从橙色变为蓝绿色。

就这样，汽车开始自动驾驶。

工程师双手离开方向盘，放在膝盖上，露出了开心的笑容，好像在说：“尽情尖叫吧，我早就习惯了。”果不其然，我得承认，我是真的叫出声来。方向盘往后一缩，开始自己左右转动，沿着车道调整方向，其精准程度简直不可思议。前一刻，我还有点害怕，之后马上放下心来。这无异于用强大的事实说明，在这场人机接力赛中，具有划时代意义的事情发生了。

正在我们聊天的时候，前方一辆车突然急刹车，尾灯亮起。我本能地向前看去。我能感觉到汽车做出的决策是换道，开始往侧面打方向盘。而此时我用余光隐约感觉到左侧有一辆车正在驶进我们的盲区，会挡我们的路。我的第一反应就是爆粗口，可奥迪车却不急不慢地退回原来的车道，并缓缓刹车，以免追尾。坐在驾驶位的工程师仍然面带微笑，双手放在膝盖上。

整个过程原本特别惊险，甚至让人害怕，而汽车自己做出了决策，其速度之快，根本没有给你细想的时间。一切都那么平稳顺利，你无从质疑。汽车司机还在微笑着，表情没有任何变化，我问他刚才的情况，要是他该怎么处理。他又笑了笑，这次笑得比较走心，露出了两颗牙齿，好像在说他无法回答。根据法律规定，试车时，即使汽车自动行驶，驾驶员也要时刻保持警惕，随时准备接管。所以他要像个机器人一样，几乎一动不动地目视前方。法律的更新根本赶不上汽车性能的提升。（2019年，欧版奥迪A8有了“交通拥堵驾驶系统”，允许一定条件下汽车自动驾驶，但由于美国联邦法律和各州法律之间存在冲突，该系统无法在美国推广。）负责监控的工程师大声说道：“前三分钟，你一定在想，太刺激了，这就是未来！之后你又会觉得好无聊啊。”我们都笑了。然而，能让驾驶员无聊，这本身就是一项壮举。无聊意味着放松，而不是恐惧，不管发生什么状况，即使从没经历过，也丝毫不紧张。

如今，有关无人驾驶汽车的新闻比比皆是，但人们往往忽略了汽车的行驶距离和行驶速度。市面上多款汽车具有一些自动化性能，比如自动泊车、事故预防转向，以及躲避障碍刹车等。仔细看看，你就会发现这些功能有时会让人非常尴尬。YouTube（油管）上有一段2015年的搞笑视频，点击量超过700万。视频中，在多米尼加共和国的一家汽车专卖店里，一伙人对沃尔沃进行功能测试，因为自2011年以来，沃尔沃一直宣传，其品牌汽车配备行人防撞系统。要真是这样的话，简直太神奇了。你可能看不清驾驶座上那位倒霉的司机，但我们可以想象得到，他准备猛踩油门的时候，眼睛睁得大大的，激动得汗毛都竖了起来。前方站着一个穿粉红衬衫的人。由于紧张，他身体前倾，既担心又兴奋。司机开始加速……汽车直直地撞向了粉红衬衫，他像个布娃娃一样倒在了引擎盖上。镜头一阵天旋地转，大家谁也顾不上了。原来这辆车的车主并没有购买该系统的服务包，所以汽车就直接撞上了这位勇敢而愚蠢的以身犯险者。

2015年底，自动驾驶汽车再度走红，特斯拉花了2500美元进行软件更新，承诺为客户提供一项新的“自动驾驶”功能。网上出现了很多精彩视频，主要都是一些不成功的案例。其中一条题为“特斯拉自动驾驶，险些让我丧命！”，视频中看得出驾驶员相当紧张，应该是第一次慢慢地把手从方向盘上移开。他的恐惧是有理由的。汽车无法识别导向车道线，转向了迎面而来的车辆。万幸的是，他及时抓住了方向盘。

无人驾驶汽车不会一蹴而就，它们会在不经意间来到我们身边，向我们诉说之前所有的设计，绝对算得上一项成就。它们的成功并不仅仅依赖于工程学，更依赖于我们人类。车上多了个新按钮，即使我们从来没有用过，也能猜出它的功能。我们信任它吗？里面肯定是包含技术因素的，功能猜对了，并不代表技术理解了。这就是那辆奥迪上市之前的很多年里，至少有几十款无人驾驶卡车和汽车穿梭于美国各地的原因。更大的挑战在于运用这些技术制造让我们信任的东西。在那些吐槽特斯拉的视频中，驾驶员并不了解哪些功能是汽车没有的。技术人员和特斯拉粉丝们很快就开始指责上传视频的人。难道他们什么也不懂吗？60年前，美国空军就已经不再将飞机失事归咎于飞行员的失误，而60年后，我们却将汽车设计拙劣造成的问题归咎于驾驶员！特斯拉视频里的那些人，一个个心惊胆战，责任在他们身上？不！这是设计的问题。一件产品如果设计完善，就会变得很神奇，就算你从来没有用过，似乎也能知道它会如何运作。这个过程需要我们综合一系列的法则，包括之前见过的，从二战、三里岛，以及其他地方，当然还有从其他事物中总结出来的，等等。秘诀在于，我们会相信他人，机器只有达到类似的程度，我们才会信任它们。

*

如何让驾驶员信任我坐的这辆A7呢？负责这项研究的是布莱恩·莱斯罗普。大众集团有一间电子研究实验室，知道的人并不多，他是这里用户体验组的负责人。说起自己的工作，他的口吻平淡无奇，让我们想象不到他在未来生活的研究上倾注了多少精力。莱斯罗普是一名专业的心理学家，出生并成长于加利福尼亚，他身材魁梧，一头短发，一副军官形象。他讲话非常严谨，具有典型的科学家风范。同时，他还是发明家，与他人合作，申请了多项专利。这些专利对自动驾驶汽车具有决定性意义。

15年前，莱斯罗普在Monster求职网上找到了这份工作，不过他能为大众做点什么，就连招聘者也不甚了解。当时这里有15名工程师，莱斯罗普来到以后，大家都以为他是第16个。上班第一周，他们派给他一些焊电路板的活儿。莱斯罗普，这位跟阿尔方斯·查帕尼斯和唐纳德·诺曼一样的认知心理学家笑了笑，开始研究电路板。用他的话说，他来到了蛮荒的美国西部。“这里好坏并存。”他说，“坏的一面是没人会为你指引方向。好的一面也是没人会为你指引方向。”

最后，莱斯罗普开始致力于几款概念车的内部设计，概念车是大众对未来汽车的梦想和构思，会在车展上展出。他注意到，当时的汽车内部有很多设计可以说是荒谬至极。辉腾，大众顶级轿车，莱斯罗普第一次坐进去的时候，他数了一下，一共有70个不同的旋钮。于是，他开始思考，怎么才能把相应的功能合并到一起，去掉这些旋钮呢？他发现很多旋钮都是用来辅助驾驶的，作用并不大。他想，为什么不把它们一起放到触摸屏上呢？

当时是2010年前后，自动驾驶汽车刚开始出现。斯坦福大学的一个研究小组组装出了一辆自动驾驶奥迪车，参加传说中的派克峰（PikesPeak）山道赛。人人都能看出，自动驾驶汽车的前景一片大好，他们不能在实验室里花费太长时间。碰巧，莱斯罗普关注的也是这个问题。他在NASA（美国航空航天局）小试牛刀，尝试研发飞行员头盔显示器。这项工作向现代世界提出了一个基础性的问题：如何实现飞机操控在人机之间的相互转换？

莱斯罗普已经知道，90%的飞机事故不是因为飞机故障，而是因为飞行员不明白飞机在做什么。他考虑了自动驾驶汽车会发生的各种状况，心想，天哪！“我发现，我们会遇到同样的问题，但是问题的数量要多出一万倍。”在飞机上，你每飞行16小时，可能会遇到一点危险，但是在汽车里，你每秒钟都有可能撞车。不仅如此，你的司机朋友们并没有拿出大量精力来接受安全驾驶培训。没有人付钱，让他们保证别人的安全；也没有人付钱，让他们在高峰期不要忙着化妆打扮，或者阅读邮件。莱斯罗普心想，2010年，会有多少个有航空背景的人加入自动驾驶汽车行业呢？据他所知，他是唯一一个。

2016年，我们第一次见面时，他已经研究自动驾驶汽车多年，全球超过他的人寥寥可数。他选择这一领域，得益于另一位人因工程学家阿萨夫·德加尼的著作《驯服哈尔》（TamingHal），书名中的“哈尔”喻指斯坦利·库布里克的电影《2001太空漫游》中的那台杀人电脑。书的封面上还画着超级电脑哈尔9000醒目的红眼睛。在这本书里，德加尼利用各种物品，从闹钟到微波炉再到飞机，阐述了自动化的发展历史，以及我们在这方面所走的弯路。虽然闹钟与具备感知能力的人工智能似乎相去甚远，但德加尼却对哈尔9000的含义做了更加广泛的延伸。《2001太空漫游》中有个片段，机组人员对哈尔的建议产生了怀疑，躲进隔音的房间，商量着要把哈尔关闭。哈尔的红眼睛一眨不眨地盯着他们，读取唇语。哈尔知道了机组人员的计划，决定先发制人。德加尼描述了驾驶舱和控制面板发生故障的具体细节，并同时说明我们如何才能创造出似乎永远不会有主见的机器。读过这本书后，莱斯罗普得出了自动驾驶汽车的“三加一”设计理念，该理念后来成为他事业上的指导思想。

之前，我们谈到过三里岛事件，导致这场灾难的就是控制面板，上面有无数个按钮，它们功能各异，到底有什么重要作用，使用者完全摸不着头脑。这就说明，要想对机器的运作模式建立心理模型，你需要为其设计一个易于操控的界面，每种行为所表达的含义要统一，并且运行良好，要有反馈。我们可以看到，即使最简单的页面也包含这些原则，上面的按钮，要通过点击提示或者大大的红点告诉用户它已经被按下了，它所指代的行为已经真的完成了。无论是核反应堆、手机应用，还是面包炉按钮，问题的关键永远是让用户知道该做什么，然后再告诉他们运行状况如何。这跟莱斯罗普的“三加一”理念是一样的。

自动驾驶汽车要秉承三项原则以及一个前提：第一个原则，我们需要知道汽车处于何种模式，是否在运行自动驾驶。这或许会让你想起有关界面设计最早的规律——大多数坠机事件都是由模式混乱造成的。最先发现这一点的是阿尔方斯·查帕尼斯和保罗·费茨，他们曾经调查过二战飞行员错把襟翼当成起落架的问题。第二个原则，莱斯罗普称之为“咖啡溢出”（coffee-spilling）原则：无人驾驶汽车接下来会怎么做，我们需要预先有所了解，以免感到突兀，甚至惊慌失措。第三个原则，我们需要知道汽车看到了什么，这也许是建立信任最重要的一点。最后，也就是莱斯罗普公式的“前提”：由于自动驾驶不单单涉及用户，还涉及人机交互，所以在汽车和驾驶员的控制权转换过程中，要有绝对清晰的过渡。

就拿这款奥迪A7来说吧，试车驾驶员开车上路，然后让电脑接手驾驶，短短几分钟内，所有这些原则全部完成。整个过程非常紧凑。汽车开始自动驾驶后，挡风玻璃边缘的灯亮起，变色，告诉我们控制权已经发生了转变，谁在驾驶非常清楚，控制权在人车之间的过渡也很清楚。后来，汽车变道时，会有倒数计时，表明它接下来的举动。整个过程中，控制台上的屏幕都会显示我们周围的所有车辆，这样我们就知道汽车像我们一样，能看到周围环境中的每一处细节。

未来几年里，人机合作将进一步发展，我们与机器之间的关系也必然会发生演变。机器不光要为人服务，还必须赢得我们的信任，这种信任的建立方式将是非常微妙的。

工业设计和品牌推广公司fuseproject的设计师曾经发明了一套为老年人肌肉赋能的衣服，让我们看看他们发现了什么。这是一套紧身连衣裤，大腿和背部安装了许多六角形“豆荚”，看上去就像是为进取号星舰船员设计的内衣。这些“豆荚”实际上是驱动器，其工作原理就好比额外为使用者增加了一组肌肉，当使用者需要在它们的帮助下完成某些动作，比如从椅子上站起来时，它们就会启动。

这套服装还旨在解决一个更加广泛的问题，即发达国家的人口老龄化。未来的几十年里，越来越多的老年人将有可能独自生活，事实上，之后的情况也的确如此。然而，这个项目吸引投资者的地方在于人工智能的魔力：利用传感器探测使用者肌肉发出的电子信号，“豆荚”能够随时预知使用者的动作意图，且时间点几乎能与使用者的意向同步。服装原型出炉之后，设计师们开始亲自测试，这时问题出现了。“如果人一动，衣服就接手控制权，那么它所起的作用无异于加速人的衰老过程。”fuseproject的创始人兼首席设计师伊夫·贝哈尔说，“它留给人们的控制权越来越少。”感觉就像一套衣服控制了你的动作，整个人成了提线木偶。更糟糕的是，假如衣服出错了，误以为你想做什么，并且采取了行动，整件事成了乌龙，又会怎么样呢？“如果出于某种原因，它做了你不希望它做的事情，你就不会再信任它了。”贝哈尔说。这套衣服可能会让人更加觉得，使用者正在失去对生活的主宰。不仅如此，它还会失去使用者选择它所必需的信任。这样一来，这项产品就完蛋了。

问题是，在没有屏幕引导的情况下，如何让使用者觉得一切尽在掌握。解决方法就是设计一种新的交互方式。当衣服探测到用户的动作意图时，相关驱动器就会发出轻微的嗡嗡声。这时，用户只需要将手放到驱动器上就可以了。比方说，人在坐姿状态下身体前倾，大腿的驱动器就会发出嗡嗡声。如果人把手放到大腿上，驱动器就会响两次，告诉你接下来的动作，然后启动。就像那辆奥迪，它会提示它要做什么，并要求你来确认，明确你的意图之后，它会再次提示。但是这样的设计只是给已有的行为配上级联式的反馈，比如站立之前，你会习惯性地将手放到腿上。行为成了设计素材，这就是个很好的例子。从中我们还会发现，仅仅根据我们的行为模式来重新调整机器还不行。无论为肌肉赋能的服装、自动驾驶汽车，还是人工智能助手，任何一项技术，只要让我们放弃自己原有的动作，都需要了解我们的习惯。这些设计必须把握怎样做比较合适、妥帖，或者起码让用户满意，只有这样，才能赢得用户的信任。虽然以礼相待似乎没那么重要，但在设计过程中必须要考虑，因为用户在使用过程中会真真切切地体验到。

*

20世纪90年代中期，社会学家克利福德·纳斯发现了有史以来人机交互领域最奇怪的现象。近20年来，纳斯一直在研究我们对电脑的看法，不光是我们怎样使用它们，还包括我们的感受。他设计了一种新实验方法：他和同僚翻阅了社会学和心理学的历史资料，找到了一些关于人类交互方式的论文，仔细审视其他研究人员是如何将人与人之间的互动拆分开来进行研究的。然后他会考虑，假如将其中一人换成电脑，我们应如何观察其交互情况。

纳斯对礼貌问题特别感兴趣。虽然乍一看，这是个很抽象的话题，但却是可以量化的。想象一下，你正在教人开车。你问学生你的表现如何。假如要测试礼貌程度，你只需要将对方的回答，直接与别人问你同样问题时你所给出的答案进行比较即可。这种差异可以用来大体衡量我们当面批评别人的时候自己的克制程度。纳斯想知道人类是否也会以同样的方式对待电脑，与生俱来的礼貌意识是否还能起作用。

结果证明，人们对自己熟悉的电脑真的会更好一些。首先，他让测试对象在电脑上执行一些简单的任务，之后让他们对电脑的软件设计进行评分，其中一组使用的是自己的电脑，另一组使用的是陌生的电脑。结果表明，使用陌生电脑的人在评估原始计算机程序时要严厉得多，而对自己的电脑则会宽容一些。所有测试对象都没有意识到这一点；事实上，他们说自己从来没有考虑过要对机器以礼相待的问题，可他们的表现完全一致。

经过几十项实验，纳斯发现了很多奇怪的点：一项实验中，如果电脑不断地对他们表示赞扬，他们对电脑的态度也会更加积极。即使有人告诉他们，这种赞扬毫无意义，他们依然如此。另一项实验中，他让两组人分别佩戴蓝色和绿色袖章，给他们的电脑屏幕边框均为绿色，结果戴绿色袖章的小组对他们的体验评价更高。与他经常合作的巴伦·李维斯曾经在《纽约时报》上提到，“人人都觉得电脑是工具，是锤子和螺丝刀，毫无生命力可言。而克利福德却说，‘不，这些东西会说话，和你息息相关，带给你这样那样的感受’。”

纳斯指出，我们的大脑经过进化，能够应对两种基本类型的体验：物质世界的和社会生活的。电脑是两种类型的全新结合，而一开始，我们会以为它们属于物质世界。但是它们会与我们互动，让我们参与其中，带给我们烦恼和愉快的体验，我们不得不将其视为社会活动者。这样一来，我们不禁会认为，它们会遵守文明社会的准则。

与莱斯罗普交流，听他讲述多年以来的研究和对每一个细节的关注，人与电脑的关系似乎已经复杂到了滑稽的程度。但事实证明，我们可以采取一种更基本的方式来构建对机器的期望。这种方式我们更加熟悉，也更容易把握：我们对机器的期望和对现实人类的期望，二者可以达到惊人的一致。

想想看，开车途中，遇到红灯，这时你拿出手机查看信息。我们都知道这样不对，但大多数人还是会这样做。如果是一个人，你不会考虑太多，可假如身边有朋友在，她会及时提醒你：“小心看路！”或许你会抗议，觉得自己看着呢，心里有数。而你的朋友却并不知晓，她会觉得很危险，因为她预测不到你接下来的行动，也不知道你已经获取了她所观察到的所有信息：有什么人在过马路，红灯变了多长时间，刚刚旁边有车停下，等等。不管他们有多了解对方，当人们面临共同危险时，总会不断地确认谁知道什么，下一步要做什么。

机器也一样。汽车也需要告诉驾驶员和乘客它觉察到了什么。为了解决这个问题，奥迪A7将自己“看到”的周围环境用地图的形式呈现给你：画面简洁直观，道路上的其他车辆都会显示轮廓。这样的信息似乎没什么特别的，毕竟，上面的内容非常粗略，你只要往窗外一看就能看到。可事实上，这是在告诉你，你看到的，汽车也看到了，然后它会告知你它要做什么。屏幕上会显示汽车的下一步操作，比如左转，还有倒计时。听起来很简单，信息量虽然不大，却能让你觉得你在坐车，而不是被车挟持。你会从中获得安全感，就好比你坐在车里，环顾四周，发现驾驶员双手握着方向盘，目视前方，你马上就会放下心来。驾驶员会通过打转向灯来确保盲区安全。我们会不断观察周围的人，看他们是否看到了我们的意图，猜测他们是否了解我们所掌握的信息。假如对方是一辆正在自动行驶的汽车，或是一台旨在为我们提供帮助的机器，我们的期待也会如此。我们与之交流，就好比跟信任之人对话。

薄情前夫太凶猛  天才圣手  重生之凰临天下  造物主之我培植了怪兽文明  神级保安  矿物与岩石图鉴  毒宠小狂后  冰山总裁的至尊高手  野花图鉴  总裁老公，适渴而止  冤家路窄  佣兵天下(二十年纪念版)  女总裁的超级保镖  上古强身术  御史大人你马甲掉了  驭兽魔后  不装了，我是黑煞战神  绝色锋芒：牛X王妃  长生歌  谈婚论价