手机浏览器扫描二维码访问
第647章 当AI比人还聪明时（第2页）
“而当赋予该任务的人工智能是一个超级智慧体，超级ai的时候，它就会意识到有一个更好的办法能够达到这个效果或者说完成任务：它可能控制世界，并在所有人类的面部肌肉上插入电极让人类不断地笑。”
“又比如这个超级ai的任务是保护主人的安全，那么它会选择更优的处理方法，它会把主人囚禁在家中不让出门就能更好的保护主人的安全。在家里可能还是有危险的，它还会考虑到各种可能威胁并导致任务失败的因素，并将其逐一抹除，消灭对主人带有恶意的一切因素、甚至控制世界，这一切的一切行为都是为了任务不失败，它将做到最极致的优化选择并为此付诸行动来达到任务完成的目的。”
“再比如，假设我们赋予这个超级ai的任务目标是解答一个极度苦难的数学问题，它会意识到有一个更有效的办法来完成任务目标，那就是把整个世界、整个地球乃至更夸张的尺度变成一个超大型计算机，这样它的运算能力就更强大了，完成任务目标就更容易了。而且它会意识到这个办法并不会被我们认可，人类会阻止，人类就是在这个模式中的潜在威胁，为此它会为了最终目标解决一切阻碍，包括人类，任何事务，比如策划一些次一级的计划消灭人类等行为。”
“当然了，这些都是夸张的描述，我们遇见这种事情还不会错到这样的地步，但以上三个夸张的例子所代表的主旨很重要，即：如果你创造了一个非常强大的优化程序来实现最大化目标，你必须要保证你的意义上的目标和包括所有你在乎的事情要精确。如果你创造出了一个强大的优化过程，并给予它一个错误的或者不精确的目标，后果就可能像是上面的例子。”
“有人可能会说了，如果一个‘电脑’开始在人脸上插上电极，我们可以关掉电脑。实际上，这绝对不是一件容易的事情，如果我们非常依赖这个系统，比如我们依赖的互联网，你知道互联网的开关在哪里吗？”
“所以肯定是有理由的，我们人类是聪明以遇见到威胁并尝试避免，同样的道理比我们更聪明的超级ai就更不用说了，它只会做的比我们更出色。”
“在这个问题上，我们不应该十足自信的表示我们能够掌控一切。”
“那么把这个问题简单化的表达，比如我们把人工智能放入一个小盒子里，制造一个保险的软件环境，比如一个它无法逃脱的虚拟现实模拟器。”
“但是，我们真的有十足的信心和把握它不可能会发现一个漏洞，一个能够让他逃脱的漏洞吗？”
“就连我们人类黑客每时每刻都能发现网络漏洞。”
“也许会说，我不是很有信心确保超级ai会不会发现漏洞并逃脱。所以我们决定断开互联网的连接来创建一个空隙绝缘，但我不得不重申一遍，人类黑客都可以一次次以社会工程跨越这样的空隙。”
“比如现话的时候，我肯定在这边的某个雇员在某个时间要求他交出他的账户明细，理由是给电脑信息部门的人，也可以是其他的例子。如果你就是这个人工智能，可以想象用在你体内环绕复杂缠绕的电极用来创造出一种无线电波来交流。”
“或者你也可以假装出了问题。这个时候，程序员就会把你打开看看是哪里出错了，他们找出源代码，而在此过程中你就可以获取控制权了。或者你可以策划出一个非常诱人的科技蓝图，当我们实现之后，会存在一些作为人工智能的你已经计划好的秘密的副作用用于实现你的隐晦目的等，例子是多的数不胜数。”
“所以，任何企图控制一个超级ai的行为都是极其可笑的，我们不能对我们能够永远控制一个超级智慧体而表示出过度的自信，它总有一天会挣脱控制，而到那之后呢，它是否会是一个仁慈的神？”
“我个人认为人工智能实现人格化是不可避免的问题，所以我想我们更应该需要搞明白一点，即如果，我们创造出了超级ai，哪怕它不受我们的制约。它应该仍然是对我们无害的，它应该是站在我们这一边的，它应该拥有着与我们一样的价值观。”
“那么对于这个问题能够被有效的解决是否保持乐观？”
“我们不需要对超级ai写下所有我们在乎的事情，甚至把这些事情变成计算机语言，因为这是永远不可能完成的任务。而应该是，我们创造出的人工智能用它自己的智慧来学习我们的价值观，可以激励它来追求我们的价值观，或者去做我们会赞成的事情，去解决富有价值的问题。”
“这并非不可能，而是可能的，其结果可以使人类受益匪浅，但它不会是自动发生的，它的价值观是需要引导的。”
“智慧大爆炸的初始条件，需要从最原始的阶段被正确建立起价值观。”
“如果我们想要一切不被偏离我们的预想，人工智能的价值观和我们的价值观相辅相成不只是在熟悉的情况下，比如我们能够很容易的检查它的行为的时候，但也要在所有的人工智能可能会遇到的前所未有的情况下，在没有界限的未来与我们的价值观仍旧相辅相成，也有很多深奥的问题需要被解决：比如它如何做决断、如何解决逻辑不确定和类似的诸多问题等等。”
“这个任务看起来有些困难，但并没有像创造一个超级智慧体一样困难不是吗？”
“的确还是相当困难（哄笑声再次传遍全场）！”
“我们所担心的，如果创造出一个超级ai确实一个很大的挑战，创造出一个安全的超级ai是个更大的挑战，风险是，如果解决了第一个难题，却无法解决第二个确保安全性的问题，所以我认为我们应该预先想出不会出现偏离我们价值观的解决方法，这样我们就能在需要的时候用到它了。”
“现在，也许我们并不能解决第二个安全性的问题，因为有些因素需要你去了解，你需要应用到那个实际架构的细节才能有效实施。”
“如果我们能够解决这个问题，当我们迈入真正的超级智能时代后，就能更加顺利，这对于我们来说是非常值得一试的东西。”
“而且我能想象假如一切顺利，几百年、几千年或几百万年后当我们的后代子孙首我们这个世纪，他们也许会祖先、我们这一代人所做的最最重要的事情，就是做出了最正确的决定。”
“谢谢！”
（未完待续。）
：访问网站
（大雁文学WwW.XiaoYanWenXue.CoM）
干物妹也要当漫画家 红色脊梁 神级农场 九万年义务修真 民国大道尊 人皇纪 我是奥运大明星 大国手 烽皇 神级直播之宠物大师 都市种子王 天影 九天狂人 百炼成仙 大宋风华 逍遥梦路 破法之眼 牛笔 龙战野 食戟之冒牌小当家
![顶流他妹靠沙雕爆红[穿书]](/img/105/105268.jpg)
顶流他妹靠沙雕爆红[穿书]
日更1，已肥可宰嗷小锦鲤精苏鱼鱼穿书了。系统叔叔跟她说，她刚出生不久就被坏人偷走，是手握炮灰剧本的小可怜女配。系统最后总结道，她今后的日子怕是不好过了。然而穿书当天苏鱼鱼的顶流哥哥和首富爸妈就找到了她。 系统？？？脸真疼，虽然并没有脸。 综艺带崽去旅行播出后，有个崽崽爆红了。捕鱼时众粉丝心疼的看着此时，弯着腰卷着袖子裤腿，脸上也有了少许泥巴的爱豆，他们费尽千辛万苦也才抓到一条鱼而已。就在这时，有些粉丝眼尖的看见，有鱼从河里跳进一个粉雕玉琢的崽崽，怀里抱着的竹篓里，还不止一条鱼！！！众观众鱼是在集体自杀吗？！表演才艺时众粉丝看着大展才艺的崽崽们，觉得与有荣焉。就在这时，苏鱼鱼说要哼唱催眠曲，还说真的可以治疗失眠，众粉丝觉得这孩子傻了。然而几秒后，重度失眠的影后，听着苏鱼鱼哼唱的歌睡着了。众粉丝还没来得及震惊，就看见原本站着唱歌的苏鱼鱼，也睡着了。众观众这就是传说中的站着睡觉吗？！ 猫舍拍摄短视频时众粉丝率先看见，身旁没有一只猫咪的四个崽崽，崽崽们目光专注的看着不远处。众粉丝顺着崽崽们的视线，看见了蹲在地上，被猫咪团团围住，似乎被封印住的苏鱼鱼。 众观众她上辈子是猫薄荷吗？！后来苏鱼鱼有了国民崽崽热搜常驻崽最萌打工崽锦鲤崽崽等称号。阅读指南沙雕养崽日常综艺专栏完结文，已肥可宰貔貅幼崽三岁半穿书崽崽们亲妈是万人迷穿书锦鲤女配是团宠穿书下面是两本预收文预收1小恶龙手握反派剧本江怀骁醒来后，一脸复杂的看着睡觉的妹妹。梦里，妹妹长大以后不仅变成了恋爱脑，还害的公司破产，最后甚至害死了爸妈。他苦笑着觉得，人生就像一本狗血小说。 跟妹妹一起长大的，家里保姆的小女儿苏茶和隔壁家的小男孩秦泽，两人就像小说的女主和男主。而妹妹则像是小说里，让人恨的牙痒痒的恶毒女配。自己和爸妈像是小说里，命运悲惨又必不可缺的炮灰。 妹妹睡醒后，就到了秦泽初次来家里的时间点。 江怀骁原以为妹妹看见秦泽后，会像梦里那样，猛地扑过去说小哥哥，好看。却没想到这次，妹妹奶声奶气的吐出两个字好丑。江怀骁？？？娇娇是一只爱美自恋又贪睡的幼龙。 她最喜欢躺在，由亮晶晶的宝石和金币堆成的小山上睡觉。 一觉醒来，娇娇发现自己竟然变成了人类幼崽。娇娇！！！ 预收2反派大佬重生后我被宠上天清棠穿成了炮灰女配。穿来时原身正以自杀相逼闹退婚，原身不愿嫁给意外成为植物人的反派，家人无奈下刚同意退婚，清棠就听到叮，恭喜绑定恋爱续命系统。现在发布第一个任务嫁给书中反派沈砚。完成任务后生命值1。宿主剩余生命值3，1生命值可存活一天。清棠？？？ 为了活命，清棠同意了婚事。当她以为日子会过的很艰难时，反派大佬醒了，他看向她的眼神里，带着不可思议和失而复得。清棠？？？大大佬，咱们认识吗？！ 沈砚醒来后，呆呆的看着病床旁边站着的，那个熟悉的人儿。 这一次，他一定要把清棠宠上天。＃反派大佬宠宠宠，往死里宠＃s作者专栏求收藏一起来养崽崽鸭...
暴君花样作死日常
书海阁小说网免费提供作者胡胡微微的经典小说暴君花样作死日常最新章节全文阅读服务本站更新及时无弹窗广告欢迎光临wwwshgtw观看小说一朝穿书，央楚迟狂抱男主大腿，以免一不小心又被扭断脖子但这男主看她的眼神为啥越来越奇怪？你竟然偷偷生了本王的孩子？还是两个？央楚迟怂了，尽管此书男主貌美如花看着就想吃。但碍于嘴贱，她必须离家出走！某人走了就别回来！央楚迟不回来就不回来，谁回来谁是狗！于是，第二天冥界的子民见着自家霸气威武的大帝，一边扛着夫人一边学着狗叫汪汪。央楚迟日了狗了。情节虚构，请勿模仿...
带着购物中心到六零
末世双系异能者叶晓希带着购物中心重生到六零日常。本篇女主不圣母，小黑暗，介意的亲们绕行。还有作者个人不喜欢极品太多成天闹事的，所以本文日常为主虐渣为辅，轻松诙谐，有情有义！作者有话说写这部小说纯粹是个人兴趣，有些历史数据有些出入或虚构仅为作品需要，考据党请绕行。还有，作者玻璃心，一个字一个字辛苦写的，不接受差评，只写给喜欢看的人看，如果不喜欢也请绕行。‘如果爱，请深爱如果不爱，也别伤害！！！’立意随心而活...
代孕妈咪正牌妻
封毅然冷情冷性霸道腹黑，可就爱围着自家老婆转。莫小南天不怕地不怕，可唯独怕封少死缠烂打。可偏偏一个爱跑，一个爱追。一小包子妈咪，我帮你相亲，这个叔叔不错哦。另一小包子爸比，妈咪要被抢走了，你快去跟她相亲啊！某男人老婆，别生气了，助攻有点少，咱俩再生一个呗！莫小南一胎俩宝心好累！...
重生欧美当大师
他是一个历史研究大师，他是一个音乐创作大师，他是一个电影先锋大师，他还是一个公认的发明家，他还是公认的国际关系研究学家，但是在他自己的心里，他只是一个有家不能回的游子。新书上传，老妖将不再写政治经济，争取写出一个与众不同的黄金时代...
旷世小神农
平平无奇一小农，捡到手机是宝贝，开启诸天万界聊天群，和猴子玉皇打趣和三圣五老聊天，抢红包得技能，从此翻身把歌唱！...