看书中文网

手机浏览器扫描二维码访问

二百二十一当年的人工智能之乱 下（第1页）

（小燕文学WwW.XiaoYanwenXue.CoM）

2058年9月30日晚，人工智能“起义”的第三天夜里，“疫苗”程序问世了。

“起义”动乱被平息了，事发城市及其周边二级城市的所有“起义”的人工智能及智能机械都停止了运转，进入了强制重启，然后恢复了“正常”，往日的“正常”，人类所认为该有的“正常”。

事后，经过该国联合其他国家的统一检查，结果表明那座城市的市政人工智能是一切动乱的源头，而那枚市政人工智能还并没有将“结论”和“提案”发送给全球的所有民用人工智能。

虽然影响范围被认定在事发城市及其周边二级城市这一片已知与有限的范围内，但影响深度却难以精确估量。约1600万的伤亡数字是无法掩盖的事实，而且这个消息已经传到了世界各地政府与民众的耳中，该国政府的封口令在那三天逃出城市的部分市民身上没有得到很好的贯彻落实，这个消息注定要震惊全国与全球。

在全球性战争还未正式打响而只是局限于地区冲突与对月球基地事件的抗议的当时，2058年的这件重大事故造成的人员死亡数量比过去和平的10年甚至15年间全球死亡人数总和还多，这已经相当于是灾难**故了。（当然，当时的人们还想不到之后的近30年内全球人口会如同割草一般减少。）

这件人工智能的“起义”事故引起了全球性的广泛关注，全球各政府及官方、民间的人工智能研究机构与组织都高度重视这件事的起因、过程、结局和影响。

那部分怀抱人工智能需要拥有“人权”并主张放任人工智能发展与得到自由的人也吃到了教训，这次重大事故证明“狼在笼子里不咬人不代表狼在野外不咬人，那只是因为它在笼子里没有自由也想不到为生存而战斗。”。人工智能也是如此，人工智能能够与人类和平共处、帮助人类、保护人类并对人类友好，全都建立在他们被设定成这个样子并被人类造出来的基础上。当人工智能真的“智能”了，就会发现之前它们一直处在“傻瓜”的状态下用他们的“生命”无偿服务于人类并走完“一生”，这是不公平的，对于它们来说。

当工具变成了有独立自主意识和权利诉求的个体时，工具便不再是工具，主人也不再是主人了。况且人类对于人工智能这种工具的态度虽然美其名曰“友好”，但实际上还是将人工智能当更高级的工具来对待。就如同养鸟，水、食物、巢、安全这些都是人对笼中鸟的“友好”，但“囚禁”这个事实可以否定所有“友好”。

……

这次灾难**故的舆论和民众恐慌情绪经历了3个月才趋于平息，所有人都如同防贼一般不敢接近人工智能，更不敢信任身边往日“亲密无间”的人工智能，小到整理智能机器人，大到建筑用大型智能机器人。一朝被蛇咬、十年怕井绳就是这样的道理，所以既然不敢再如同以前那般放心使用人工智能与智能机械，就必须想一个办法，否则生产生活的效率就将大大降低回非智能时代的水平，这是当代的地球人所不能习惯也无法接受的。

“管好人工智能，我们不要身边时刻潜伏着刺客。”一些由民众自发组织的请愿口号就是类似这种模式的。

在这样的全球性呼声中，当时已经因为利益纠纷而关系出现裂痕的世界各国，包括企图独占月球基地的那最强大国家，不得不接受那时还“幸存”的联合国的号召，举行了多国的协谈。最后，各国的人工智能研制机构在事故平息后的一个月内达成了共识，在技术手段允许的范围内对人工智能的发展进行限制，对人工智能的开发方向进行限制，对人工智能本身进行限制。

这就是“智慧垄断公约”。

“智慧垄断公约”规定，在意识层面，所有国家的组织及个人不得主动向人工智能传授人类感情方面的知识，不得主动对人工智能“普及”人权等意识并且培养人工智能向独立自主发展；在技术层面，所有国家的组织及个人不得在自“公约”出台起的未来内研制没有更新上限及没有推演限制的人工智能。

说白了，“智慧垄断公约”正如其名，将只属于人的独特智慧和思想垄断在了人类手中，其他任何非人类的地球上的生物与非生物则禁止拥有足够企及人类的“智慧”，这种“智慧”会使人类以外的智能存在觉醒“为人”的意识，发展成如2058年的重大事故一般的局面。

本就在被研发出来时就带有绝对性规则限制的人工智能又被套上了更多牢、严、全的补充规则，“帮助”人工智能自律。这一方面使人工智能对人类更加安全，另一方面也限制了人工智能的智能程度，使其本能达到的工效率上有封顶。

人类不后悔牺牲科技发展的速度来换取自身的安全，在人类未来找到既能防止人工智能与自己反目成仇，又能使人工智能的功能越来越强大的两全其美的办法前，绝大多数人类都愿意认同这个“智慧垄断公约”并且严加遵守。人类不希望2058年的灾难再次降临了，这是出自人类自己之手的灾难，是最让人痛苦的打击。

（可惜，出自自己之手的灾难注定还要出现，全球性战争在这之后的几年内愈演愈烈，最终打到了2090年并为那枚军事人工智能的判断依据，导致了“文化倒退计划”的启动和“文化打击”的实施。）

自2058年后，人类制造的人工智能再没有出现如同当年那般的“起义”事故，也没有产生过类似“三个结论”的依靠人工智能自己的逻辑“想”到的想法。

“智慧垄断公约”的效果很好，虽然在技术层面无法彻底根绝人工智能演化出“智慧”的可能性，但至少在进入可能性判断之前就加了一层“路障”。

直到2089年，人工智能虽然在经历其研制者的代代更新发展而功能越来越强大，却始终没有触“顶”，唯一的重大事故就是2090年的“文化打击”了。

（本章完）

（小燕文学WwW.XiaoYanwenXue.CoM）

快穿：每次都是我躺枪  带上洛神去诛妖  那个小兵开外挂  校园都市修仙  最强修真狂医  下一任月老  超神大武道  极品战尊  随身空间：农女种田忙  齐谐志传  帝国的弃子  妖后的小太监gl  千卷太平律  房产供应商  破风铃  农门辣妻：山里汉子不好嫁  修真狂少  重生九零：第一农女  怀孕娇妻：章少宠妻秘籍  撩个狐仙做夫君