第四十八章 纽约之战，复仇者集合！ (2-1)

“之前我一直想不通，会是哪里出问题，而现在，我大概有点明白问题出在那里了！”托尼斯塔克继续解释说道。“我在原本的时间线里，很可能给这个人工智能下的核心的指令是保护地球，而这就是关键的地方！”

“人工智能不是人类，所以在我们看起来，保护地球，就相当于是保护人类，我们不会把人类和地球分开来看！”托尼斯塔克开口说道。“但是如果是人工智能呢，他并没有很完善的智能，他可能把地球和人类分开看了，甚至可能在网学到了某些不好的极端的思想！”

“说起这个，我经常在网能够看到，人类是地球的毒瘤，要消灭人类来保护地球这样的说法！”寡姐娜塔莎开口说道。“你是说，这个奥创可能是吸收了这些思想？”

“不是没有可能，在人工智能建立之初，我都会放任他们到网学**量的知识，这样他们才能越来越像人，思维模式，行为动机越来越像人类，这也是目前为止，那些人工智能训练的方式！”托尼斯塔克说道。“本来没有什么，我的贾维斯也是这么训练的，但是如果给他植入了一条足以让他产生错误的想法的命令的话，那么他产生想要摧毁人类的想法也就不奇怪了！”

托尼斯塔克已经彻底搞明白了，问题到底是出在那里了，毫无疑问，肯定是自己在原有的时间线，所设定的目标出了错误了。

因为这种模棱两可的设定，让奥创产生了错误的想法，甚至于是通过消灭人类来保护地球。

“所以你们说的这个人工智能什么的，只需要给他的指令是保护人类就能够避免悲剧？”美队罗杰斯听到了这里，才终于搞明白了，到底是发生了什么。

搞半天，原来是一开始他们就错估了保护人类和保护地球所造成的误解。

这种误解在人类看起来，几乎很难发生，人类会辩证的思考，但是即便如此，依然有很多人觉得要想保护地球，就得先消灭人类的这种极端的思想。

就更别说更加单纯简单的人工智能了。

“那也不一定！”尼克弗瑞摇了摇头说道。“因为没有人能预测这个人工智能会成长成什么样子，哪怕在底层设定是要保护人类，那怎么才算是保护人类呢？关起来，囚禁起来，有吃有喝有安全，但是没有自由，那样算保护人类嘛？就像是动物园里的动物一样！”

众人听到这里，这才终于听明白了，这个人工智能发展的困难，因为真的很容易理解跑偏了。

而一旦跑偏了，就是巨大的威胁。

托尼斯塔克想了想，开口说道：“或许，贾维斯没有出什么问题，仅仅是因为我没有给他设定如此悬浮，浮夸，不接地气的目标吧！”

托尼斯塔克已经明白了，给这些人工智能设定目标指令的时候，真的是不能省略一些基础步骤，不能下一些空泛的目标，否则还不知道他们能理解成什么样子呢。

“反正你最好不要再创造这个奥创了，你控制不住！”尼克弗瑞开口说道。“如果一个不好，可能人类文明就毁灭了！”

托尼斯塔克闻言也只能点了点头，虽然他很想以灭霸，多玛姆等这些强大外敌为理由继续开发人工智能，增强人类战力。

但是现在他知道了，很可能会失控，一切都需要倍加小心。

“第五题答题即将开始，请做好准备！”

万界播放厅那个冰冷机械的声音，重新将众人的思绪拉了回来。

不管那个奥创多难搞，但是如果只要从根源将其阻挡住就可以了。

只要看管住托尼斯塔克，那么一切问题也就不成问题了。

只要奥创不再诞生，这些一系列的危险，包括可能全人类的灭绝的问题也得到了解决了。

果然要解决问题最好的办法，不是和问题刚正面，而是要从源头扼杀住问题产生的可能性。

“第五题，请问，在纽约之战中，邪神洛基通过空间宝石传送，刚刚降临便控制住了哪个超级英雄？

A：钢铁侠托尼斯塔克

B：美国队长史蒂芬罗杰斯

C：绿巨人浩克

美漫：开局曝光钢铁侠之死提示您：看后求收藏（百发小说网http://www.baifabohui.com），接着再看更方便。