第509章 不能理解（2/2）

“正是如此！”

“那...这个AI的底层逻辑该怎么设定？”

“当然是维护世界和平。”托尼理所当然地说道。

谢玄拧着脸：“就这样？”

“那不然呢？”托尼眨巴眨巴眼睛，有些不确定地看了眼一旁的布鲁斯。

“就没有什么诸如机器人三定律之类的说法？”

“那是啥？”

谢玄看着两人求知的眼睛，努力翻找起曾经的记忆。

只能说，还好那电影他看了好几遍，甚至还专门去找了相关的资料。

“第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管。”

“第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外。”

“第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。”

听完这三大定律，托尼和布鲁斯瞳孔地震。

这还是他们心目中的武斗派莽夫吗？

居然能说出这种话。

不过...

这三大定律好像还挺有道理...

起码看起来比自己的维护世界和平要来的上档次。

但托尼不愧是托尼，他很快就发现了其中的逻辑冲突。

“不，这还不够完善...”

“应该把人类整体的利益放在首位。”

“也不对...”

托尼聪明的大脑开始疯狂运转。

只可惜...

没等托尼起飞，就被谢玄给叫停了。

“别急...我的意思是，你得搞清楚，你建立奥创的目的是什么。”

“第二，你要如何约束这个奥创。”

“这万一，他觉得人类就是地球之癌，那怎么搞？没了人类，就不会有战争，起码不会有灭世的可能。世界自然就和平了。”

“你觉得这对AI来说，是一个能够逻辑自洽的理念吗？”

啊这......

托尼怔住了，确实...他习惯性地以自己人类的角度来看待问题。

那么世界和平，自然是有一个底线的。

人类始终是地球的主体。

可...对于AI来说，世界和平和人类是不是依旧存续，并不存在必然的关联。

说不定...还真会有这种可能性出现。

别说AI，就算是现代社会，也有不少魔怔人就是这样认为的。

布鲁斯也从激动中平静了下来。抛开科学狂人对未知的探索欲，他觉得，创造一个人工智能，是需要慎重的。

“e on，布鲁斯，别这样...”托尼无奈地看了眼反水的布鲁斯·班纳。

“再说了，你不是有贾维斯嘛？给他升升级怎么样？之前贾维斯不是做得挺好的嘛。”

“不！贾维斯不行，它是我的私人管家。我需要的是一个能够囊括全球的主动防御系统，一个可以取代复仇者联盟的地球之盾！”

谢玄摊摊手：“那么...也许这个地球之盾其实是人类的牢笼？就比如，你为了保护蚂蚁窝，把它们挪进自家的实验室一样。”

“你总不能指望蚂蚁会主动给自己盖上盖子...它们只会不断地向外探索，而向外的探索，自然就会产生分歧和冲突。”

托尼这时候有些无语了。

这些人怎么就不能理解呢...

布鲁斯·班纳也是，刚还说的好好的，现在转头就叛变。

不知道是不是一旁立着的权杖正在发挥作用，托尼越发焦躁起来，在实验室里来回走动着。