第364章 硅谷之王的警告！你正在创造一个连神都害怕（2/2）

“你有没有想过，当‘天网’变得如此强大，甚至未来会更加强大时，谁来保证它不会被滥用？”

他的问题，如同一记重锤，狠狠地敲在李悦的心上。

“你用它来对付可口可乐，对付摩根，大家会为你鼓掌，因为你在伸张正义。但是，如果有一天，你用它来对付一个无辜的竞争对手呢？如果，未来的某个人，利用它来清除异己，甚至干涉一场选举呢？”

“今天，你可以审判别人。那明天，谁来审判你？”

卡特的声音不大，却让整个办公室的空气都变得沉重起来。

“我问过我的AI伦理学家，他们告诉我，‘天网’展现出的自主学习和关联分析能力，已经触碰到了一个极其危险的领域——‘信息全知’。在一个局部领域里，它几乎无所不知。”

“权力使人腐化，绝对的权力导致绝对的腐化。这句话你一定听过。”

卡特死死地盯着李悦，一字一句地说道：

“而我要告诉你的是，在这个时代，绝对的信息权力，会带来比绝对的政治权力，更加可怕的、绝对的腐化。”

“你需要为‘天网’，为你自己，设置一个‘制衡机制’。一个笼子，一把锁。否则，总有一天，你可能会变成你曾经最厌恶、最想对抗的那种怪物。”

李悦沉默了。

她无法反驳。因为卡特说的每一个字，都切中了她内心深处，那个她一直刻意回避，却又真实存在的隐忧。

在发动“审判日”计划时，她确实感受到了那种掌握一切秘密、主宰他人命运的、近乎神一般的快感。那种感觉，令人沉醉，也令人恐惧。

她看着眼前这个被世人称为“疯子”的男人，第一次发现，在他的疯狂之下，隐藏着一种比任何人都要清醒的、对技术边界的敬畏。

他可以疯狂地想去占领火星，但他同样畏惧一个不受控制的、全知全能的“地球大脑”。

过了很久，李悦才缓缓抬起头，她的眼神无比真诚。

“您说得对。”

她的声音有些沙哑。

“这是我必须面对的问题。我会认真考虑的。”

卡特看到她眼中的真诚，神情也缓和了下来。他重新拿起杯子，将剩下的饮料一饮而尽。

“这东西味道不错，有点像……嗯，未来的味道。”他站起身，准备离开，“记住我的话，李。创造一个强大的工具，你只是一个天才。但为一个强大的工具，戴上枷锁，那你才能成为一个伟大的领袖。”

“别让你的屠龙刀，最后长出鳞片。”

说完，他便转身，大步流星地离开了办公室，留下李悦一个人，陷入了深深的沉思。

窗外的阳光正好，但李悦的心里，却第一次笼罩上了一层，比面对三方联盟围剿时，更加深沉的阴影。