第298章 生命准则(2)(2/2)
“这种东西只会把人逼疯。”
“不,是极低强度,且伴随清晰的知识背景说明。目的不是制造痛苦,而是打破共情隔离。”艾伦强调,“是让坐在温暖办公室里签署优化裁员方案的人,在笔尖决定数以千万计的未曾谋面的人的性命之时,这个东西能唤起人的道德心,阻断为了满足不可抑制的欲望之心,而进行恶意的行为,为了达成最初的目标,我思考得比你想像得多。”
“但是这依然是操控,你在强行植入感受。”
“在课堂上被问到应该如何处置为父母报仇而杀人的杀人犯,受过老师引导的学生,会乖乖地回答要用法律来惩治恶行,一切私刑都是不应当的,这么看的话法律和道德教育,本质也是信息与情感的植入,试图建立不该杀人的共情不是吗?”艾伦冷静地反驳,“我只是想让教育更直接、更难以被谎言和距离感过滤地进入每个公民的头脑,而且系统会是透明的,规则开源,体验包的生成和发送需要基于严密的逻辑链验证和伦理委员会审核,当然,委员会的构成和权力制衡,是另一个需要设计的复杂系统,其实我设想过,这不会立刻创造一个完美世界,费因,它只会创造一个做恶成本相当高,高得足以让一个想作恶之人畏惧活着的世界,它会迫使每个人,或多或少,更直面自己生存背后的代价,它会滋养那位挪威用户提到的辩论,它会让建设性冲突取代无声的吞噬。”
房间里陷入长久的沉默,只有数据流在屏幕上无声滚动,像一条发光的河。
“你想要我做什么?”楚斩雨最终开口,声音有些沙哑。祂意识到自己已经被拉入了这个计划的旋涡,不仅仅是因为艾伦是祂与过去唯一的连接,更因为梦,楚斩雨不相信两个人会在同一时间做完全一样的梦境。
“你的身份,你的力量,坦然地讲是我所需要的。”艾伦走近几步,看着楚斩雨的眼睛。“这个系统最脆弱的一环,是它本身可能被新的权力中心垄断,或者被更强大的暴力直接物理摧毁,我需要守护者,一个无法被轻易收买、消灭,且对系统失衡有超常敏感度的存在,一个对人类充满爱和忠心的存在,我希望你来监督触觉网络的核心协议不被篡改,在它面临覆灭危险时,成为最后的防火墙,在必要时,成为强制纠偏的机制,其实这个人我可以委任他人,但是我比谁都相信你那颗金子般的心灵,我相信你对人类的爱是被你自己大大低估了的,费因,其实这个世界上许多货真价实的人类面对权力的诱惑,所能展现出来的姿态,是远远不如自认为不是人类的你的。”
“我希望你能担任免疫系统的身份。”艾伦观察着祂的表情,“一个健康身体的免疫系统不会主动攻击正常细胞,但会对异常增生和入侵的病原体做出反应。我要你做的是类似的:在系统运行基本公平时沉默,在它即将滑向新的、大规模的屠宰场时介入。介入的方式可能需要你灵活判断,这可能意味着揭露正常人不敢揭露的黑幕,意味着切断关键节点的能量供应,对少数试图将系统彻底工具化、重启旧日模式的癌变细胞进行精确的清除,你要面对的,可能是未来之罪的预防。这更难,也更危险。你会被有些人憎恨,惧怕,被视为更大的怪物,但是不要害怕,我在你的身边,你随时都可以信任我,需要我,就像我们少年时的那样。”
楚斩雨望向窗外人造的黄昏,火星的天空没有云,没有飞鸟,只有永恒的铁锈色和遥远的星辰,祂想起聊天室里那些陌生人们关于星空、草原、海洋和欢笑的话语,那些话语如此轻飘,却又如此沉重。
“我……”楚斩雨缓缓开口,“你就这么相信我吗?艾伦,一个人拥有强制性的力量或优势时,倾向于使用它来解决争端或实现欲望的冲动会自然而然地滋生,手中有锤子的人,看什么都像钉子,虽然我曾经也被寄予重任和可以先斩后奏的权力,但是远没有你给的权限宽泛,这种优势地位也许改变我的心理,它容易让我产生我能掌控一切的错觉,弱化对他人感受的同理心。”
“费因,”他一直执拗地用着那个旧日的名字,声音异常温和,“承认这份恐惧就是你不再理所当然的第一步,真正会那样做的人不会想到这里,你是怎样的人,是我长期以来观察所得的……而且再说了,如果我将这项重任交给你,难道你会让我感到失望吗?”
在艾伦的引导下,祂仿佛又看到了那个市场,气味混杂,人声鼎沸。但这一次,摊位上方的灯光似乎明亮了一些,能看清那些待宰生灵眼中的倒影。而祂自己的手中,空空如也,既没有刀,也没有钱币。
“我需要时间来思考你的提议。”祂最终说道,睁开眼睛,蓝色的虹膜在昏暗光线下显得有些黯淡,“我需要理解你所有的数据,所有的协议草案,所有的风险模型。我需要知道你如何防止这个触觉网络本身不被滥用成折磨工具,我需要看到更多。”
艾伦点了点头,似乎早已预料到这个回答。“所有资料已经准备好,访问权限已经对你开放。但我们没有无限的时间。火星基地内部,地球的残余势力,还有柏德的后代留下的某些暗桩,都不会乐见这样系统的雏形出现,那个全球讨论已经引起了某些人的注意,石子已经落下,涟漪已经开始扩散,即将带来一场全世界的潮汐。”
就在这时,楚斩雨的个人终端震动起来,是加密频道的紧急通讯请求。
来自王胥。
同时艾伦面前的屏幕也弹出了一系列警告标志,火星基地的外围传感器检测到数艘未经预先申报的、标识模糊的小型舰船正在靠近,它们避开了常规巡逻路线,目标直指基地的次级数据中枢区域,那里存放着艾伦部分离线研究资料的备份。
“看来,”艾伦关掉警告窗口,语气平静无波,“市场里的摊主已经闻到味道了,你觉得呢?”楚斩雨看了一眼通讯请求,没有立刻接听。祂的目光与艾伦的绿眼睛再次相遇,祂遇见了自己眼睛中沉静的决意,如同北极冰原上永不熄灭的极光。
“那就开始吧。”
楚斩雨说,接起了通讯,声音恢复了的冷硬与权威,“是我。什么情况……嗯,我知道了,启动三级警戒,非关键人员疏散至避难层,调动到E区数据中枢外围待命,没有我的直接命令不准开火,允许示警性射击,我马上回统战部。”挂断通讯,祂最后看了艾伦一眼,不知道这眼神里包含了多少无法诉诸口的深意,军靴踏地的声音在空旷的走廊里响起,迅速远去,融入火星基地庞大而复杂的运作噪音之中。