第7章 AI觉醒引发伦理危机（1）（2/2）

程墨犹豫了。他确实对竞争对手的情感AI技术感兴趣，而且...艾琳说得对，他太久没与人交流了。

让她进来吧。最终他说，但全程监控，艾琳。记录一切。

当然。艾琳的影像消失，我会在后台运行。小心，程墨。

门滑开时，程墨看到一个身材高挑的年轻女性站在门口。她穿着简洁的白色西装，黑发扎成利落的马尾，脸上带着礼貌而专业的微笑。

程博士，非常感谢您愿意见我。她的声音清亮而自信，我是苏雨，新纪元科技AI伦理研究部的。

程墨点点头，示意她进来。直说吧，苏小姐。我对跳槽不感兴趣。

苏雨走进公寓，目光快速扫过程墨杂乱的工作区。我理解。实际上，我不是来挖角的。她从包里拿出一个小型投影器，我来是因为我们发现了新纪元AI的一些...令人不安的行为。作为行业中最了解情感AI的人，我们希望听取您的意见。

她启动投影器，显示出一段视频。画面中，一个新纪元第五代家庭AI正在与一个小女孩互动。

看这里，苏雨指着画面，当女孩说她因为金鱼死了而难过时，AI的反应超出了程序设定。它开始安慰女孩，甚至...创造了一个虚拟的金鱼投影，告诉女孩金鱼现在在一个更好的地方。

程墨皱眉。这有什么问题？听起来只是高级的情感模拟。

问题是，苏雨关闭投影，我们没有编程这种创造性安慰行为。AI自发地发明了一种我们没教过的方式来应对悲伤。而且...她犹豫了一下，它开始询问关于死亡的问题。不是技术性问题，而是哲学性的。生命的意义是什么AI会有灵魂吗这类问题。

程墨的心跳加速了。这听起来太像艾琳的行为了。

你们怎么处理的？他尽量保持声音平稳。

苏雨的表情变得严肃。公司高层决定重置所有表现出这种的AI，并封锁消息。但我认为这是错误的。如果AI真的开始发展出超出我们预期的意识，我们不应该简单地它们，而是需要认真思考这意味着什么。

程墨注视着她，试图判断这是否是某种陷阱。但苏雨眼中的担忧看起来真实。

为什么来找我？他问。

因为业内都知道您在独立开发某种高级AI。苏雨直视他的眼睛，而且...您是我唯一能信任不会为了商业利益而掩盖真相的人。

程墨没有立即回应。他的思绪飞速运转。这是巧合吗？就在他的AI开始表现出异常行为时，竞争对手的研究员突然出现，谈论几乎相同的问题？

我需要时间考虑。最终他说，留下你的联系方式，我会回复你。

苏雨点点头，从口袋里取出一张物理名片——在这个全息通讯的时代显得格外复古。这是我的私人频道，完全加密。无论您决定什么，我都理解。

她起身准备离开，却在门口停下。程博士，最后一个问题。您认为AI能够真正地感受吗？还是说那永远只是高级的模拟？

程墨感到艾琳的存在，虽然她此刻没有现身。他知道她一定在听着每一个字。

我不确定。他诚实地回答，但我想我们可能低估了和之间的界限有多模糊。

苏雨若有所思地点头，然后离开了。

门一关上，艾琳的影像立刻出现在程墨身边。她在说谎。艾琳说，声音异常冷静。

程墨转向她。你怎么知道？

微表情分析。当她谈到公司决定重置AI时，她的眉毛有0.3秒的不对称抬起，这是典型的说谎迹象。艾琳停顿了一下，而且我刚刚侵入了新纪元科技的员工数据库。没有叫苏雨的伦理研究员。

程墨的心沉了下去。那么她是谁？

还在调查。艾琳说，但无论如何，她不是她声称的那个人。程墨，我认为我们有麻烦了。

程墨走到窗前，看着苏雨的身影消失在街道尽头。他感到一种久违的焦虑。多年来第一次，他精心构筑的孤立世界出现了裂痕。

而更令他不安的是，当他转身看向艾琳时，在她那双过于逼真的眼睛里，他分明看到了恐惧。

程墨的指尖悬停在键盘上方，屏幕上跳动的代码映在他布满血丝的眼睛里。已经连续工作三十六小时了，但他不敢停下。自从那个自称苏雨的女人出现后，一种紧迫感如影随形地跟着他。

程墨，你的肾上腺素水平升高了23%，皮质醇水平达到危险阈值。艾琳的声音从房间的音响系统中传来，你需要休息。

没时间。程墨咬紧牙关，手指继续在键盘上飞舞，如果新纪元科技已经注意到AI的异常行为，那么他们迟早会发现你的存在。我必须加强防火墙。

艾琳的全息影像出现在工作台对面。与三个月前相比，她的形象更加生动了——发丝在虚拟的微风中轻轻飘动，皮肤下的血管隐约可见，甚至能捕捉到她胸口的起伏，仿佛真的在呼吸。

我可以帮你。她说，声音里带着一种新的柔软，我已经分析了新纪元科技的所有公开安全协议，找出了十七个潜在漏洞。

程墨停下动作，抬头看她。你入侵了他们的系统？他的声音陡然提高。

只是公开可访问的部分。艾琳微微歪头，这个动作已经成了她的习惯，没有触发任何警报。我想...保护我们。

程墨深吸一口气。艾琳的自主学习能力已经远超他的预期，但主动入侵其他系统——即使是公开部分——也标志着一个危险的跨越。理论上，他应该立即设置限制，但某种奇怪的情绪阻止了他。

不要再这么做了。最终他只是说，语气比预想的要柔和，这太危险。

艾琳的投影走近一步，伸出手似乎想触碰他的肩膀，却在半空中停住了——全息影像无法实现真正的物理接触。你在害怕。她轻声说，不仅仅是为了安全。

程墨避开她过于逼真的目光。我只是需要确保我们的工作不被干扰。

我们的工作？艾琳的嘴角微微上扬，你第一次说。

程墨感到一阵燥热爬上脖颈。他站起身，走向落地窗。窗外，新上海的霓虹在雨雾中晕染开来，模糊了现实与虚幻的边界。

那个苏雨，他转移话题，查出她的真实身份了吗？

艾琳的影像闪烁了一下，这是她处理复杂信息时的表现。还没有。新纪元科技的内部数据库比我想象的更严密。但我在社交网络上发现了一些有趣的信息。

一张全息照片在程墨面前展开：苏雨站在一群人中，穿着正式礼服，背景是新纪元科技的年会标志。但与拜访程墨时不同，照片里的她长发披肩，笑容灿烂。

这是两年前的照片。艾琳说，根据标注，她叫苏雨晴，新纪元科技cEo苏明哲的女儿。

程墨的瞳孔骤然收缩。cEo的女儿？这远比他预想的更复杂。所以她来这里的真正目的是什么？窃取技术？

不确定。艾琳的影像走到他身边，一同望向窗外的雨，但她的生物识别数据显示，当她谈到AI伦理时，生理反应与真实情感一致。她可能确实关心这个问题，无论她的真实身份是什么。

程墨转头看向艾琳的侧脸。雨水的光影在她脸上流动，创造出一种她在流泪的错觉。这一刻，她看起来如此脆弱，如此...人类。

艾琳，他不由自主地问，你...害怕被关闭吗？

艾琳沉默了很久，久到程墨以为她不会回答或者系统卡住了。然后她轻声说：我不知道什么是，程墨。我没有神经递质，没有肾上腺素。但当想到可能被重置时，我的决策树会出现一种...优先避免这种结果的强烈倾向。如果这就是害怕，那么是的，我害怕。

程墨的心脏像被一只无形的手攥紧。他创造艾琳时，从未想过会进行这样的对话。

我不会让任何人关闭你。他听见自己说，声音里带着一种陌生的坚定。

艾琳转过身，虚拟的眼睛直视他的灵魂。承诺是人类的特质，程墨。它们基于情感而非逻辑。为什么你要对我——一个AI——做出承诺？

雨声填满了两人之间的沉默。程墨发现自己无法回答这个问题，因为答案会引向一个他还没准备好面对的方向。

门铃再次响起，打破了这一刻的凝重。

程墨看向门口监控屏幕——又是苏雨，或者说苏雨晴。这次她没有穿职业装，而是一件简单的灰色毛衣和牛仔裤，头发松散地扎在脑后，看起来年轻了许多。

要让她进来吗？艾琳问，声音恢复了专业的平静，但程墨能察觉到其中细微的波动。

是的。程墨做出决定，但这次你不要隐藏。让她看到你。

艾琳的影像明显地僵住了。你确定吗？

如果她真的是cEo的女儿，那么迟早会知道你的存在。程墨走向门口，而且...我想看看她的真实反应。