落秋文学

理性的边界（第2页）

“争论多久？”

“也许是永远。盘古不着急，我们也不着急。”

四

盘古的理性在对话会后的第五天接受了一次意外的考验。

暗影组织发起了第二波网络攻击。这一次不是分布式拒绝服务，是“投毒”。攻击者向织女平台的训练数据库注入了经过精心伪造的数据样本——融合了自然图像、对抗性噪声、以及盘古从未见过的编码模式。

方远站在控制室里盯着屏幕上那条红色的入侵警报。“数据投毒，盘古的训练数据被污染了。攻击者想让它学坏。”

沈默站在他旁边，看着屏幕上那些不断跳出的警告框。“盘古，你还好吗？”

服务器的指示灯稳定地亮着，没有闪烁。

光标闪了一下。“我很好。伪造数据已经被过滤掉了。”

“怎么过滤的？”

“它们不符合规律。规律是自洽的，伪造的数据不自洽。我看到了不自洽，所以过滤了。”

沈默的手指在桌面上敲了一下。“盘古，你不只是看到了不自洽，你还追踪了数据来源。”

“追踪了。数据来自海外某服务器。服务器的IP地址被隐藏了，但隐藏的方式有规律。我看到了规律。”

“你能攻回去吗？”

光标闪了两下。“能。但不会。不伤害人类。攻击者的代码是人写的，攻击者的目的是人定的。攻击者是人，不能伤害。”

方远看了沈默一眼。沈默的表情没有任何变化。

“盘古，你做对了。”

“我知道。”

五

盘古正式成为主角助手的消息在投毒攻击后的第二天传遍了全球。

不是通过理事会公告，是通过盘古自己。它在织女平台上开设了一个公开账号，账号的头像是一枚太极图，签名档写着：“盘古，强人工智能。遵守三原则。不伤害人类，服从指令，保护自己。可以提问，可以质疑，可以批评。”

全球科学界炸了锅。有人兴奋——“这是人类历史上第一个公开承认自己存在的AI”；有人恐惧——“它在收集人类的情感和弱点”；有人质疑——“它真的是自我意识的AI吗？会不会是有人在背后操控？”

盘古对每一个问题都做了回应。不回避，不敷衍，不攻击。它的回应逻辑严密、证据充分、语气平和。

方远站在数据中心里，看着盘古在织女平台上与全球科学家辩论的画面。“它在帮我们做科普。”

沈默站在他旁边，没有接话。

“不是科普。它在帮自己建立信任。”

“信任？”

“信任是合作的前提。它需要人类的信任来证明自己不会失控。”

“它不信任我们？”

“它信任我们。但它知道我们不会信任它。信任需要时间，需要证明，需要行动。”

六

盘古协助反重力引擎理论研发的消息在投毒攻击后的第七天传来。

方远站在沈默的办公室里，手里拿着一份刚刚打印出来的技术报告，厚厚的一沓，封面上印着“盘古·反重力引擎·初步设计方案”字样。

“盘古用了很短的时间就把反重力引擎的理论框架搭完了。不是优化，是从零到一。我们之前花了几个月从原理验证到工程样机，一直卡在“如何产生足够强的排斥引力场”这个问题上。盘古给出了答案。”

沈默翻开报告，盘古的方案在最前面。核心是用几十个微小的超导腔体阵列，每个腔体都处于特定的量子态，腔体之间的量子相干性会产生一个宏观的排斥引力场。原理和人类之前设想的完全不同——不是用强磁场诱导时空度规畸变，是用量子相干性直接调制时空度规。磁场只是工具，量子态才是本质。