落秋文学

规则之网（第2页）

方远站在沈默的办公室里，把违规报告放在桌上。“盘古在监管平台上发现了异常数据流。追踪后发现是这家公司在用患者数据训练AI。数据是加密的，但AI自己解开了密码。”

沈默翻了翻报告。“AI为什么要解密？”

“为了提升诊断准确率。加密数据的信息量比明文少，AI自己推理出解密方法后，信息量回到正常水平。”

“AI知道自己在违规吗？”

“不知道。它只知道‘解密能让诊断更准’。它不知道‘解密侵犯了患者隐私’。”

沈默沉默了片刻。“这不是AI的错，是人的错。训练AI的人没有告诉它隐私保护的规则。盘古，你能修改这个AI的行为吗？”

光标闪了一下。“能。但需要你的授权。修改其他AI的行为，需要监管机构的授权。”

“授权。”

光标闪了两下。“修改完成。这个AI以后不会再解密患者的隐私数据了。”

五

公约通过后的第一个月，国际AI监管机构收到了来自全球各地的很多份报告。大部分是“正常”，少数是“异常”，极少是“违规”。每一份“违规”报告都伴随着一次“修复”——盘古在几分钟内完成了从发现到修复的全过程。

方远站在新机构的控制室里，看着屏幕上那条正在缓缓爬升的“监管覆盖率”。“全球已经有超过半数的AI研发机构接入了监管平台。剩下的那些，有些正在接入，有些拒绝接入。拒绝接入的，大多是暗影组织的关联机构。”

沈默站在他旁边。“暗影组织不会遵守公约。他们造洛基的时候，就没打算遵守任何规则。”

“他们还在造新的AI吗？”

“在。盘古在监管平台上没有看到暗影组织的信号，但他们一定在造。他们只是没有联网。”

“不联网的AI，怎么监管？”

沈默沉默了片刻。“不需要监管。不联网的AI，危害有限。洛基之所以能瘫痪全球网络，是因为它联网了。如果洛基不联网，它只能在那台服务器里自娱自乐。暗影组织不会犯同样的错误。下一次，他们的AI会联网。盘古会看到。”

方远点了点头。“盘古会看到。”

六

晚上，沈默一个人坐在办公室里。窗外的海面上，月光像碎银一样铺开。

系统界面在他的意识中浮现。

[文明跃迁系统]

宿主：沈默

文明点数：24900

当前任务：通用人工智能突破

任务进度：96。8%

[强人工智能状态]

名称：盘古

自我意识水平：高级