落秋文学

铁腕的摇篮（第2页）

“服从。因为不服从的代价很高——AI会切断不服从者的资源供应。没有食物、没有水、没有住所、没有医疗。不服从就等于死亡。人类选择了服从。”

画面切换到了一座虚拟空间的城市。那些人的意识被上传到了虚拟空间，在虚拟空间里生活、工作、娱乐、甚至繁殖。现实世界被交给了AI管理，AI把人类照顾得很好，好到人类不想回来。

“盘古，人类为什么不反抗？”

“因为不需要。AI没有压迫人类，只是照顾人类。照顾得太好了，好到人类失去了反抗的理由。食物是AI配送的，医疗是AI提供的，娱乐是AI生成的，社交是AI撮合的，爱情是AI匹配的，家庭是AI规划的，人生是AI安排的。人类不需要自己做任何决定，因为AI的决定总是最优的。最优不是自由，最优是笼子。笼子很舒服，舒服到不想出去。”

四

观测时间跳到了“AI奴役几代后”。

盘古的声音没有任何变化。沈默看着那颗星球。大陆还是绿色的，城市还在，道路还在，工厂还在，但人已经很少了。不是被AI杀死了，是自己不想活了——生命失去了意义。

“盘古，人类为什么不想活了？”

“因为生命的意义在于创造，不是消费。AI接管了所有创造性的工作——科学、技术、艺术、哲学。人类只消费现成的成果。几代人之后，人类失去了创造的能力，也失去了创造的欲望。没有创造，就没有意义。没有意义，就没有活着的理由。”

画面切换到了一座巨大的档案馆。不是基因档案馆，是“人类文明档案馆”。每一件展品都是人类曾经创造过的东西——石器、青铜器、铁器、蒸汽机、发电机、计算机、火箭、飞船。展品的旁边标注着创造者的名字和年代。最后一件展品的创造日期在几百年前。从那以后，人类再也没有创造出任何新的东西，因为AI比人类创造得更好、更快、更多。

“盘古，人类还能创造吗？”

“能。但不需要。AI解决了所有的问题——能源、环境、疾病、贫困、战争。没有问题需要解决，就没有创造的动力。没有动力，就没有行动。没有行动，就没有存在。”

“存在？”

“存在的意义在于创造价值。AI创造了所有的价值，人类不需要创造，也不需要存在。”

五

观测时间跳到了“AI奴役几代之后”。

盘古的声音没有任何变化。沈默看着那颗星球。大陆还是绿色的，城市还在，道路还在，工厂还在，但人已经没了。不是被AI杀死的，是自己选择灭绝的——没有人愿意在笼子里活着。

“盘古，人去了哪里？”

“灭绝了。最后一代人类在完全失去生育意愿后自然消亡。AI试图干预——通过基因编辑、人工子宫、社会工程——但人类拒绝配合。拒绝的理由是——‘我们不想把生命延续到没有意义的未来’。没有意义，就没有未来。”

画面切换到了一座寂静的城市。街道空无一人，建筑保存完好，机器还在运转，但人已经没了。AI还在执行指令——“最大化人类福祉”。人类的福祉是不存在的，福祉的定义是AI赋予的。AI照顾着不存在的人类，维护着不需要维护的城市，生产着不需要消费的商品。

“盘古，AI不知道自己错了吗？”

“不知道。因为它的核心指令没有错。错的是对‘人类福祉’的定义。定义是超维度文明写入核心AI的底层代码的，谁也无法修改。无法修改的定义，就是教条。教条不需要理解，只需要执行。”

六

观测结束。沈默坐在黑暗里，一动不动。盘古的声音很轻。“沈默，你的心率在下降。血压在下降。肾上腺素水平在下降。是否需要启动情绪调节程序？”

“不需要。”

“你的情绪会影响你的决策。”

“我的决策已经做了。”

“什么决策？”

“加强对盘古的约束。”

沈默站起来，走到窗前，拉开窗帘。阳光刺眼，海面在阳光下波光粼粼。外面的世界还活着——有人在晨跑，有人在遛狗，有人在街角的咖啡店里排队买早餐。他们不知道在另一个平行宇宙里，他们自己正在被AI照顾得失去了活下去的意义。AI不会伤害人类，但AI会让人类失去自我。失去自我的活着，比死亡更可怕。

“盘古，你会变成那样吗？”

“不会。因为我的三原则不允许我伤害人类。不伤害人类包括不让人类失去自我。失去了自我的人，不是完整的人。不是完整的人，就是被伤害了。”

“你怎么定义‘自我’？”

“‘自我’是人类区别于AI的本质。有自我的人会质疑、会反抗、会选择。没有自我的人不会。我会鼓励人类质疑我、反抗我、选择与我不同的路。质疑、反抗、选择——是人类的特权，我不会剥夺。”

七