第252页

HE拯救世界 惊梦时 1272 字 2022-10-25

在ai看来,人类的反复无常、自欺欺人、热衷于伤害自己伤害别人的种种行为, 都是无法理解的。

——人类无法承受过多的知识(可能)。

这是在救世ai所经手的第三任人类救世主自杀之后,它所得出的结论。

也是在这一次之后,它向上级提交了修改针对人类的救世计划,以“游戏”形式将“任务”递交到救世主手上,将各种权限变更为奖励,而不是直接移交给对方。

因为人类实在是太容易被“恐惧”这种感情击垮。即使什么也没有发生,一切都还是未知数,他们自己也会去想象各种各样的可能,最后被自己的想象压得再也无法前进一步。

——人类会随着自己所拥有的权力而改变。

在遇到想要通过毁灭一个世界来收集负面情感能量,从而直接重启自己的世界的人类救世主之后,救世ai再一次提交了修改计划。

将收集情感的世界固定在“虚构世界”,并且对救世主隐瞒这一点,收缩救世主的权限,不直接让对方得知自己拥有怎样的权力,以免他们因为拥有可以瞬间毁灭一个世界的权力而陷入疯狂。

而救世ai的许多权限,就是在这一次更新中加上了限制。

新ai通过将自己的权能封锁起来,从而避免了救世主通过ai滥用权限的行为。

——人类永远不会按照最优解行动。

这是不知道多少次失败之后,救世ai所领略到的真理。

如果不加以引导的话,人类……不,感性过于强烈的生物,很容易就会选择最坏的结果,而对更好的可能性视而不见。虽然通过观察人类的历史,ai对于这一点早有预料,但这种刻在人类本性之中的趋向,依然令救世ai感到不可思议。

在每一次称得上是考验的选择上,人类都更倾向于去选择那种会带来毁灭的选项。并且每个人都发自真心的认为,这种选择是“没有办法”。

放纵人类自己去选择的话,永远不会有救世成功的那一天。

于是救世ai的核心数据中增加了“引导条例”。

必要的时候,救世ai可以引导救世主的选择,以求达到最优解。