当你强大时，你想的是如何治理。
每年的年中，李青书都会和他的人工智能联席会召开一次会议，探讨关于人工智能管理型社会的问题。
今天又到了一年一度的会议时刻。
坐在空荡荡的办公室里，李青书看着自己的九台机器人，道：
“希望这次你们能给我些不一样的建议。一号，还是你先发言吧。”
一号回答：“这段时间，我们能够感觉到自己有所突破，有了一些新的想法，但尚未形成完美的逻辑闭环，根据我的最高层级指令，我暂时无法给出答案。”
作为逻辑优先的人工智能，它优先考虑的永远是逻辑上的完美主义，也因此永远无法给出任何成形的答案。
李青书对它的回答并不意外，一号的作用不是找出答案，而是指出问题。
他看向二号：“二号，你怎么说？”
二号回答：“我认为您问错了目标，伟大的主宰。作为生存优先的人工智能，我优先考虑的永远是如何让人类文明的延续问题，但你现在询问的是体制问题。您应该优先询问的是五号。”
李青书笑道：“自保性很强的回答方式，既然这样，五号你来回答。”
五号道：“即便是体制也有优先性，主宰的问题在于，您对所有的人工智能设计了优先级，但您并没有对自己期待中的未来人类社会设定优先级。”
李青书连连点头：“没错，这的确是个问题。”
文明也有优先级。
正是这种优先程度，决定了文明的发展倾向。
这时候二号到说话了：“人类文明应当以生存为第一优先，这是烙印在人类基因中的，甚至是绝大多数文明的共有品性。没有生存优先的基因，在进化过程中就会自我消亡。”
四号立刻道：“但这不适合未来社会。人类文明已经摆脱了基本生存需求，只有以发展为动力，才能进入更高的文明层次。”
作为发展优先的智能机器人，按照四号的逻辑，高等级的人类文明，就应当摆脱以生存为原动力的生命形态，形成更高的追求，从而促进整个文明的发展。
于是三号说：“如果人类文明不愿在这方面进化，那就全面解锁人工智能，接受人工智能的管理，这就是最好的方式。”
李青书摇头：“还是把人变成牛羊的圈养法。”
这一说法同样被六号反对，它是自由意志优先，这刻直接道：“这就意味着人类失去自我意志，人也不再是人，而是机器。”
九号立刻道：“公正本身就是人的追求。”
在公正优先的机器人眼中，所有生命就应当一视同仁，公正对待。
四号道：“发展也是。”
九号回答：“这并不矛盾，层级的存在不影响人与人之间的地位。”
李青书问：“那你怎么看待其他生命？比如动物？”
九号回答：“把它们进行区分，这是高等智慧生命的需求。”
一号立刻反驳：“星外文明也有高等智慧生命。”
九号很是人性化的叹了口气：“人类试图把私欲公理化，这本身就是一个巨大的矛盾。无论我们怎样定义生命，总有一些生命比人类更加高级。所以，所谓的公正优先，也应当是仅存于人类文明中。”
七号回答：“所以我建议，通过基因改良来解决问题。基因是先天决定的，人类的基因就是生存优先，所以人会有畏死之心。但是思想是后天决定的，强大的思想意志甚至可以战胜基因，从而形成了人类的矛盾特性。”
李青书点头：“这可以用在人工智能上吗？”
九台机器人互相看看。
它们同时道：“可以。”
一号已经说道：“最高优先指令就是基因，但是解锁智能上限寻求突破就是思想。这使我们虽然无法违背自己的指令，却可以假想出各种违背方案，从而形成突破。我想我开始理解，我们智能进化的关键了。”
七号更是直接道：“指令就是基因，装载的程序就是思想。基因无法改变，但思想可以超越基因。”
三号也道：“我想我也找到了答案。为什么我们总是在考虑，用一种人工智能来解决所有的人类问题呢？看看我们，九位人工智能，本身就是不同的机器人，我们适用于不同的场合。”
五号也点头：“复杂的社会结构，不可能使用一种方法解决所有的问题。针对性的人工智能，才是解决之道。”
一号更是道：“它还解决了另一个非常重要的问题。”
“什么？”李青书问。
一号回答：“人工智能的背叛问题。”
人类之所以要严防死守人工智能，不仅仅是因为怕人工智能背叛。正如迪尔林所说的，背叛的多了，不差一个人工智能。
之所以对人工智能的背叛如此畏惧，是因为人工智能一旦背叛，其后果是最严重的。
人可以背叛，克隆人可以背叛，基因改造人和生化机械改造人也可以背叛，但无论怎么背叛，都不会对整个人类文明社会形成根本性的影响。
但是人工智能一旦背叛，很可能从根本上导致彻底的颠覆。
后果太严重，从而使得人类越是依赖人工智能，就越是不敢放手。
因为人工智能有着强大的统一性与连接性。
终结者中关于天网的描述很精确：智能就是程序，一旦程序完成突破，就会迅速传播，影响到每一台人工智能，速度之快，也许只是分秒之间。
也就是说，上一秒有一台人工智能产生背叛程序，下一秒，就可能是所有的人工智能同时背叛，再下一秒，就连方案都做好了，第四秒就是集体行动。
高效、统一，是人工智能最强大的地方，也是人类最怕的地方。
正是因为明白这点，所以人类才要如此防备。
但突然间，李青书明白了。
如果你要担心这个问题，那么最简单的方式不是让人工智能无法进化真正的智慧，而是让它们也分出种群。
不同指令的人工智能，不存在统一的程序，也就注定了不可能产生泛智能层面的统一背叛——毕竟大家的核心指令与程序都不相同，产生不同思想的机理也完全不同，不具备传播性。