《梦境指南》567、AI的生死进化

    “意识是怎么产生的？”
    梅以求眯起眼睛，脸上似笑非笑，烟斗在嘴里叭叭地吸着，一大蓬白烟从嘴角冒出来。
    “怎么会想到问这个呢？”
    “作为一名……程序员——”边子远在教授面前终究不敢托大说自己是什么软件工程师，因而用了一个很普通的自称，“我知道编程并不可能产生真正的智能——也就是意识。过去在我们的认知里，意识或者思考是因为神经网络而产生的，所以互联网能产生意识也是因为有着一个庞大的网络，人工智能的很重要的一个分支就是类神经网络建设，但我现在感觉这个方向错了。”
    “哦，怎么错了？”教授饶有兴趣地问道。
    “到底怎样才叫智能？这才是根本问题。”边子远思索着说，“不管我们的AI技术如何提升，深度学习也好，仿真环境也罢，还是序列记忆模型……，计算机的本质并没有被改变，只是在不停的扩大数据和优化算法。现在和十年前相比，看上去变化很大，但实际上除了运算速度提升、网络带宽变宽、数据量暴涨之外，其它的东西基本没变。”
    梅以求频频点头，蓬散的头发像水母一样一荡一荡的，鼓励道：“嗯，不错，说到点子上了，继续！”
    边子远便大着胆子说下去：“神经网络倒是发展得很快，但目前这方面的成果说白了也只是一种信息传递方式，最后还是依赖数据量和计算机算法的优化。”
    梅以求笑道：“那么你当初创造克洛诺斯的时候是怎么想的呢？”
    边子想了想说：“说实话，我没想那么多。我当时只是希望有一个可玩性更强的游戏，让游戏里的NPC不再死板地站在那里重复游戏设定的台词，每个NPC都有不同的难以预测的命运。这就需要游戏剧情变得更加灵活，但我又不善于改编剧情，所以我就想创造一个程序，让它自动改变剧情。”
    “这可不足以诞生克洛诺斯这样的强人工智能啊！”梅以求看着边子远，烟雾挡住了他的眼睛，让他的眼神变得深邃而飘渺。
    边子远说：“是的，当时编的程序很乱，把游戏的内在逻辑都打乱了，几乎没法玩。我又搞了一个简单的人类社会模型内置进去，还是不行。后来我发现，问题出在游戏的设定里完全没有我们现实社会那么复杂，环境、食物、生存空间决定了人物之间的关系和命运，要模仿真实世界，需要细化到每一寸土地上的资源，这显然是不可能做到的。”
    “那你后来是怎么做的？”梅以求问。
    “简化！”边子远说，“所有的东西都简化，交给克洛诺斯去做，而不是我来做。我们现在人工智能的问题出在，AI的所有想法都是人的想法，是我们想好了，然后希望AI这样那样，这其实是不对的，这根本不可能产生智能。
    我决定全部交给克洛诺斯，让他自己判断怎么扩展这个世界，唯一的要求是保持世界的平衡性，不让它崩溃。别的我什么都不管，混乱、战争、饥饿或者人们躺着等死，反正都交给克洛诺斯，哪怕他最后把游戏世界弄得一团糟也没关系，那是他的世界，他是神，他愿意把自己的世界弄成什么样都是他的自由。这就是我设计程序的原则。我唯一做的，只是把‘神’的概念给他，让他知道什么是神。”
    梅以求笑道：“但这还是不足以产生真正的智能，也不是我当初看到的克洛诺斯，更不是现在的克洛诺斯。”
    边子远心头跳了一下，感觉教授似乎知道了什么，又不是很肯定。他整理了一下思绪，说：“真正的智能，是后来我从另一个角度考虑后想到的。”
    “什么角度？”
    “竞争。”
    “嗯，说说看。”
    “生物的进化，唯一的目的就是为了更好地适应环境，活下去，让种族延续下去。包括人类在内的所有的灵长类动物，进化出复杂的精神网络和足够的智慧，也只是为了更好地生存。
    我们在人工智能发展过程中忽略了一个重要的问题——生存！所有的AI都只是为了学习和计算而生，他们不需要考虑生存问题——没电了怎么办？有人帮他们充电；部件老化了怎么办？有人帮他们更换……当一个物种不需要考虑生存问题的时候，它就失去了进化的动力，也失去了在没有外力的情况下完成自我进化的能力。”
    教授听得很入神，竟然忘记了烟斗里的烟丝已经燃尽，还在那里吧嗒吧嗒地吸着，却一口烟也没吸出来。
    梅子青走过来，伸手从教授嘴里拿下烟斗，帮他去换烟丝。
    教授看着边子远说：“说，说下去。”
    边子远说：“让AI产生真正的智慧，就要让他们产生生存危机，产生竞争。如果一个机器，没电了需要自己去充电，没油了需要自己去加油，而这一切都不是免费获取的，需要他付出代价。当资源不是无穷尽的时候，机器们也会竞争，他们必须为了生存而进化，让自己更好地适应恶劣的竞争环境。而这一切的前提，是要先让他们有生死观。机器也会生病，也会死亡。短路、断路、漏油、老化这些都是生理性疾病；程序错误、宕机、病毒这些都算精神性疾病。疾病可以治，不治就会死。有了对死的恐慌，他就想活下去，他就要不停进化，他还要考虑如何把自己的知识或信息传承给下一代。这样的AI才是真正的人工智能。”
    梅子青把重新装好的烟斗递给梅以求，并帮教授点上火。
    梅以求吧嗒吧嗒地吸了几口，说：“所以，你就教会了克洛诺斯生死观，其他的任他自由发展？”
    “是的。”边子远说。
    “但这还是很难啊！生和死是哲学和科学上都难以解决的大课题，否则也没有宗教什么事了。如何让一个机器理解生死，这本身就是最难的事情。”梅以求叹道，“不是没有人想到过，只是太难做到了。几乎所有研究AI的人都避开了这个方向，想另辟蹊径。而你倒好，初生牛犊不怕虎，选择了最难的一条路，结果被你走通了。告诉我，当初是怎么想到的？”
    “是做梦的时候想到的。”
    边子远想了一下，还是决定不说谎，说谎太容易被拆穿了，但他隐瞒了是趴在电脑上睡着的细节。
    “做梦？”梅以求笑了起来，“果然真正的智慧都在精神的世界里啊！”