陈一舟：奇点临近，机器有无慈悲之心？

　　智能体的共同特点

　　有了上面的知识铺垫，让我们来探究本文的中心问题，机器是否有慈悲之心？让我们再补充一些知识，先看看智能的共同特点是什么。

　　凯文凯利在《技术需要什么》里认为如果技术也是一个有灵魂的个体，那么它需要四类东西：一是可能性，技术都想让自己的多样性变得更大，它希望增加更多的选择。第二它需要更高的效率，比如增加能量的密度。 第三技术希望增加复杂性，第四技术希望增加可进化性。

　　哈佛大学教授Alex Wissner-Gross认为智能应该被看作是一个物理过程，这个物理过程希望把未来的行动自由*化，并且尽量避免在属于自己的未来中受到约束。一个囚犯为什么想越狱？他希望未来的自由*化。年轻人拼命工作为什么？攒钱为未来打算。

　　这里特意把智能，技术这两个概念混淆。技术的驱使者是人类，所以技术发展当然也反应了人的主观能动性。比较有意思的是智能的热力学解释，根据Wissner-Gross，不管是基于碳基的生物智能还是基于硅的人工智能，应该都有一个热力学和哲学上的共同特点：它们消耗能量，消费信息，目的是*化智能载体的行动自由和未来的各种可能性。

　　智能体之间的合作与对抗

　　这样看起来，智能体应该是自私的，它们都“忙着”为自己的未来打算。但为什么人类社会中存在着大量的利他行为呢？利他还是自私的问题，这和我们所关注的慈悲之心已经很接近了，所以我们来看看智能的利他行为是怎么回事。

　　人是社会化生物，人类更倾向合作。以研究蚂蚁著称的生物学家威尔森在他的《社会征服地球》一书中提出，“利他主义不是个体的自然选择，而是群体的选择”。他认为一个拥有众多愿意为了集体利益而作出贡献或为之牺牲的成员的部落将会胜过其他合作意识不那么强的部落。“社会体是在生物体个体之上的下一个主要生物学组织形式，在仅有的二十多个进化出社会体的动物进化分支线中，我们祖先处于其中一条分支上。在社会体中，超过两代以上的群体成员共同生活在一起，共同照顾幼体，进行劳动分工，且分工会让部分个体相对于其他群体成员在繁殖时处于更有利地位。”

　　对于区别于人类的高级智能，如外星人，人们直觉上保持一种担心。比如，在谈及对外星人的探索计划时，物理学家霍金曾经这样警告过：“虽然我们不太了解外星人，但我们了解人类。纵观人类历史，人类与智力相对欠缺物种之间的接触，站在它们的角度来看，这种接触往往是场灾难，先进文明与原始技术的相遇对于落后一方来说很糟糕。文明外星人可能会比我们早数十亿年读取人类的信息。如果是这样的话，他们非常强大，看待人类也许未必有人类看待细菌那样珍视。”

　　本周阿尔法狗两虐李世石，大家感慨万千。昨天（3月10日），李学凌的状态是这样滴：

　　但是，熊猫被保护起来是因为它们稀缺。试想一下“可爱”的熊猫们和老鼠和蟑螂一样多的话，他们的命运应该差很多吧。

　　把一群级别类似及相差很大的智能体放到一起的时候，他们怎么决定是否合作还是对抗？我们先来看人类自己的例子。

　　人类是怎么对待自己的人类兄弟的呢？

　　1890年12月29日，是美国印第安人的伤心之日。 那天，由福赛思上校率领第七骑兵团的500美国骑兵在南达科他州的伤膝河（Wounded Knee）血洗了那里的印第安人苏族的拉科塔部落。

　　显然，人类的利他行为有适用范围：对和自己基因最接近的家庭成员，我们最合作，最关注。从家庭，家族，老乡，到同一人种，同国家，不同国家的人，随着和自己基因和群体的疏远，人类的这种利他性逐步降低，甚至会到敌对面。人的爱和情感，归根结底是利己的，是有适用范围的。智能物种相遇时，如果技术能力差异很大，弱肉强食看起来是智能体的一个共同特点。

　　几年前，我看到一篇人工智能的研究论文，用计算机模拟的人工智能在多竞争对手的情况下，有时候会选择和水平相近的其它智能合作。我翻了一下历史书，果不其然，发现确实有证据表明是这样。比如，中国近代史上的八国联军压义和团，就是当时技术水平相近的8个世界列强在多竞争对手瓜分中国殖民地的情况下，共同选择的一次性合作。根据这篇论文：“因此，我们有理由认为，不同的智能体会统一表现出一种“驱动力”， 跟它同样强大的生物合作，以获取利益。即使这种行为不是有意而为之。”

　　正是基于对智能本性的直觉，霍金警告过探索外星文明需要谨慎，而中国著名科幻小说三体里，刘慈欣也提出了基于这种哲学的黑暗森林法则：“宇宙就像是一座黑暗森林，每个文明都是带枪的猎人，像幽灵般潜行于林间，轻轻拨开树枝探索外界，同时竭力不发出脚步声隐藏行踪，因为林中到处都有与他一样潜行的猎人。如果他发现了别的生命不管是不是猎人，不管是天使还是魔鬼，能做的只有一件事：开枪消灭之，在这片森林任何人视他人为地狱，永恒的威胁来源、永恒的资源抢夺者，只有先下手为强的不变思维才能抵消未来潜在风险，任何暴露自己存在的生命都将很快被消灭”。

【本文由投资界合作伙伴腾讯科技授权发布，本平台仅提供信息存储服务。】如有任何疑问，请联系（editor@zero2ipo.com.cn）投资界处理。