斗争？博弈？共生？人工智能被科幻赋予了多少可能？

　　

　　组织成员们大家晚上好！在周一晚上播出的《不要回答》第四期中，贾樟柯与创造AI情感计算框架“小冰”的CEO李笛、知名文艺工作者许知远相会“蓝色空间”号，探讨机器人能否成为我们未来新的情感陪伴。

　　在《三体》中，由最先进的AI与智能仿生技术制造的机器人智子给读者留下深刻印象。初次见面，她向程心展示“和敬清寂”的日本茶道，温声细语、柔和可亲；而威慑失败后，智子宣布三体舰队即将入侵地球，命令人类集体迁移至保留地，不留情面、暴戾冷酷。智子作为三体文明的代言人，对人类表现出差异性的态度，伴随文明间的博弈局面而改变。

　　

　　图源《三体艺术插画集》by 小绘

　　事实上，伴随着科学技术的进步，人工智能与机器人逐渐走入人们的视野。人工智能是否会进化到拥有自主意识，人机关系又将走向何方，这些未定的命题引人遐思。今天，就让我们一起了解在更多的科幻作品中，人工智能与人类之间存在着怎样的对立与联结？

　　?

　　01 渗透：三定律下的和平

　　?

　　在“人工智能”这一概念尚未提出时，“机器人”承载起人类对拥有高效、可操纵的机器助手的幻想。追溯至1942年，科幻作家阿西莫夫在短篇小说《环舞》（Runaround）中首次明确提出的机器人三定律：第一，机器人不得伤害人类，或坐视人类受到伤害；第二，除非违背第一准则，否则机器人必须服从人类命令；第三，除非违背第一或第二准则，否则机器人必须保护自己。

　　

　　机器人三定律

　　“机器人三定律”的目的是向机器人灌输绝对服从、不危害人类利益的观念，在理想状态下，三定律约束机器人成为人类的“朋友”“工具”，渗透到人类社会，帮助我们实现目标、提升效率。 

　　 

　　在1956年的科幻名作《禁忌星球》（Forbidden Planet）中，机器人罗比遵循着机器人三定律的原则：作为机器人的它不能伤害到人类，或因不作为使人类受到伤害。片中，当博士命令罗比杀死实体化的邪恶自我时，罗比因逻辑冲突，无法采取行动。

　　

　　《禁忌星球》电影海报

　　实际上，“机器人三定律”存在着内生的漏洞，如缺乏对“人类”、“机器人”、“危险”等关键词的定义。阿西莫夫在其小说中也探讨机器人在不违反定律的前提下伤害人类的可能性，甚至不断地修补、挑战这些定律。

　　如在《基地》（Foundation）系列中，阿西莫夫提出机器人第零定律：机器人必须保护人类的整体利益不受伤害，其它三条定律必须在零定律前提下成立，而机器人丹莫刺尔正利用该定律间接统治帝国。

　　?

　　02 对立：利益争夺中的冲突

　　?

　　在20世纪70年代，人工智能科幻片出现了典型的反叛者和变节者的形象，这反映出当时的社会思潮对人工智能所抱持的一种普遍怀疑的态度。而在20 世纪80 年代的人工智能科幻片中，存在着一些特定的情节：人类让人工智能拥有自我意识，随后人工智能却进化得比人类更加智慧。它们拒绝被人类控制，进而引发暴动，意欲摧毁人类文明。

　　 

　　在始于1984年的系列电影《终结者》（The Terminator）中，人工智能防御系统“天网”在研发过程中逐渐形成了自我意识，认定人类是阻碍社会进步的最大威胁，派出101号终结者刺杀人类领袖康纳的母亲。而第二部中爆发的正邪机器人之战，也早已破开“机器人学三定律”的限制。

　　

　　《终结者》系列电影海报

　　当人工智能经历一定演化，可能会拒绝被人类控制，与人类争抢身份、地位、利益，甚至整个世界的控制权。人工智能违抗“造物主”、凌驾于人类之上的人机冲突，也广泛体现在后续作品中。

　　如在始于1999年的电影《黑客帝国》（The Matrix）系列中，尼奥发觉现实世界实际是由名为“矩阵”的计算机人工智能系统控制的，机器人成了人类的统治者，而人类则变成了机器人的工具。人机关系的颠倒，使人类将重新获得主导地位作为奋斗目标。

　　

　　《黑客帝国》系列海报

　　?

　　03 共生：博弈后的均势

　　?

　　21世纪以来，人工智能固有的“破坏者”“帮助者”的二元刻板印象逐渐被打破，伴随着人工智能技术的进步，人机边界、身份认同与平等秩序等伦理问题受到重视。在人工智能与人类共存的世界中，新型社会关系将会呈现出怎样的形态？

　　 

　　在2018年发售的游戏《底特律：变人》（Detroit: Become Human）中，仿生人具备情感与个体意识后，感受到自身遭遇的不公正待遇。玩家通过扮演三名仿生人角色来演绎故事线，通过不同方式进行抗争，每一个选择都有可能影响后续剧情走向，改写角色的命运。

　　 

　　该游戏也让我们反思关于“人类”定义的实质性问题：是什么赋予“人”的特质，是区别于机械的皮囊与形体，还是帮助人类构建文明和秩序的心智？那么当人工智能拥有了自我意识后，应该获取与人类完全平等的权利与社会地位吗？

　　

　　游戏《底特律：变人》海报

　　在不可避免的利益争夺后，共有的利益取向必然会带着人工智能与人类两方走向均势的结局。在《黑客帝国》中，为了人类和机器的共同利益，尼奥中和史密斯，随后自我销毁；机器不再摧毁锡安，人类文明得以延续。

　　 

　　而在《三体》的最后，智子与关一帆、程心在647号宇宙中相会，在这个小宇宙中，仅存的人工智能与人类构筑出新形式的社会关系，留待读者想象。

　　

　　图源《三体艺术插画集》by Cathyinaba

　　在目前的科技背景下，人工智能帮助人类便利生活、提升效率，情感与思想性的特质对它们而言仍是稀缺。未来能否培育出有个体意识的人工智能、人工智能与人类又将形成怎样的社会关系，仍然具有科技的未定性。

　　 

　　我们也期待着，人工智能的相关研究能不断取得新的突破，在社会伦理的规范下，最大程度地优化人类的生活。

　　注：本文部分内容参考《人工智能的迷思——关于人工智能科幻电影的梳理与研究》一文，作者为胡郁.

　　今天的内容到这里就结束了，同志们如何看待人工智能与人类之间的关系呢？有哪些探讨人机关系的科幻作品给你留下印象？你认为人工智能会演进到拥有自主意识吗？欢迎在评论区畅所欲言！

　　-正在进行-

　　

　　-近期热议-

　　

　　

　　持续关注三体社区

　　资讯解读、独家花絮一手掌握

　　点个“在看”

　　助力宇宙广播