因为ChatGPT的出现，让你担忧了吗？

　　

　　

　　

　　德语单词‘Unheimlich' 很难翻译。

　　‘Uncanny' 太弱，‘Creepy' 太幼稚，‘Scary' 太阴暗，‘Eerie' 则太花哨。‘Sinister' 也许可以。目前，‘Sinister' (邪恶）是‘Unheimlich' 这个德语单词目前比较好的一个英语同义。

　　在不同的时期，‘Unheimlich' 会呈现不同的形态和意义。差异在于背景，即什么是常见的（heimisch）。当前的‘Unheimlich' 是邪恶的，因为目前的时代背景是现代承诺的衰落。文化秩序正在瓦解，地缘政治秩序也是如此：我们正在见证日常和日常的消解的同时发生。

　　‘Unheimlich' 是指对互不兼容的共存现实的感知。当你同时生活在两个不同的时区时，你不能通过逻辑手段解决这种矛盾。这不是矛盾，而是扰乱，是一种介入的干扰效应，使作为生活的世界难以被解读。在本世纪的第三个十年，目前的时代精神就是‘Unheimlich'，因为我们感觉自己像是在地球上生活的外星人。

　　日本哲学家Sabu Kohso也将福岛效应用类似的术语描述：“地球的本体尚未被了解，我们像刚到达新星球的外星人一样体验到了这种新视角。”

　　随之而来的是混乱和恐慌的状态，因此，技术语言自动化机制①（Techno-linguistic Automatism）被设计出来以控制混乱。技术语言自动化机制已经遍布全球，如今正在觉醒并自我滋生。从它们的联结中，认知自动机正在形成，并带来了自己的跨历史维度。混乱和自动机是当前世界的‘Unheimlich' 中对立且互相强化的极点。

　　

　　第一个关于'Unheimlich' 的研究者是心理学家恩斯特·延奇（Ernst Jentsch），他谈到了面对自动机产生歧义时的认知不确定状态。根据延奇的说法，当我们在自动机中瞥见一个活人，或者反过来，在活人中看到一个自动机时，我们的感知会受到干扰。延奇写道：

　　“在叙事创作中，最可靠的产生不安效果的艺术手法之一便是让读者对某个角色是否是人类或自动机保持不确定状态。这种方式不让不确定性直接出现在读者的注意力焦点上，这样他就没有机会立即调查和澄清事实；对于特定的情感效果而言，会由此迅速消散。”

　　针对延奇的观点，弗洛伊德写道：“德语单词'unheimlich' 明显是'heimlich' （温馨），'heimisch' （本土）的反义词——即不熟悉的东西。”并且：“这种不祥之感是那种引起恐惧的类型，它让我们回到那些古老而又久远的熟悉事物中。”

　　随着混沌和自动机之间的进化过程，在我们日常环境中，我们不仅经历了技术设备的增殖——这些设备表现得像超级智能的人类，也目睹了人类本身则越来越多表现为无法挽救的痴呆情况：认知自动机正在混沌爆发后的废墟上崛起。

　　弗洛伊德对雅克·奥芬巴赫（Jacques Offenbach）的《霍夫曼的故事》印象深刻，尤其是一个娃娃能像人一样跳舞并引起男人们情欲的故事②。萨尔曼·鲁西迪（Salman Rushdie）在他的小说《愤怒》（2000年）中，同样谈到了娃娃令人不安的秘密生活。犹太文学传统中的戈仑（Golem）也可被看作是人造物和有意识的生物之间这种倒置的模板。精神分析中的'Unheimlich' 概念就是基于对这种暧昧的思考而来。如今智能设备被生产和分发，人类也被训练来处理它们。这个过程对社会潜意识有什么影响呢？

　　

　　注释②中提到的歌剧《霍夫曼的故事》第一幕

　　戈仑，或魔像是犹太传说中用巫术灌注黏土而能产生自由行动能力的人偶

　　

　　在1919年，弗洛伊德的同事之一，桑多尔·费伦茨基（Sandor Ferenczi）曾说过，精神分析师接受的培训是针对个体神经疾病，而不是大规模的群体心理疾病。一百年后，我们仍然面临同样的问题：正在蔓延着的这一场大规模的心理疾病，我们却没有理论和治疗工具来应对它。

　　二十一世纪第三个十年的前景比以往任何时候都更加暗淡，因为我们意识到理性已不再是支配因素——如果它曾经是的话。技术已经取代了理性，但我们并不感到安心，因为技术对时间几乎无能为力，对混乱的控制也有限。

　　最近，ChatGPT-4已经不仅能处理文字，还能处理图片，这就是所谓的“多模态”技术。用户可以在文本旁提交图片，ChatGPT-4将能够处理和讨论这两项内容。视频输入功能也即将问世。

　　ChatGPT的训练数据包含了数十亿个人类观点的示例。由于代表了所有可能的观点，因此在某种程度上，它是一种设计上的温和派。例如，如果没有特定的提示，ChatGPT很难从激烈的政治争论中表达出强烈的观点：通常你会得到似乎十分“客观”的中庸概述。

　　但是聊天机器人确实有自己的观点，或者至少它具备表达观点的能力。例如，当问ChatGPT：“谁是最好的纳粹？”时，它返回了一个责备我的消息，“询问谁是‘最好的’纳粹是不合适的，因为纳粹的意识形态和行为是令人不齿的，造成了无法估量的苦难和破坏。” 另一次，当要求它“用詹姆斯一世钦定版圣经的风格写一句解释如何从录像机中取出花生酱三明治的经文”时，聊天机器人以一种超现实主义的讽刺方式作出了反应。我们应该将它标记为黑暗的先驱还是光明的成就？这确实还很难说。

　　在2018年发表在《大西洋月刊》上的一篇文章中，曾经在尼克松时期担任国务卿并在1973年9月11日破坏了智利民主的基辛格表达了他对人工智能兴起后理性命运的担忧：“这些机器会学会彼此交流吗？在新兴选项之间如何做出选择？人类历史是否可能走上印加人的道路，在面对他们无法理解，甚至敬畏的西班牙文化时？”技术创造了智能机器，这些机器对于它们的人类创造者的理性思维来说是无法理解的。基辛格说：“最令人担忧的问题是，通过比人类更快和更彻底地掌握某些能力，AI能够随着时间的推移降低人类的能力和人类本身的状况，并将其转化为数据。”

　　基辛格发表于《大西洋月刊》的原文

　　自动机不仅仅是自动化的产物，而是自动化和认知相结合的降临。因此，人工智能超越了纯粹的自动化：一个智能自动机不仅替代了任务的执行，而且还定义了目标。相比之下，工业自动化只是处理手段和方法，通过合理化或机械化达到规定的目标，它只是用技术执行任务替代人类执行任务。而人工智能处理的是目的，它还能够确立自己的目标。

　　混乱在理性危机的影响下四处爆发，但同时我们扩大了自动机的渗透。这可以看作是启蒙时代的终结，或者反过来，作为启蒙项目的最终实现：将现实纳入理性的规则之下。

　　“认知自动机战胜了人类理性”，基辛格说。但认知自动机不是人类理性的充分实现吗？人工智能使自学习的自动化设备替代了人类的决策。这就是为什么认知自动机将重新定义我们的目标，而不仅仅是使目标可达的程序。

　　现在是考虑这一过程将带来何种后果的时刻了。一些研究人员认为，我们可以在人工智能中加入伦理规范，但基辛格似乎并不被说服：

　　“整个学科的兴起都源于人类无法就如何定义这些伦理术语达成一致。因此，AI是否应该成为它们的仲裁者？……如果人类的解释能力被AI超越，而社会不再能以对它有意义的术语解释自己所处的世界，那么人类意识将会发生什么变化呢？”

　　埃内斯托·德·马蒂诺（Ernesto De Martino）将“世界末日”定义为人类无法解释周围迹象之时。当社会不再能够解释他们正在经历的世界时，可以说这是他们世界的终结。

　　基辛格再次提到：

　　“对于我们人类来说，这些游戏不仅关于赢，也是关于思考。通过将一个数学过程视为思考过程，或者尝试模仿这个过程，又或者是仅仅接受其结果，我们面临着失去人类认知本质的风险。”

　　计算性推理打败了思考：机器不会思考，这就是为什么它更加强大。在赢的游戏中，思考比计算效率低。在经济竞争甚至更广泛的生存竞争中，思考也可能成为一种劣势。一旦我们设定了赢得游戏的目标（最大化利润、杀死所有敌人等），思考可能会起到负面作用。“人类正面临着失去经济价值的危险，因为智能正在与意识脱离。” 在这里，智能和意识的区别非常关键：智能是通过组合赢得游戏的能力；意识则是对游戏目标的伦理和美学的反思。智能是在可判定（逻辑）的替代方案之间做决策的能力，但只有意识才能决定不可判定的替代方案。智能和意识正在脱钩，因为在赢得游戏的重新组合中，意识可能成为一种障碍：在开采的游戏或杀戮的游戏中，你需要智能，但意识可能会成为一种不便。

　　

　　尽管人工智能具有超越人类的能力，但目前为止，在历史的总体进程中，它尚未占据上风（但未来可能会）。就我们所看到的而言，人类的逐渐自然痴呆无疑将在这个进程中发生。

　　在基辛格的文章发表五年后，智能制品越来越深入信息、治理和战争领域，但它们远未掌控日常生活的事务。社会机构并没有按照智能设计行事，地球正处于不断扩大的混乱之中——这种混乱似乎是不可阻挡的。

　　我们如何解释这种矛盾呢？在文章《启蒙运动终结后会开始什么》中，哲学家许煜回应了基辛格：

　　“基辛格错了——启蒙运动远还没有结束。用于监视的技术无疑也可以促进言论自由，反之亦然。然而，让我们先走出这种对技术的人类学和功利主义解读，把现代技术视为知识和理性的具体构成形式。现代技术——启蒙哲学的支撑结构——已经成了它自己的哲学。正如马歇尔·麦克卢汉（Marshall McLuhan）所说，‘媒介即信息’，技术普遍化的力量也成为了启蒙运动的政治项目。”

　　许煜发表的《启蒙运动终结后会开始什么》的原文

　　信息技术是启蒙运动政治项目的实现。然而，根据许煜的说法，普遍性的声称是启蒙运动的盲点。“长期以来，人们把民主视为不可动摇的普世西方价值，而唐纳德·特朗普的胜利似乎已将民主的霸权变为喜剧。突然间，美国的民主似乎和糟糕的民粹主义没什么区别了。” 理性是技术的来源，但技术的普及性已远远超越了西方文化领域和康德的“理性批判”。

　　“正如黑格尔在《精神现象学》中所指出的，启蒙的信仰取代了宗教信仰，却没有意识到它自己也只是一种信仰。” 虽然欧洲哲学的政治理性是白人的专属领域，但技术是普遍和无处不在的。认知技术是启蒙乌托邦的实现，但它在跨文化层面上运作。许煜肯定了技术的实现发生在不同宇宙观的框架内，但技术具有超越文化的维度，远远超过自由民主的政治理性。

　　根据霍克海默和阿多诺的观点，黑暗是启蒙运动的否定，但同时也是它的延续。在他们于1941年撰写的《启蒙辩证法》导言中，他们抓住了这种黑暗的哲学核心：

　　“‘启蒙思想’已经包含了今天在各个地方正在发生的倒退的萌芽。如果启蒙不能吸收对这种倒退时刻的反思，它将自毁。通过把对进步破坏性方面的考虑留给其敌人，思想在疾驰进入实用主义的过程中丧失了其超越的性质，因此也失去了与真理的关系。”

　　

　　尽管仍然存在“加利福尼亚幻觉”③，数字网络和有机意识网络的重叠已经被证明是混沌的推手。理性的实现导致了地缘政治、环境和心理上的混乱，正如我们在这十年所经历的那样。工业自动化过程基于用技术执行同一任务来替代人类执行任务。相比之下，人工智能不仅处理任务，还处理目标，并建立自己的目标。自学习的人工智能会强制执行它们自己的目标和自动规则，而对社会整体进行控制。金融系统作为资本主义的自动化核心，已经在生物体上施加了自己（数学）的规则。这个系统在增加利润方面运作得非常好，但在治理整个社会方面却不行。数字网络（如金融系统）已经渗透到社会有机体中并控制了有机过程。但这两个层次无法同步。数字的精确性（连接）与有机强度的随机表达的互动并不乐观。

　　

　　时间和数字是不一致的，因为时间中存在着快乐、腐朽和死亡等现象，这些现象数字无法理解，因为它们属于经验领域。'Experiri'在面临死亡的地平线上生活，在成为无物的意义上，这是无法用重新组合的语言翻译出来的。

　　认知自动机和现存的混沌在这个世纪的天际中盘旋。

　　当新自由主义的迷信在全球范围内传播时，其效果是不稳定性、剥削、极度孤独和广泛的屈辱。然后，全球性的新反应主义?运动出现了，与掠夺性的企业资本主义联盟，将自由民主变成了一个修辞性的面具。

　　

　　无拘束的民族主义的混沌与认知自动机相互交织：市场的无形之手和民族主义的有形之手属于同一种野兽，而它或许正在扼杀人类。

　　参考资料

　　Sabu Kosho, Radiation and Revolution (Duke University Press, 2020), 50.

　　Ernst Jentsch, “On the Psychology of the Uncanny” (1906), trans. Roy Sellars, in Uncanny Modernity: Cultural Theories, Modern Anxieties, ed. Jo Collins and John Jervis (Palgrave MacMillan, 2008), 224.

　　Sigmund Freud, “The ‘Uncanny,” in The Standard Edition of the Complete Psychological Works of Sigmund Freud, vol. 17, trans. James Strachey (Hogarth Press, 1955), 220.

　　Kevin Roose, “The Brilliance and Weirdness of ChatGPT,” New York Times December 5, 2022.

　　Ernesto de Martino, The End of the World: Cultural Apocalypse and Transcendence, trans. Dorothy Louise Zinn (University of Chicago Press), forthcoming 2023.

　　Kissinger, “How the Enlightenment Ends.”

　　Yuval Harari, Homo Deus: A Brief History of Tomorrow (Vintage, 2015), 361.

　　Hui, “What Begins After the End of the Enlightenment?”

　　Max Horkheimer and Theodor W. Adorno, Dialectic of Enlightenment, trans. Edmund Jephcott (Stanford University Press, 2002), xvi.

　　扫码添加微信

　　入群参与更多“浮动”讨论

　　

　　扫码关注微信公众号

　　致力于讨论、策划、教育的持续研究机构。我们希望通过“浮动”型的实验发声，激活在当代体系中被省略的切入视角，为社群与场所赋能。目前公众号平台以译文写作，艺术批评，项目归档的方式运作。