惟新前沿 ｜ 科幻电影背后的技术恐惧--隐私终结

　　the authenticity of our cognition and memory is indistinguishable; and tech- nology predicts and decides the fate of human beings. This imagination of the “end of privacy”society tells of the anxiety and fear of technological challen- ges to freedom，equality，trust，human dignity and autonomy，which are the basic values on which Western societies maintain their democratic politics．

　　Key Words：The End of Privacy; Western Science Fiction Movies;Big Data; Technological Fear

　　一、技术恐惧: 一种社会心理现象

　　在西方社会，对新技术的恐惧是一种常见的社会心理现象，伴随特定 的科技发展历程和社会文化传统。早在启蒙运动时期，当人们为科技力量 的强大和理性的扩张而欢欣鼓舞时，卢梭等激进的思想家就曾大力批判科 学技术是使人类社会道德没落的根源。他在 《论科学与艺术》中感叹道: “我们可以看到，随着科学与艺术的光芒在我们的地平线上升起，德行也就消逝了，并且这一现象是在各个时代和各个地方都可以观察到的。”① 这种对科学技术的焦虑甚至畏惧，不仅萦绕在思想家的心头，同时也自发地出 现在底层大众的现实生活中。在工业革命时期，随着机器大生产逐渐替代 了手工劳作，使大批手工业者破产，英国诺丁汉等地相继爆发了工人捣毁机器的 “卢德运动”，从此 “卢德分子” 就成为一切新科技反对者的代名词。法国大革命之后，大规模的政治迫害以及社会秩序的混乱幻灭人们对启蒙运动的 “理性王国”; 在此背景下，西欧文艺领域产生了浪漫主义思潮来回应理性主义及工业文明对自然生态、社会和人性的破坏。英国女作家 玛丽·雪莱的长篇小说 《弗兰肯斯坦》被认为是世界上第一部真正的科幻小说。小说的主人公弗兰肯斯坦经过多年潜心研究创造出一个怪物，这个 怪物在某种意义上正代表着渗透进人类社会的科学技术水平，预示着科技 革命的悲观前景。“弗兰肯斯坦作为一个技术文化的隐喻符号在西方世界牢固地确立下来， 成为预示一切由人创造却反过来奴役和毁灭人的技术。 ②

　　19 世纪 20 世纪之交，西方资本主义国家从自由竞争阶段步入垄断阶段，技术的异化和压抑的人性使得 “敌托邦” ( dystopia) 成为这一时期社会心态的折射。大众文化方面，赫胥黎的 《美丽新世界》描述了人们对未来世界生物科技高度发达而磨灭人性的恐惧。在思想界，法兰克福学派的 意识形态批判理论揭示了科学技术在当代工业社会对人的统治与压抑，他们把技术看作意识形态和新的统治形式，认为技术本身就是异化的根源。在第二次世界大战中，原子弹在广岛、长崎的爆炸进一步强化了人们对技 术异化及其复杂性后果的认识，使全世界从此笼罩在核恐惧的心理阴影之下。自此，科学技术与人文主义的鸿沟更难弭合，“技术恐惧也就不仅仅是针对技术发展的恐惧，更是对技术与社会复杂的内在关联及其衍生物的恐惧。” ②20 世纪 70 年代初，信息技术革命开启了西方经济高速增长的时代，但是全面信息化带来的深刻变革也给人们带来了新的心理不适和技术恐惧。科幻电影 《终结者》《黑客帝国》等描绘了一个由机器人控制的未来世界，人工智能专家渥·维克在 《机器的征途———为什么机器人能统治世界》中也谈到这种趋势: “可能机器会变得比人类更聪明，可能机器会取代人类。” ③1996 年克隆羊 “多利” 的诞生，让人们对现代生物技术的发展产生了心理恐慌。《异形》《第六日》《星球大战 2: 克隆人的进攻》等影视作品不断地向人们传播生物技术和转基因产品的可怕后果。进入 21 世纪以来，大数据、物联网、智能设备等新技术的发展增加了普通人对个人隐私的关注，震惊 全球的 “斯诺登事件” 和 “剑桥分析事件” 更是让大众惊呼 “隐私终结” 的时代已经到来。自反乌托邦电影 《一九八四》上映以来，“隐私终结” 的主题再次出现在 《绝对控制》《圆圈》 《匿名者》等科幻电影中，无疑是对大数据在社会实践层面技术异化的一种真实反映。纵观这些作品，我们可以发现西方科幻电影对未来社会 “无隐私状态” 的想象呈现出以下几个基本特征: 专制政府统治下的全面监控社会; 隐私成为有钱人和权力阶层的特权; 人类认知和记忆的真实性再也无从辨别; 技术预测并决定了人的命运。这种对 “隐私终结” 社会的想象，讲述的其实是西方社会对其民主政治赖以维系的基本价值自由、平等、信任、人类尊严和自主性遭遇技术挑战的焦虑与恐惧。

　　二、监控社会: 植入身体的“心灵之眼”

　　正如一些社会学家把当今社会称为 “消费社会” “信息社会” “网络社会” 一样，马尔克斯 ( Garty T. Marx) 在 1985 年的一篇文章中把当代社会称为 “监控社会”。随着媒介技术的发展，奥威尔在 《一九八四》中所描述的极权统治正在成为我们生活的现实。

　　福柯在 《规训与惩罚》中引用了边沁 1787 年提出的 “圆形监狱” 的设想，认为权力可以依靠监视而不是惩罚来发挥作用。这个 “圆形监狱” 是这样设计的: “一个像圆环一样的环形建筑。在中央造一座塔楼，上面开很大的窗子，面对圆环的内侧。外面的建筑划分为一间间的囚室，…… 可以让看守待在塔楼里，把疯子、病人、罪犯、工人和学生投进囚室。简言之， 地牢的原则被颠倒了。阳光和看守者的眼光比起黑暗来，可以对囚禁者进行更有效的捕获，黑暗倒是具有某种保护的作用。”④“圆形监狱” 就是这样通过建筑的结构和光线的作用，使囚犯生活在一种持续的监视目光之中， 并形成强大的威慑力量。

　　如果说福柯的权力运作机制可以称为 “权力物理学”，是借助建筑、光线、知识和分类等手段来实施监控的，那么在信息社会，占支配地位的权力就应该是一种 “信息的权力”。遍布于社会各个角落的视频监控系统不知疲倦地监视着人们的日常生活。如果需要的话，几乎可以通过摄像头找到 任何一个人每天外出活动的轨迹。网络数据库对个人信息的收集、处理和 挖掘，以及数据库之间相互关联的技术，不但可以在空间上实现对全社会 的覆盖，而且在时间上还具有连续性和自动性。用福柯的话说，权力的 “中心点应该既是照亮一切的光源，又是一切需要被了解事情的会聚点。应 该是一只洞察一切的眼睛，又是一个所有目光都转向这里的中心”。⑤在福柯 的基础上，马克·波斯特提出了 “超级全景监狱” 的概念，他认为数据库通过相互之间的信息交换与整合，通过对公共与私人界限的颠覆，实现了对个体的全面监视。数据库作为 “超级全景监狱”，是 “后现代、后工业化的信息方式下对大众进行控制的手段”; “权力的毛细血管式的延伸触及规训社会的整个空间，福柯所注意到的这种情况在今天已经远为完善了。”⑥

　　科幻电影 《匿名者》将未来世界里监控的深入程度推向了极致。当人类社会发展到 2030 年时，每个人从一出生就在瞳孔里被植入名叫 “心灵之眼” 的晶片，只要一睁开眼，所见之物便会连接至云端，所有的行为都被监控和记录，执法机构可以随时调阅和查询。在街头行走的每一个人和物 都有数字化标识，作为警察的男主角欧文可以用眼睛直接读取普通市民的个人信息，包括对方的姓名、年龄、职业、身份等。在电影对未来监控社 会的想象中，人眼直接变成了摄像机，所看到的一切场景均可被记录、储存和读取。对个体的监控不仅来自这个个体所接触到的所有人，还来自个体自身所看到的外部世界。监控不仅限于个体的身份和行为，还延伸到对 大脑的控制。在这个令人窒息的社会里，虽然犯罪率降低，但人们从此失 去隐私，个体再无藏身之所。在影片最后，连警察本人也开始反思政府随 意调用个人的记忆是否合理合法。反对专制政府对个人的监控，捍卫个人 自由的基本价值，正是反乌托邦电影一以贯之的主题。

　　三、隐私通货: 从出售到购买

　　在 2018 年 3 月的中国发展高层论坛上，百度董事长兼 CEO 李彦宏表示: “中国人对隐私问题的态度更开放，也相对来说没那么敏感。如果他们可以用隐私换取便利、安全或者效率，在很多情况下，他们就愿意这么做。”⑦此言一出，立即引发了全社会的热议，央视还就此观点发表了评论文章 《谁说 “中国人愿意用隐私换便利”?》。但实际上李彦宏的话却道出了大数据时代的真相———隐私作为 “通货” ( currency) 是可以被交换和让渡的。“9·11 事件” 之后，为了防范恐怖主义袭击，美国和一些西方国家加大监控力度，隐私作为 “通货” 用来购买的是国家安全和个人的安全感; 智能手机的使用过程中，人们主动提供手机解锁的指纹、面部识别等个人信息， 则是用隐私 “通货” 来交换现代生活的各种便利。在法学界，美国的劳伦斯·莱斯格 ( Lawrence Lessig) 教授在 1999 年出版的 《代码: 塑造网络空间的法律》一书中系统提出了数据财产化的理论，认为应认识到数据的财 产属性，通过赋予数据以财产权的方式，来强化数据本身经济驱动的功能， 打破传统法律思维之下过度保护用户信息、限制数据流通的僵化格局。

　　个人隐私无疑是有经济价值的，但是在不同时期的科幻电影中却呈现不同的面貌。

　　其一，曝光隐私的主人公从被蒙骗到主动分享。在 《楚门的世界》里， 金·凯瑞扮演的楚门是一档热门连续剧的主人公，他生活了 30 年的小岛竟然只是一个巨型的摄影棚，从他出生之日起，他的日常生活就通过卫星传 送到全世界的电视上，24 小时永不间断的实时直播。在这个世界里，除了他自己，其余所有的一切都是道具或演员，包括他的父母、他的妻子、他 的朋友。最后，当楚门开始怀疑周围世界的真实性之后，他勇敢地逃脱了 这个虚假的世界。20 年前的楚门是因为被蒙骗才在电视真人秀节目里被观众窥视的，如今的我们却是自愿地在每一个社交平台上分享自己的生活细 节。在 2017 年的 《圆圈》里，女主人公 Mae 就职于一家名为 “圆圈” 的互联网科技巨头公司，该公司将人们的所有社交账号整合到一起，提供社交、 搜索、电子邮件、即时通信、购物等一站式的服务。“圆圈” 公司的一大准则就是 “分享即关爱”。于是与楚门截然不同的是，Mae 自愿加入公司的一项 “完全透明” 的互联网真人秀项目，她选择暴露在所有小的摄像机面前， 任何时间任何地点，就连上厕所都会有人询问她是否安好。如果说在楚门 的时代，人们还认为通过展示自己的日常生活来娱乐他人是奇怪的、令人 不适的; 今天的人们对社交网络的痴迷则是完全自愿的，甚至主动制造机会去吸引他人的注意力。

　　其二，隐私从可供出售发展到需要购买。在 《楚门的世界》里，楚门的隐私被曝光于世界，目的是通过满足观众的窥私欲而获得广告收入，但 在 2018 年的 《匿名者》里，每个人都生活在透明的世界里，如果想要保留一点隐私则需要花钱去购买，片中的女黑客就是专为那些希望抹掉不光彩 记忆的客户服务的。作为警察的男主人公虽然可以查看普通人的记忆，但 要查看重要人物则是需要上级授权的。这就意味着一种默认状态的改变: 个人隐私从隐蔽变成公开，隐私不再是有价值的，而保留隐私则需要付出 金钱或拥有特权。因此在电影 《绝对控制》中，从事 IT 工作的技术男说了一句意味深长的话: “隐私权不再是公民权，而是特权。” 从这个意义上说，大数据技术在带给人们安全和便利的同时，却有可能伤害平等的基本价值。

　　四、信任危机: 如果记忆可以删除

　　李普曼在 《公众舆论》里提到了 “虚拟环境” 的概念， “偶然的事实， 创造性的想象，情不自禁地信以为真，这三种因素便会产生一种虚假的现实，导致人们作出激烈的本能反映”。但是，人在虚拟环境中的表现，所产生后果的地方，“不是激发了那种表现的虚拟环境，而是行动得以发生的真实环境”。⑧换言之，媒介塑造了一个虚拟的环境，改变了我们对世界的认知 框架，进而通过我们的行动改变世界。

　　媒介不但通过塑造 “虚拟环境” 改变人类认知，还可以通过记录和传播这两条轴线跨越时空障碍，这对于人类隐私和社会控制都产生了重要影 响。早在古希腊时代，苏格拉底就对文字有了诸多批评: “口语几乎总是以单独的事情发生，只有参与讨论的当事人才私下里分享说话。与此相反， 文字容许各种奇怪的结对: 远者影响近者，死人对活人说话，许多人阅读本来给少数人看的东西。…… 记录下来就是放弃隐私控制权，就是放弃对象的明确性。” ⑨芒福德也指出，机器、城市和文明的起源和符号系统之间存在着强有力的关联性，文字的记录功能并不是偶然的， “这种将口头语言 转化为书面符号的方法，不仅使系统内的冲动和信息的传递成为可能，而 且留下白纸黑字的记录，以便在命令未能执行时追究责任。从历史上来看， 追究责任的记录和书面词语的出现，是为了掌握庞大的数字; 最早的文字并不是用于传播宗教思想或其他目的，而是用来记录神庙里的谷物、牲畜、 陶器、商品，记录贮存和开支的情况”。 ⑩当今的数字化技术越来越向着低成本、高效率的方向发展，科幻电影中的技术几乎能够对现实生活进行完 整复制。但这也提出一个问题: 谁能保证我们看到的和我们记录的世界是真实的?

　　许多影片都表现了这一主题。电影 《一九八四》中，真理部的工作就是销毁历史文件，这样人们就不可能了解真实的历史。在 《楚门的世界》里，楚门所生活的小岛就是一个由节目组所制造出来的虚假环境，楚门所 接触的所有事物都是人为制造的幻象。不过，即使所有的一切都只是道具 或者演员，楚门时代的人和物毕竟还是存在于物理世界的。而在 《匿名者》里，我们对事物的认知和记忆都取决于数字化记录。警察根据数据库里的 人们记忆存档来判定真相，而不相信对方的言行和自己的感受。虽然这种 办案方法使得犯罪率大幅度降低，但记忆存档却有可能被黑客修改甚至删 除。电影从反乌托邦的角度出发，将黑客的能力无穷放大，可以任意删改政府数据库中人们的记忆存档———从这个意义来说，也就可以随意篡改历史。但反讽的是，当女黑客为了证明自己的清白，调出自己的记忆给男主 人公看时，男主人公困惑地问道: “我怎么知道你给我看的记忆是真实的?” 女黑客也哑口无言。在 《匿名者》所塑造的未来世界里，人们依赖记忆来认识真相，但又无时无刻不在怀疑记忆的真实性。在这样一个隐私随时可 能被泄露、记忆随时可能被修改的社会里，人与人之间的信任也就便荡然无存了。

　　五、误认的未来: 如果未来可以预测

　　在 《意识形态的崇高客体》中，齐泽克借用拉康的语句告诉我们: “真理来自误认。” 然后对我们解释说:“所谓的历史必然性是通过误认形成的。”11 有两句话可以说明，当事人最后的结局都来自对命运的误认。首先，毛姆的戏剧 《谢佩》( “Sheppey”) 中有一个 《相约萨迈拉》的故事: 巴格达的一个商人，有一天他的仆人去市场上买食品时遇见了死神。为了逃避 死神，仆人借了主人的马准备远走他乡萨迈拉。可是死神却对商人说，我 今天在巴格达看见你的仆人时感到非常惊讶，因为我和他今天晚上在萨迈 拉有约。第二个故事是古希腊悲剧 《俄狄浦斯王》，它也有着同样的叙事结构。有人对俄狄浦斯的父亲预言，他的儿子将来会杀父娶母，这个预言借 助他父亲对这个预言的努力逃避而最终得以实现，一语成谶。换句话说， 一个人预先知道了自己未来的命运，想努力逃避，可结果恰恰是他对命运的逃避导致了自己最终的结局，应验了那本来不存在的命运。

　　科幻电影中似乎出现了同样的先知。影片 《少数派报告》描述了一个发生在公元 2054 年的故事。在华盛顿特区，“谋杀” 这类犯罪现象已经有 9 年没有发生过了，因为犯罪已经可以预知，而罪犯们在实施犯罪之前就会受到制裁———这与俄狄浦斯的父亲在儿子幼年将他抛弃的情节何其相似!司法部有专职的 “预防犯罪小组”，负责侦破所有犯罪的动机，从间接的意象到时间、地点和其他的细节。这些动机由 “预测者” 负责解析，然后构成定罪的证据。在这样的制度下，公众的一切言行都在监控之中，没有任 何隐私可言。人的发展和命运由机器来预测并决定。

　　但问题是，这种预测可能是错误的。影片让 “预防犯罪小组” 最忠诚的精英安德顿也被侦测出有犯罪企图，正是为了揭示这种侦测技术的邪恶。从安德顿自身的角度出发，他认为自己是无辜的，未来也不可能犯罪，可 是 “犯罪预知系统” 却宛如先知般预测了他的命运。以此类推，如果安德顿是无辜的，那么又怎能保证以往由这个系统对别人做出的定罪全都正确 呢? 于是安德顿只能从这个城市逃亡，并设法洗脱自己的罪名。影片借此提出了几个严肃的问题: 这种无视公众隐私权的 “犯罪动机预测” 技术能不能信赖? 根据动机给人定罪是不是合理? 能不能以 “预防犯罪” 为由侵犯公众隐私?

　　大数据或许可以预测某些发展趋势，但唯独不能预测人的命运。正如 好莱坞影片 《记忆裂痕》中的电脑工程师詹宁斯所说: “预测就像创造了一场人人都逃不掉的瘟疫，不论预测什么事，我们就会让它发生。” 他断言: “如果让人们预见未来，那么人们就没有未来; 去除了未知性就等于拿走了希望。” 对人们进行犯罪预测，就等于完全否定了人的自由意志，完全抹杀了人作为主体努力改变命运的可能性。

　　结语

　　在英国作家 E. M. 福斯特的中篇小说 《机器停止》中，反乌托邦地下世界的人类居民发现了 “机器”。虽然机器最初只是一种工具，服从它的人类主人; 但随着时间的推移，人类已经在舒适和欲望中悄悄地、自满地陷入颓废，只有机器在不断进步。随着机器的最初发明者死亡，了解机器功 能的人越来越少。修补装置时发生故障，最终机器本身也发生故障，并在没有任何警告的情况下停止运作，使人类丧命。然而其中一个角色观察到:“哦，明天，明天会有一些傻瓜再次启动机器! ”

　　福斯特的警示故事显然是一个寓言。它警告我们，当人类过于依赖技术来满足他们的需求时，可能发生隐私和人性丧失; 当人们对某种技术知之甚少时，社会得以维系的基本价值可能面临风险。当政府以国家安全为 名进行过度监控时，当人们狂热地在社交网站上分享自己的私生活时，当 隐私权不再是普通公民权而成为有钱人和权贵阶层的特权时，当人的命运 由机器来预测并决定时…… 个人的自由、平等、信任、尊严和自主性也就一并丧失了。正如儒勒·凡尔纳所说，“在科学技术的力量到达之前，我们 已经到达了那些世界”。西方科幻电影对于 “隐私终结” 社会的想象，让我们看到了大数据技术显现 “恶” 的可能性，这无疑为缺乏技术恐惧文化的中国社会敲响了警钟。

　　参考文献

　　1. 〔法〕卢梭: 《论科学与艺术》，何兆武译，商务印书馆，1963，第 11 页。

　　2. 刘科: 《技术恐惧文化形成的中西方差异探析》，《自然辩证法研究》2011 年第 1 辑

　　3. 〔英〕凯文·渥维克: 《机器的征途———为什么机器人能统治世界》，李碧等译，内蒙古人民出版社，1998，第 3 页。

　　4.〔法〕米歇尔·福柯: 《权力的眼睛: 福柯访谈录》，严锋译，上海人民出版社，1997，第 10 页。

　　5.〔法〕米歇尔·福柯: 《规训与惩罚》，刘北成、杨远婴译，三联书店，2003，第 197 页。

　　6.〔美〕马克·波斯特: 《第二媒介时代》，范静哗译，南京大学出版社，2005，第 121 页。

　　7.转引自王俊秀《数据监控、隐私终结与隐私通货》，《探索与争鸣》2018 年第 5 期。

　　8.〔美〕沃尔特· 李普曼: 《公众舆论》，闫克文、江红译，上海人民出版社，2006，第 11页。

　　9.转引自〔美〕彼得斯: 《交流的无奈》，何道宽译，华夏出版社，2003，第 32 页。

　　10.Mumford L. ，The Myth of the Machine: Technics and Human Development，New York: Harcourt Brace and World，1967，p. 192．

　　11.〔斯诺文尼亚〕斯拉沃热·齐泽克: 《意识形态的崇高客体》，季广茂译，中央编译出版社，2002，第 5 页。

　　编辑 | 程倪萱

　　责编 | 王佳樱