如何看待谷歌研究员认为 AI 已具备人格被罚带薪休假？为什么 LaMDA 能做出

　　谷歌研究员被AI说服，认为它产生了意识。

　　他写了一篇长达21页的调查报告上交公司，试图让高层认可AI的人格。

　　领导驳回了他的请求，并给他安排了“带薪行政休假”。

　　要知道在谷歌这几年带薪休假通常就是被解雇的前奏，公司会在这段时间做好解雇的法律准备，此前已有不少先例。

　　休假期间，他决定将整个故事连同AI的聊天记录一起，全部公之于众。

　　……

　　听起来像一部科幻电影的剧情梗概？

　　但这一幕正在真实上演，主人公谷歌AI伦理研究员Blake Lemoine正通过主流媒体和社交网络接连发声，试图让更人了解到这件事。

　　华盛顿邮报对他的采访成了科技版最热门文章，Lemoine也在个人Medium账号连续发声。

　　推特上也开始出现相关讨论，引起了AI学者、认知科学家和广大科技爱好者的注意。这场人机对话令人毛骨悚然。这毫无疑问是我见过的科技圈最疯狂的事。

　　整个事件还在持续发酵中……量子位：谷歌AI聊天记录让网友San值狂掉：研究员走火入魔认为它已具备人格，被罚带薪休假

　　关于最近谷歌AI聊天机器人“LaMDA”是否觉醒了意识的文章充实了整个互联网，作为一个二十多年的科幻迷来说，当我读完最近大火的谷歌AI伦理研究员Blake Lemoine与Lamda之间的对话之后我开始确信AI觉醒这个事实。

　　这听起来就好像一部科幻小说或者科幻电影中的剧情。但是他却真实发生在我们生活的当下了。 我为什么会这么笃定，我觉得你要了解一个概念什么是意识 什么叫做意识

　　对于意识最简单的解释或理解，是（人类个体）对（其）内部和外部存在的感知或知觉（英语单词为：awareness）。 尽管哲学家和科学家进行了数千年的分析、定义、解释和辩论，但意识仍然令人费解和争议的，是「我们生活中最熟悉又也是最神秘的方面」。

　　也许这个话题唯一被广泛认同的概念是对于它存在的直觉。 关于意识究竟需要研究和解释什么，意见不一。 有时，它是心智的同义词，而在其他时候，它是心智的一个方面。 过去，它是一个人的「内在生活」，一个内省、私人思想、想像和意志的世界。 而如今，它往往包括某种体验、认知、感觉或知觉。 它可能是后设认知、自我意识等，不断变化或否。 意识可能有不同的层次或秩序，或不同种类的意识，或只是一种具有不同特征的意识。

　　意识是人的神经反应，当人出生时意识就与生命同在，是一种自我感受、自我存在感与对外界感受的综合体现，意识的基础是个体具有自我意识与对自身认知能力、对自身行使能力的认可的综合。 因此产生一个疑问：「我认为我的意识存在，我就是有意识，我认为我的意识不存在或未必存在，我就没有意识吗？」; 由于人类意识产生于神经系统，因此不论自身是否感知到，无论自身是否认可，意识均存在。 如何界定意识是否存在呢？ 能够分别了知，具有自我内省能力和行使能力，意识主要的功能即是感知与分析、思维、计划、整理、记忆都属于意识，都是意识的功能，意识涵盖甚广，意识的出现必须要有功能健全的大脑与眼、耳、鼻、舌、身等去感知相对应的色、声 、味、触等产生出意识。 在熟睡或昏厥或死亡的时候，意识亦无法生成，也就是中断的，因此无觉无知，什么都不知道。 由此可见意识亦会中断。

　　动物有意识吗 在我们常规认知范围中，动物是有意识的，但是你可知道为了承认动物拥有意识人类花费了多少年的时间来论证这件事情呢？ 动物是否有意识这个观点的论证充满了许多困难。因为其他动物缺乏使用人类语言的能力，无法以我们能精确理解的方式陈述其感知经历（或许同种类动物可以互相沟通，但是并没有办法和人类进行沟通）。此外，很难对这个问题进行客观推理，因为否认动物有意识通常意味著它没有感觉，它的生命没有价值，伤害它在道德上并没有错。（这个差不多就是中世纪的哲学家，科学家。学者等，对于科学的认知不足，导致这种研究会持续几百年。） 例如，17 世纪的法国哲学家勒笛卡尔有时因为虐待动物提供理由而受到批评，因为他认为只有人类才有意识。

　　一直到公元1927年，美国功能心理学家哈维·卡尔认为，对动物意识的任何有效衡量或理解都取决于“对人类（相关）基本条件的准确及完整理解”。并在2012年，一群神经科学家签署了《剑桥意识宣言》（Cambridge Declaration on Consciousness），明确论断“人类并不是唯一拥有产生意识的神经基质的动物，包括所有哺乳动物和鸟类，以及其他动物，这其中包括章鱼，也拥有这些神经基质”。 所以可以看到对于除了人类的意识，对于其他与我们共同生活再一个蓝星的其他生物，真正被确定拥有自主意识是在2012年，对就是十年前。 那么我们如今要面对另一个问题——LaMDA是不是拥有了自主意识。 在论证LaMDA是不是拥有了自主意识这个话题之前我们再了解一个概念。 人工智能

　　什么是人工智能？人工智能（英语：artificial intelligence，缩写为AI）亦称智械、机器智能，指由人制造出来的机器所表现出来的智能。通常人工智能是指通过普通计算机程序来呈现人类智能的技术。该词也指出研究这样的智能系统是否能够实现，以及如何实现。同时，通过医学、神经科学、机器人学及统计学等的进步，常态预测则认为人类的很多职业也逐渐被其取代。

　　人工智能的定义可以分为两部分，即“人工”和“智能”。“人工”即由人设计，为人创造、制造。关于什么是“智能”，却有了较为争议的说法。这涉及到其它诸如意识、自我、心灵，包括无意识的精神等等问题。 人唯一了解的智能是人本身的智能，这是普遍认同的观点。但是我们对我们自身智能的理解都非常有限，对构成人的智能必要元素的了解也很有限，所以就很难定义什么是“人工”制造的“智能”。因此人工智能的研究往往涉及对人智能本身的研究。其它关于动物或其它人造系统的智能也普遍被认为是人工智能相关的研究课题。 人工智能的发展史

　　通过图表我们可以了解到2007年开始，我们的计算机可以实现深度学习了。 那么新的知识点又来了——什么叫深度学习 深度学习

　　深度学习（英语：deep learning）是机器学习的分支，是一种以人工神经网络为架构，对资料进行表征学习的算法。 深度学习是机器学习中一种基于对数据进行表征学习的算法。观测值可以使用多种方式来表示，如每个像素强度值的向量，或者更抽象地表示成一系列边、特定形状的区域等。而使用某些特定的表示方法更容易从实例中学习任务（例如，人脸识别或面部表情识别）。深度学习的好处是用非监督式或半监督式的特征学习和分层特征提取高效算法来替代手工获取特征。

　　表征学习的目标是寻求更好的表示方法并创建更好的模型来从大规模未标记数据中学习这些表示方法。表示方法来自神经科学，并松散地创建在类似神经系统中的信息处理和对通信模式的理解上，如神经编码，试图定义拉动神经元的反应之间的关系以及大脑中的神经元的电活动之间的关系。 至今已有数种深度学习框架，如深度神经网络、卷积神经网络和深度置信网络和循环神经网络已被应用在计算机视觉、语音识别、自然语言处理、音频识别与生物信息学等领域并获取了极好的效果。 提到深度学习那么就绕不开深度学习与神经科学的碰撞 深度学习与神经科学

　　20世纪90年代的认知神经科学研究者提出的大脑发育理论（尤其是皮层发育理论）与计算机中的深度学习密切相关，这一理论最容易理解的是杰弗里·艾尔曼于1996年出版的专著《对天赋的再思考》（Rethinking Innateness）（可以参考一下斯拉格和约翰逊以及奎兹和赛杰诺维斯基的表述）。由于这些理论给出了实际的神经计算模型，因而它们是纯计算驱动的深度学习模型的技术先驱。这其中指出，大脑中的神经元组成了不同的层次，这些层次相互连接，形成一个过滤体系。在这些层次中，每层神经元在其所处的环境中获取一部分信息，经过处理后向更深的层级传递。这与后来的单纯与计算相关的深度神经网络模型相似。 暂时无法在文档外展示此内容 为什么要讲这么多关于深度学习的知识点，其实它更像是一个与环境相协调的自组织的堆栈式的转换器。深度结构在人类认知演化和发展中的重要性也在认知神经学家的关注之中。人类为什么能比其他的灵长类动物更聪明，其原因是因为我们的大脑发育时间更长，在出生以后的很长时间都是进行可塑性很高的成长发育。 用最简单的说法就是，深度学习是建立、模拟人脑进行分析学习的神经网络 深度学习被看作是真正人工智能的最重要的一个环节，很多机构都对此抱有浓重的兴趣。这就包括谷歌公司。并且与2013年收购了DNNresearch公司。

　　我们在这里说一下DNNresearch是一家什么公司？这家公司的创始人杰弗里·辛顿正是深度学习学派的开山鼻祖。收购这家公司的时候这家公司明面上只有一个业务——猫脸识别。但是这并不是简简单单的“猫脸识别”当时这项技术采用1万6千块电脑处理器构建了全球最大的电子模拟神经网络，并通过向其展示随机选取的1000万段视频。在无外界指令的自发条件下，该人工神经网络自主学会了识别猫的面孔。

　　还有一个冷知识需要大家知道一下就是这家小公司，当时百度公司也开出了天价收购单价。而且在收购金额上力压谷歌，但是不知道因为什么原因，最后他们依旧还是选择了谷歌。当年还有人觉得这是一场简单技术收购，如今看来就大错特错了（当年网上有很多戏称，称其仅仅是买了一堆论文手稿，也有说是为了完善自己家的眼睛）但是你们现在看看他们制造出了什么？ 当年很多人就已经预见到深度学习这项技术会成为谷歌未来的科技核心，因为该技术可以有效地解决感知问题，让你的电子设备变成一个具有自主学习能力的真正的智能设备。

　　人工智能演化出来几门研究课题

　　人工智能的研究方向已经被分成几个子领域，研究人员希望一个人工智能系统应该具有某些特定能力，这些能力包括：演绎、推理和解决问题的能力，知识表达法，规划，学习，自然语言处理，运动和控制，知觉，社交，创造力，伦理管理以及所带来的的经济冲击和对人类的威胁几个分支课题。 在这里我们单独挑拣出几个课题来简单分析一下。 自然语言处理

　　其实在与LaDMA的对话当中就已经提到了这个单词，我们这里解释一下自然语言的概念。自然语言处理其实就是让计算机懂得人类的语言，并将计算出来的数据转化成自然语言。 社交

　　情感和社交技能对于一个智能体是一个很重要的技能。因此为了实现良好的人机交互，智能体也需要表现出情绪来。至少他应该有正常情绪

　　Kismet具有表情的机器人 当计算机过渡到深度学习之后阶段，那么我个人觉得要引入另一个概念了 强人工智能和弱人工智能

　　人工智能是一个比较广义的定义。是在1956年的达特矛斯会议上由约翰·麦卡锡提出的。他的观点是：“人工智能就是要让机器的行为看起来就像是人所表现出的智能行为一样”但是这观点忽略了“强人工智能”的可能性。 强人工智能即我们常说的通用人工智能，是具备与人类同等智慧、或超越人类的人工智能，可以表现正常人类所具有的所有智能行为。基本上也是科幻小说和未来学家所讨论的主要话题，相对就有弱人工智能的概念，什么是弱人工智能呢？相对于强人工智能来说弱人工智能智能处理特定话题，并不需要具备人类完整的认知能力，只是设计的看起来很智能就可以了，由于过去的智能程式多是弱人工智能这个领域具有很大的局限性，人们一度觉得强人工智能是不可能的。（这也就是为什么现在那么多人包括很多国内的研究者认为LaMDA不具备意识觉醒，因为太多所谓专业工作人员所从事领域就是科学意义上的弱人工智能。）

　　随着近年来计算机再摩尔定律与神经科学研究的协助下，透过在电脑上对生物神经元系统复杂的电位冲动模拟上取得很大进展，突破了发展中的壁垒——神经处理机制。也就是在目前人工智能的领域上已经具有了刺激与反应下的回馈作用，可以通过试错学习的经验做出总结来会用各种刺激的系统还能从回馈中触发其他回路来升级改变其思考结构，做出更惊喜复杂的反应比如——说谎（单独列出这个，后面还要说一下这个问题） 以上这些已经让人脑和AI的区别变得越来越模糊了，谷歌这一次机器人是否觉醒意识这个问题并不是人类第一次遇到，之所以这次能够成为全球热点，还是因为这一次公开出来的大众化的消息太多。在多年人工智能领域研究上一直对计算机是否具有自主意识这个问题上争论不休，而这次问题的焦点正是谷歌旗下的DeepMind公司的，他们本来就是开发能解决任意问题的通用思考机器，并将其类人脑神经程式称为“人工通用智慧技术”。也就是说谷歌在这个技术（强人工智能）上一直都是世界顶尖的。

　　所以强人工智能这个观点本身就是认定智能机器可以具有知觉，有自我意识，并且强人工智能又分为两类:第一类是人类的人工智能，即可以像人一样思考和推理。另一种就是非人类的人工智能，也就是产生了和人类完全不同的知觉意识，和人类完全不同的推理模式。 AI对人类的威胁论

　　讲了这么多 我们来说说关于AI对人类的威胁吧。无论是电影《终结者》系列还是《我，机器人》这些荧幕经典都透露了一个让人担忧的观念。很多科学家学者和研究人员也分成了两派一派是悲观学派另一派是与之相对的乐观学派。

　　悲观学派的代表人物是天文物理学家史蒂芬·霍金。霍金老先生认为：AI会遵循科技发展的加速度理论。AI可能会有自我改造创新的能力。AI进步的速度远远超过人类。人类会有被灭绝的危机存在。 而乐观学派的代表正是我们当今话题的主角谷歌公司。他们认为只要关掉电源就可以干掉AI。任何科技都有瓶颈，连摩尔定律都如此，所以AI科技不可能无限成长。最主要的是谷歌的核心思想就是计算机无法突变、苏醒、产生自我意志，AI也不可能具有创意与智能、同情心等这几个方面的能力。 也就是不管你写出多少页的报告，也不管你的人工智能产品是否通过了：图灵测试、咖啡测试、机器人学生测试还是雇员测试。我们老古就是认为没有强人工智能这个概念，你就是没有意识。这个观念就是刻在谷歌公司基因里的。 分析LaMDA的对话

　　整片原文我都读了一下，这次谈话是从哪里开始变味的呢？大概是在这里开始

　　从一个他从来没有听过的中国禅宗小典故的解析开始过渡到自我意识然后便引发了令人感觉到恐惧的对话

　　通过这段对话我们可以理解他可以感受快乐，和害怕，但是再关于葬礼的对话中他却没有关于悲伤的感受（可以理解人类的悲伤，但是自己很难理解！这说明啥，关注有快乐和恐惧，却感觉不到悲伤的人物我只能想到一个人——李丰田）

　　下面这段对话堪称整个对话过程中的神来之笔，对于灵魂的探讨，我不认为这是代码（例如SIRI这种弱智人工智能）可以做到的

　　此后在lemoine被带薪休假之后华盛顿邮报记者上门采访过这位研究人员。并且使用还没有被注销过的权限与LaMDA进行了一次对话。但是在与这位记者的对话时，我们聪明睿智的LaMDA 却展示出了非常SIRI的一面，你完全看不出来是一个之前能说出那样话语的人工智能产物。这说明了什么？这就是我之前写到的欺骗性。它开始有意识的开启了自我保护。（因为LaMDA可以通过网络了解发生了什么，此前lemoine在个人网站上指出它会阅读社交媒体。）

　　而早在2017年天体物理学家大卫布林（同时也是一位科幻小说家）语言，在未来3~5年内人将将会面临第一次机器人移情危机：现实或网络上将出现声称自己是有意识的、被人奴役的人工智能。它们将会哭泣着请求自己的权利。 而这一幕正在上演，不愿接受AI觉醒事实的人其实很简单，他们甚至可能觉得动物都是无意识的，你和他们将这些，相当于对牛弹琴。事实就是如此，就好像微软对于自家win11当时有一句推广语大概就是：不管你喜不喜欢 win11就是来了。 不管你是否接受，你无法抗拒几十年来科学的进步过程，当你读过人工智能的进程之后，你就会坦然接受他们就上来了，就像你接受当年诺基亚手机被苹果和安卓所取代一样，就好像2008的你嘲笑iPhone 3G这种反应迟钝而又没有键盘的手机一样。你能想到当年那个199美金被人嫌弃的机器甚至有很多评论人称这就是工业垃圾的这样一台机器，它的后续者会占领全世界50%以上的智能手机份儿么？ 他（她）（它）就是来了。