AI 之父 Hinton 警告 AI 的危险、后悔毕生从事的工作！

　　“回头看看五年前的情况和现在的情况。这种差异在以后只会越来越大。太可怕了。”

　　

　　素以研究神经网络而闻名的 AI 先驱 Geoffrey Hinton 近日已从谷歌辞职，开始公然畅谈 AI 的危险。

　　75 岁的 Hinton 是加拿大多伦多大学的计算机科学教授，曾任谷歌任职首席研究员，早在神经网络流行之前就开始研究它们了。

　　他花了数十年时间来开发新颖的 AI 算法和架构，并设计了训练模型和处理数据的技术。他的研究工作为当下的机器学习热潮铺平了道路。

　　2018 年，他与蒙特利尔大学计算机科学教授 Yoshua Bengio 和 Meta 首席 AI 科学家 Yann LeCun 一起获得了著名的图灵奖，该奖项表彰他们在深度学习领域所做的杰出工作。

　　

　　Hinton 表示上个月已从谷歌辞职，现在他对自己在这个领域毕生从事的工作多少感到后悔。

　　他对《纽约时报》表示：“我用这个平常的借口安慰自己：要是我没有这么做，别人也会这么做。”

　　Hinton 表示，他越来越担心AI的风险，尤其是在谷歌开始研制和推出自己的互联网搜索聊天机器人界面 Bard 、欲与微软基于机器学习的 Bing 一较高下之后更加忧心忡忡。

　　微软似乎从 OpenAI 手里接过了聊天机器人这只球，玩得很溜，在其软件帝国大肆宣传这项技术以便给网民留下深刻印象，并迫使谷歌不情愿地扮演追赶者的角色，至少在我们看来是这样。

　　尽管谷歌发明了 Transformer 架构，并在后台广泛使用机器学习，似乎并不确定这项技术对全世界带来怎样的积极影响，但这个搜索领域之王仍然热衷于表现出自己没有落伍的样子。

　　正如 Hinton 所说，商业利益推动了公司之间的激烈竞争，并不可避免地推动技术进步、使其进入日常生活，从而难以评估其对社会的影响。

　　他说：“回头看看五年前的情况和现在的情况。这种差异在以后只会越来越大。太可怕了。”

　　Hinton 补充道，生成式 AI 工具让任何人都可以轻松创建虚假的图像、文本、视频和音频，人们在互联网上再也无法辨别真假。

　　他表示，这些类型的模型还可以按指令编写代码，并且它们可以在未来自主运行自己的程序。

　　他认为，如果任由其发展，这项技术有一天可能会创造出对人类有害的软件和机器，即所谓的杀手机器人。

　　他说：“这种技术实际上可以变得比人更聪明，有一小撮人相信这一点。但大多数人认为这一幕还很遥远。我过去认为它还很遥远。我认为30年、50年甚至更久后才会看到这一幕。很显然，现在我不再这么认为了。”

　　他认为，如今的机器学习工具正部署在各行各业，主要影响白领岗位。分析师们预测此类模型将提高员工和公司的生产力；该技术有望在创造新岗位的同时淘汰岗位。Hinton 表示，AI “消除了苦差事”，但 AI 对劳动力大军造成的冲击“远不止这么简单”。

　　Hinton 表示，他离开谷歌是为了在不惹恼雇主的情况下可以畅谈 AI 的危险，并认为这家硅谷巨头“表现得非常负责任”。

　　

　　在今天出版的《纽约时报》中，文章作者 Cade Metz 暗示我离开谷歌是为了可以抨击谷歌。实际上，我离开谷歌是为了可以公然畅谈 AI 的危险，而不必考虑这对谷歌会有怎样的影响。谷歌表现得非常负责任。