GPT-4 很棒,但科学家们的想法似乎与大众不一样
人工智能公司 OpenAI 本周推出了 GPT-4,这是为其流行的聊天机器人 ChatGPT 提供支持的大型语言模型的最新版本。
该公司表示,GPT-4 包含重大改进——它已经以其创建类人文本并从几乎任何提示生成图像和计算机代码的能力震惊了人们。研究人员表示,这些能力有可能改变科学——但有些人感到沮丧的是,他们还无法获得该技术、其底层代码或有关其训练方式的信息。
科学家们表示,这引起了对该技术安全性的担忧,并使其对研究的用处降低。
1 被列为研究论文的作者?许多科学家不赞成
" 目前有一个等候名单,所以你现在不能使用它," 阿姆斯特丹大学的心理学家 Evi-Anne Van Dis 说。但她看过 GPT-4 的演示。" 我们观看了一些他们展示能力的视频,这令人震惊," 她说。
她回忆说,一个例子是一个网站的手绘涂鸦,GPT-4 用它来生成构建该网站所需的计算机代码,作为处理图像作为输入的能力的演示。
但是,科学界对 OpenAI 对模型的训练方式和训练数据及其实际工作方式的保密感到失望。" 所有这些闭源模型,它们本质上都是科学的死胡同," 开源 AI 社区 HuggingFace 专门研究气候的研究科学家 Sasha Luccioni 说。" 他们可以继续他们的研究,但对于整个社区来说,这是一条死胡同。"
2 " 红队 " 测试
罗切斯特大学的化学工程师安德鲁 · 怀特 ( Andrew White ) 以 " 红队队员 " 的身份获得了使用 GPT-4 的特权:
OpenAI 雇用一名人员来测试该平台,试图让它做一些不好的事情。他说,在过去的六个月里,他一直在使用 GPT-4。与之前的迭代相比," 在流程的早期,它似乎并没有什么不同 "。
他向机器人询问制造化合物需要哪些化学反应步骤、预测反应产率以及选择催化剂。" 起初,我实际上并没有留下深刻的印象," 怀特说。" 这真的很令人惊讶,因为它看起来很逼真,但它会在这里产生一个原子的幻觉。它会在那里跳过一步," 他补充道。
但是,作为他的红队工作的一部分,当他允许 GPT-4 访问科学论文时,情况发生了巨大变化。" 这让我们意识到这些模型可能并没有那么好。但是当你开始将它们连接到 Internet 上,使用诸如逆合成计划器或计算器之类的工具时,突然之间,就会出现新的能力。"
伴随这些能力而来的是担忧。例如,GPT-4 是否允许制造危险化学品?怀特说,根据怀特等人的意见,OpenAI 工程师将反馈反馈到他们的模型中,以阻止 GPT-4 创建危险、非法或破坏性的内容。
3 输出虚假信息
输出虚假信息是另一个问题。Luccioni 说,像 GPT-4 这样的模型,可以预测句子中的下一个单词,无法治愈产生虚假事实——称为幻觉。" 你不能依赖这些模型,因为有太多的幻觉," 她说。
这在最新版本中仍然是一个问题,尽管 OpenAI 表示它提高了 GPT-4 的安全性。
在无法访问用于训练的数据的情况下,OpenAI 对安全的保证对 Luccioni 来说是达不到要求的。" 你不知道数据是什么。所以你不能改进它。我的意思是,用这样的模型做科学研究是完全不可能的," 她说。
GPT-4 是如何训练的谜团也是 Van Dis 在阿姆斯特丹的同事、心理学家 Claudi Bockting 关心的问题。" 作为一个人,很难对你无法监督的事情负责," 她说。" 其中一个担忧是,它们可能比人类自身的偏见要严重得多。" Luccioni 解释说,如果无法访问 GPT-4 背后的代码,就不可能看出偏见可能起源于何处,也无法对其进行补救。
4 伦理讨论
Bockting 和 Van Dis 还担心这些人工智能系统越来越多地被大型科技公司拥有。他们希望确保该技术得到科学家的适当测试和验证。" 这也是一个机会,因为与大型科技公司的合作当然可以加快流程," 她补充道。
Van Dis、Bockting 和他的同事在今年早些时候提出,迫切需要制定一套 " 实时 " 指南来管理人工智能和 GPT-4 等工具的使用和开发方式。他们担心任何围绕人工智能技术的立法都将难以跟上发展的步伐。Bockting 和 Van Dis 于 4 月 11 日在阿姆斯特丹大学召开了一次邀请性峰会,与来自教科文组织科学伦理委员会、经济合作与发展组织和世界经济论坛等组织的代表讨论这些问题。
怀特说,尽管存在担忧,但 GPT-4 及其未来的迭代将撼动科学。" 我认为这实际上将是科学领域的巨大基础设施变革,就像互联网是一个巨大的变革一样," 他说。他补充说,它不会取代科学家,但可以帮助完成一些任务。" 我认为我们将开始意识到我们可以将我们使用的论文、数据程序、图书馆与计算工作甚至机器人实验联系起来。"
原文标题:GPT-4 is here: what scientists think
本期图片均来源于 Google
上一篇:招1100+人!三亚最新一波招聘来了
下一篇:原创2023年江苏资讯:这么样才能考研的时候能保持身心健康?|考研有通关宝典吗?
最近更新高等教育
- 常州春江街道:凝聚银发力量 为高质量发展添彩助力
- 【重阳警营】长大后,我成为了您
- “上海奶奶”沈翠英离世 曾捐450万元建小学 家人称将传承其爱心
- 没有高中毕业证能参加成人高考吗
- 北京城建集团高质量共建“一带一路”
- 17场活动走进高校,“大学生戏剧周”助学子看见世界
- 澳大利亚硕士留学一年制的大学
- 9月豪华SUV销量盘点!销冠是奥迪Q5L,销量前五中有三台理想
- 安信信托原董事长王少钦被终身取消金融机构高管任职资格 公司已更名为建元信托
- 邵东市周官桥乡:深化“一月一课一片一实践”,让组织生活走实走心
- 浙江师范大学附属小学积极倡导清廉文化,引导学生树立廉洁意识
- 重磅!2024年度泰晤士世界大学学科排名公布
- 云南2018年自学考试报考须知
- 期货供需形势分析,多品种短期震荡有望回落,唯尿素仍坚挺
- 高淳建发集团国邦公司圆满完成省住建厅考核
- 自考学习形式有哪几种?
- 提升凝聚力 助力新发展
- 从“印象”到“画像”
- 国考报名截止!这些岗位为何“零报考”?
- 播出预告丨上海市奉贤区教育学院附属实验小学:劳动教育也需要创新
- 正在阅读:崩坏星穹铁道金人旧巷市廛喧活动攻略 崩坏星穹铁道金人旧巷市廛喧活动怎么
- 【“双争”进行时】社团活动乐趣多 百花齐放展风采
- 「网络防诈」警方解读:各类诈骗的特点汇总!电信网络诈骗的四大误区!
- 2023年下半年中小学教师资格考试面试报名将于11月8日开始
- 鹭卓玩游戏助跑成绩无效,赵一博与兄弟汇合上演套路与反套路!