百度CTO王海峰:文心加飞桨,翩然赴星河
8月16日,由深度学习技术及应用国家工程研究中心主办的WAVE SUMMIT深度学习开发者大会2023在北京举行。百度首席技术官、深度学习技术及应用国家工程研究中心主任王海峰做了主题演讲。王海峰表示,大语言模型具备了理解、生成、逻辑、记忆等人工智能的核心基础能力,为通用人工智能带来曙光。
飞桨开发者数已达800万 模型数超80万
WAVE SUMMIT深度学习开发者大会始于2019年4月。王海峰在首届大会上提出,深度学习具有很强的通用性,并具备标准化、自动化和模块化的工业大生产特征,推动人工智能进入工业大生产阶段。四年来,深度学习技术和应用的发展充分验证了这一观点。深度学习技术的通用性越来越强,深度学习平台的标准化、自动化和模块化特征越来越显著,而预训练大模型的兴起,使得人工智能应用的深度和广度进一步拓展。人工智能已进入工业大生产阶段。
标准化方面,框架和模型联合优化,多硬件统一适配,应用模式简洁高效,大幅降低人工智能应用门槛;自动化方面,从训练、适配,到推理部署,提升人工智能研发全流程效率;模块化方面,丰富的产业级模型库,支撑人工智能在广泛场景的便捷应用。
据了解,得益于飞桨产业级深度学习开源开放平台和文心大模型的互相促进,飞桨生态愈加繁荣,已凝聚800万开发者,服务22万家企事业单位,基于飞桨创建了80万个模型。王海峰阐释了飞桨开发者社区AI Studio中文名“星河社区”的隽永含义,“文心加飞桨,翩然赴星河”。和所有的开发者一起,在飞桨和文心的加持下,共建星河社区,共赴通用人工智能的星辰大海。
大语言模型为通用人工智能带来曙光
王海峰表示,人工智能具有多种典型能力,理解、生成、逻辑、记忆是其中的核心基础能力,这四项能力越强,越接近通用人工智能,而大语言模型具备了这四项能力,为通用人工智能带来曙光。
具体而言,人工智能的典型能力如创作、编程、解题、规划等都依赖于理解、生成、逻辑、记忆等核心基础能力,依赖程度有所不同。以解题为例,从读懂题目、解答题目到最后写出答案,需要理解、记忆、逻辑及生成能力的综合运用。
如何获得这些能力呢?以文心一言为例,首先从数万亿数据和数千亿知识中融合学习得到预训练大模型,在此基础上采用有监督精调、人类反馈的强化学习和提示等技术,并具备知识增强、检索增强和对话增强等技术优势。
进一步地,通过多种策略优化数据源及数据分布、基础模型长文建模、多类型多阶段有监督精调、多任务自适应有监督精调、多层次多粒度奖励模型等技术创新,全面提升基础通用能力。在检索增强和知识增强的基础上,通过知识点增强,提升对世界知识的掌握和运用;通过大规模逻辑数据构建、逻辑知识建模、多粒度语义知识组合以及符号神经网络,提升逻辑能力;通过构建数据、内容、模型和系统安全的全面安全体系,保障大模型的安全性。
效率方面,通过飞桨端到端自适应混合并行训练技术以及压缩、推理、服务部署的协同优化,文心大模型训练速度达到原来的3倍,推理速度达到原来的30多倍。
应用方面,通过数据驱动、提示构建,以及插件增强进行场景适配,协同优化。文心一言已上线百度搜索、览卷文档、E 言易图、说图解画、一镜流影五大插件,使模型具备生成实时准确信息、长文本摘要和问答、数据洞察和图表制作、基于图片的创作和问答、文生视频等能力。插件机制扩展了大模型能力边界,更适应场景需要。王海峰表示,未来百度将与开发者共建插件生态,共享技术创新成果。
以大语言模型为代表的人工智能正在深入千行百业,加速产业升级和经济增长。在这个进程中,技术创新和应用落地形成良性循环,理解、生成、逻辑、记忆等能力持续提升,产业应用的广度和深度持续拓展,大语言模型为通用人工智能带来曙光。
(编辑:吴双)
上一篇:铜陵市中职学校教师接受集中培训 吹响新学年工作“集结号”
下一篇:禾赛Q2财报:营收交付均创新高,经营现金流再度为正
最近更新远程教育
- 澳洲传媒专业分类
- 均胜电子获“蔚来质量卓越合作伙伴”奖
- 温差12℃!菏泽天气马上反转!
- 山东这三个家族进入2023胡润百富榜前100名
- 永定区:百舸争流绽芬芳 体育赛课促成长
- 花钱就能免试读博士?马鞍山一女硕士被骗12万元
- 国家级外贸转型升级基地魅力何在?海珠服装产业链转移考察团二次走进新塘
- 九九重阳 孝润童心 郑州市实验幼儿园开展重阳节主题活动
- 浪潮信息业绩失速股价受挫 国内算力景气度提升有望打开增量
- 凌晨三点上岗接驳,烟台公交集团顺利“跑完”烟台马拉松
- 中航大探索定向就业招生新模式 着力提高人才培养契合度
- 工匠精神融入高校课程体系的逻辑与策略
- 自考本科需要考多久?
- 郑州都市圈建设迈入新阶段 中原出“圈”再出发
- 行政人员“卡壳”高校教师资格证 职业晋升瓶颈待解
- 起猛了!这是“银角大王”在上课吧
- 物业服务哪家强?来普陀这场比武练兵中找答案
- 战火下加沙一大学的助教:在炮火中开设中文班,缓解孩子们的恐惧
- 原创世界羽联最新排名 翁泓阳上升三位
- 哈六中被授予全国中学生科普科幻作文“优秀生源基地”
- 山西聚焦“百亿工程”目标 推动高等教育高质量发展
- 全力打赢重点产业链攻坚战
- 大专学历可以直接报考中级会计师吗?
- 13国官员学者共议新时期高质量共建“一带一路”
- 金华周记(2023.9.25-10.1)