NLP模型中的句法和语义 | 周日直播·NeuroAI读书会
神经科学和人工智能领域的多位著名学者近日发表 NeuroAI 白皮书认为,神经科学长期以来一直是推动人工智能(AI)发展的重要驱动力,NeuroAI 领域的基础研究将推动下一代人工智能的进程。文章发表后引发热议:神经科学是否推动了人工智能?未来的人工智能是否需要神经科学?
本着促进神经科学、计算机科学、认知科学和脑科学等不同领域的学术工作者的交流与合作,集智俱乐部联合北京师范大学柳昀哲、北京大学鲍平磊和昌平实验室吕柄江三位研究员共同发起了,聚焦在视觉、语言和学习领域中神经科学与人工智能的相关研究,期待能够架起神经科学与人工智能领域的合作桥梁,激发跨学科的学术火花。
读书会线上进行,11月27日开始,每周日晚上19:00-21:00,持续时间预计10周。读书会详情及参与方式见后文。
分享内容简介
人工神经网络在许多需要高度语言技能的任务中都达到了与人类近似的水平,比如机器翻译等。这些工程应用上的成功引起了关于这些模型是否学会了跟人类似的语法和语义知识的广泛关注。本次分享将从两篇综述文章讨论关于语言中的句法和语义知识在深度学习语言模型中的体现。
分享内容大纲
1.句法
长距离一致性(long-distance agreement)
先天与后天的句法习得 (nature vs nurture)
2. 人工神经网络中的句法知识
文献解读:Syntactic structure from deep learning(作者信息 | 已有研究进展 | 研究综述)
3. 语义
分布语义 (distributional semantics)
组合语义 (compositional semantics)
4. 人工神经网络中的语义知识
文献解读:Semantic structure in deep learning(作者信息 | 已有研究进展 | 研究综述)
5. 总结与讨论
主要涉及到的知识概念
句法中长距离一致性(long-distance agreement)
词汇语义(lexical semantics)
组合语义(compositional semantics)
自然语言处理(natural language processing)
词向量(word embeddings)
预训练语言模型(pre-trained language models)
主讲人介绍
李吉星
2009年于北京师范大学获得学士学位,2019年于康奈尔大学获得博士学位,2018年-2022年在纽约大学阿布扎比分校从事博士后研究,2022年10月至今任香港城市大学助理教授。目前主要开展比较机器与人脑和动物脑处理语言的研究工作。
个人主页:https://jixing-li.github.io/
实验室主页:https://compneurolinglab.github.io/index.html
直播信息
时间
2023年1月8日(本周日)
晚上19:00-21:00
扫码参与,加入群聊,获取系列读书会回看权限,成为NeuroAI社区的种子用户,与社区的一线科研工作者与企业实践者沟通交流,共同推动NeuroAI社区的发展。
主要涉及到的参考文献
Linzen, T. and Baroni, M. (2021). "Syntactic Structure from Deep Learning." Annual Review of Linguistics 7(1): 195-212.
Pavlick, E-J (2022). "Semantic Structure in Deep Learning." Annual Review of Linguistics 8(1): 447-471.
NeuroAI读书会招募中
神经科学和人工智能领域的多位著名学者近日发表 NeuroAI 白皮书认为,神经科学长期以来一直是推动人工智能(AI)发展的重要驱动力,NeuroAI 领域的基础研究将推动下一代人工智能的进程。文章发表后引发热议:神经科学是否推动了人工智能?未来的人工智能是否需要神经科学?
本着促进神经科学、计算机科学、认知科学和脑科学等不同领域的学术工作者的交流与合作,集智俱乐部联合北京师范大学柳昀哲、北京大学鲍平磊和昌平实验室吕柄江三位研究员共同发起了,聚焦在视觉、语言和学习领域中神经科学与人工智能的相关研究,期待能够架起神经科学与人工智能领域的合作桥梁,激发跨学科的学术火花。
上一篇:457万人考研,会有46万人“弃考”?放弃的人比你想象得要多!
下一篇:@康驿镇广大有志青年:2023年征兵报名通道已开启,附报名流程图和各类政策!
最近更新网络教育
- 改善医疗服务 北京今年推出45个医务社工多元培育服务项目
- 德易车金融促成服务,让你不再与心爱的汽车失之交臂
- 华东院青年工程师参与第三届“问道自然”杯职业技能展示大赛载誉而归
- 成人高考没毕业有证书吗 学历作用
- 电大和夜大是什么教学方式呢
- 【引央企 有“冀”策】落户一家央企 壮大一个产业
- “艺·智”讲堂|人文讲堂(第十季第二讲):对联的智慧——例谈创作实践
- 台州市高层次人才交友联谊活动等你来报名!
- 截至9月末 那曲金融机构累计投放绿色贷款4.74亿
- 美媒将30队中锋分6档:火箭申京倒数 湖人浓眉2档 两人共享第1档
- 郑州都市圈致力打造辐射全国、链接全球的中部地区开放高地
- 与冠军同行扬体育精神:执信中学校运会冒雨竞技
- 广州高三要考体育!成绩将影响毕业,选卓越教育高考学校冲刺备考
- 朕匜,人类最古老的法律萌兽——文物里的法律故事①
- 昌乐一中在昌乐县2023年教职工乒乓球比赛中勇夺桂冠
- 凝心聚力 助推医疗保障高质量发展
- “学校家庭社会协同育人”城市模型在山东潍坊发布
- 答应我!金秋有龙江高校才最美!
- 从“网络靶场”驶过 :智能网联车安全测试方法论
- 教育优质均衡发展丨大冶市实验中学教联体让农村课堂“活”起来
- 学法减分20题库及答案,20题库及答案速成,轻松通过学法减分!
- 海外归国青年教师暨第七期骨干教师国情教育研修班顺利开班
- 市域产教联合体助力技术攻关
- 雅思口语历史人物话题
- 【政策解读】加格达奇区民政局惠民惠农财政补贴资金社会保障卡“一卡通”发放政策解读