大数据驱动的人工智能 ｜ 张江教授新课上线

　　

　　课程简介

　　理解人类语言、创作艺术品、下围棋、蛋白质结构预测、新质子模型的发现、辅助数学定理证明，所有这些不同领域的难题都正在被新兴人工智能技术逐一攻破。人工智能， 特别是以大数据、机器学习、神经网络等技术为主体的智能技术，近年来获得了迅猛的发展，它正在与各个学科发生交叉、融合，逐渐演化为一种解决各种复杂系统问题的跨学科方论，成为支撑复杂系统分析与建模的重要新兴技术。

　　本课程面向具有一定理工科背景和编程技术基础的学生，全面介绍基于大数据技术驱动为主的人工智能技术的最新进展，包括但不限于：神经网络、深度学习、强化学习、因果推断、生成模型、语言模型、面向科学发现的AI等前沿领域。希望学员能够在本课程的学习过程中了解数据驱动的人工智能最新方法、技术和前沿发展情况，同时通过一定的课程项目实践，能够具备利用人工智能解决复杂问题的实操、编程能力。

　　课程大纲

　　课序

　　主题

　　主要内容

　　1

　　大数据与人工智能简介（免费）

　　（1）介绍人工智能简史及其流派；

　　（2） 大数据人工智能技术的兴起与前沿进展；

　　（3）应用举例：ChatGPT、蛋白质折叠预测等。

　　2

　　自动微分与PyTorch编程（免费）

　　（1）介绍什么是自动微分技术，它的应用场景包括哪些；

　　（2）介绍PyTorch自动微分编程平台；

　　（3）应用Pytorch举例。

　　3

　　机器学习的基本概念（免费）

　　（1）什么是机器学习？机器学习的简单分类有哪些？机器学习的基本步骤有哪些？机器学习的性能评估；

　　（2）机器学习中的常见问题；

　　（3）简单前馈神经网络与反向传播算法介绍。

　　4

　　常见神经网络架构（免费）

　　（1）前馈神经网络、卷积神经网络、循环神经网络等基本常见神经网络架构与编程实践；

　　（2）图像处理与自然语言处理中的分类问题与实践；

　　（3）数据处理的基本方法。

　　5

　　表示学习与迁移学习

　　（1）表示学习；

　　（2）表示学习与迁移学习；

　　（3）预训练与迁移学习；

　　（5）图像的迁移学习举例；

　　（6）词向量技术与应用简介。

　　6

　　从深度神经网络到Neural ODE

　　（1）常微分方程求解的数值算法；

　　（2）残差网络；

　　（3）Neural ODE原理；

　　（4）应用实例；

　　（5）最优控制与伴随算法。

　　7

　　生成模型概览

　　（1）生成模型与预测模型的区别；

　　（2）生成模型的分类；

　　（3）GAN、VAE、Normalizing Flow、Diffusion Model等生成模型简介。

　　8

　　从Transformer到ChatGPT

　　（1）注意力机制；

　　（2）自注意力机制与网络结构学习；

　　（3）Transformer架构介绍；

　　（4）Transformer的应用；

　　（5）基于语言模型的自监督学习机制；

　　（6）BERT、GPT3、ChatGPT等架构介绍。

　　9

　　图神经网络

　　（1）图与网络；

　　（2）图神经网络基本原理；

　　（3）图神经网络的基本应用：节点分类；

　　（4）基于图神经网络的复杂系统数据驱动建模。

　　10

　　复杂系统数据驱动建模

　　（1）复杂系统；

　　（2）复杂系统建模方法；

　　（3）复杂系统数据驱动建模方法；

　　（4）包含了决策与反馈的完整闭环；

　　（5）因果规律的学习；

　　（6）基于世界模型的强化学习框架。

　　11

　　因果机器学习

　　（1）因果与相关；

　　（2）因果推断简介；

　　（3）因果发现简介；

　　（4）因果表示学习。

　　12

　　强化学习

　　（1）强化学习基本框架；

　　（2）强化学习分类；

　　（3）Q学习算法；

　　（4）深度强化学习；

　　（5）基于World Model的强化学习算法；

　　（6）因果与强化学习；

　　（7）强化学习与控制/决策。

　　主讲人介绍

　　

　　张江， 北京师范大学系统科学学院教授，集智俱乐部、集智学园创始人，集智科学研究中心理事长，曾任腾讯研究院、华为战略研究院等特聘顾问。主要研究领域包括复杂系统分析与建模、规模理论、机器学习等。

　　集智斑图个人主页：https://pattern.swarma.org/user/9

　　课程资源推荐

　　Github：

　　1.课程Github页面：https://github.com/bnusss/2023-Big-Data-Driven-Artificial-Intelligence

　　书籍推荐：

　　集智俱乐部：深度学习原理与 PyTorch 实战（第 2 版），人民邮电出版社，2022

　　Ian Goodfellow, Yoshua Bengio: Deep Learning, MIT, 2016（有中文版）

　　Stuart Russell, Peter Norvig: Artificial Intelligence: A Modern Approach, Prentice Hall, 2010

　　Sergios Theodoridis, Konstantinos Koutroumbas: Pattern Recognition, 2003

　　George F. Luger, Artificial intelligence, Pearson Education Limited, 2002

　　朱迪亚·铂尔（著）、刘礼等（译）：因果论，机械工业出版社，2022

　　Trevor Hastie, Robert Tibshirani, Jerome Friedman, The Elements of Statistical Learning: Data Mining, Inference, and Prediction, Second Edition, 2009

　　参考线上课程：

　　Jure Leskovec: Machine Learning with Graphs, StanfordCS224W.

　　https://www.youtube.com/playlist?list=PLoROMvodv4rPLKxIpqhjhPgdQy7imNkDn

　　Steve Brunton: Data Driven Science and Engineering, University of Washington

　　http://databookuw.com/page-3/

　　张江：深度学习原理与PyTorch，集智学园2022

　　https://campus.swarma.org/course/956

　　必读文献：

　　Bengio Y, Courville A, Vincent P. Representation learning: a review and new perspectives. IEEE Trans Pattern Anal Mach Intell. 2013 Aug;35(8):1798-828. doi: 10.1109/TPAMI.2013.50. PMID: 23787338.

　　Ricky T. Q. Chen, Yulia Rubanova, Jesse Bettencourt, David Duvenaud: Neural Ordinary Differential Equations, Proceedings of the 32nd International Conference on Neural Information Processing Systems,12,6572–6583, NIPS 18

　　课程信息

　　你能获得1. 了解当前大数据驱动的人工智能的最新进展； 2. 掌握机器学习、神经网络、数据驱动建模等人工智能核心技术的基本概念和基本方法； 3. 掌握应用PyTorch平台使用的基本技能，可以用于简单项目开发。课程定价与购买方式

　　课程定价：399元

　　课程时间：课程目前已上线到第2课。从2023年3月-6月，每周二中午12:00更新课程。法定节假日除外。

　　https://campus.swarma.org/course/5084?from=wechat

　　付费流程：

　　第一步：扫码付费

　　第二步：在课程详情页面，填写“学员信息登记表”

　　第三步：扫码添加助教微信，入群

　　本课程可开发票。

　　奖学金机制

　　1. 我们会发布不定期发布课程任务，以整理课程笔记，输出系统化学习笔记为主。按要求按时完成并上线集智斑图，可获得200元奖学金。极其优秀的，价格可微调。

　　出品方：集智学园

　　

　　集智学园成立于2016年，是集智俱乐部孕育的创业团队。集智学园致力于传播复杂性科学、人工智能等前沿知识和新兴技术，促进、推动复杂科学领域的知识探索与生态构建。

　　集智学园网站：campus.swarma.org

　　加入集智VIP，即可解锁集智全站课程、读书会。详见：