北京线下：「探索因果结构，解密复杂系统」—— 2023 年度因果涌现技术路线研讨

　　导语

　　在复杂系统中，因果关系无处不在。但是，我们如何从这些错综复杂的因果结构中识别因果涌现，进而推断未来的演化状态，这是一个具有挑战性的难题。北京师范大学系统科学学院张江教授与清华大学计算机科学学院崔鹏副教授在 Entropy 杂志发起了 Causality and Complex Systems 特刊，引领新兴技术如机器学习、互信息分解、因果推断等方向，为我们提供了新的解决方案。

　　为了深入探究因果和复杂系统之间的关系，并为后续发展制定新方向，张江和崔鹏老师联合发起了「2023 年度因果涌现技术路线研讨会」。本次活动旨在汇聚各界科研工作者，共同探讨如何从一个复杂系统的原始数据中发现错综复杂的因果结构，识别因果涌现，并利用因果机制推断系统未来的状态和演化。

　　会议基本信息

　　主题：「探索错综复杂的因果结构，解密复杂系统演化」—— 2023 年度因果涌现技术路线研讨会

　　时间：3 月 27 日（周一）下午 14:00-22:00

　　地点：

　　线上：Zoom 会议室（报名即可获得链接）

　　META SPACE 咖啡（五道口店）

　　会议安排

　　报名信息

　　视频号预约：

　　线上报名：

　　北京线下报名（仅针对报名因果涌现读书会的成员开放，名额有限）：

　　主题和主讲人

　　张江：复杂系统的因果涌现辩识

　　涌现的定量化问题是复杂系统研究中的圣杯，Erik Hoel 提出的因果涌现理论找到了一条定量刻画涌现的方法，然而，因果涌现理论尚难以应用到真实的场景中。本次分享张江教授将介绍一种称之为神经信息压缩机（Neural Information Squeezer，简称 NIS）的神经网络架构。该架构可以从动力系统的时间序列数据中自动识别出因果涌现是否发生，还能自动给出粗粒化复杂系统的方法和系统的宏观动力学。通过几个简单动力系统实例，NIS 展示出了强大的学习能力，以及在连续以及离散动力学系统中的因果涌现辨识的能力。

　　然而，由于可逆神经网络的计算复杂性，传统的 NIS 尚无法应用到较大规模的复杂系统中。为了解决这个问题，张江教授研究组进一步提出了 NIS+ 的层级化的 NIS 网络架构。通过结合并行优化、共享权重、卷积神经网络等技术扩充 NIS 的计算能力，NIS+ 可以应用到如鸟群、二维元胞自动机等真正的复杂系统中，并自动发现聚集的鸟群分组和 " 生命游戏 " 中的 " 滑翔机 " 等动态的涌现结构。更重要的是，通过使用逆概率重加权技术 ( Inverse Probability Reweighting ) ，NIS+ 可以真正实现有效信息（Effective Information，简称 EI）的最大化，从而在巨大的函数空间中，搜索出因果效应最强的宏观动力学和对应的粗粒化策略，这可以让宏观动力学具备更强的分布外泛化的能力。该技术不仅为因果涌现理论的实际应用和落地提供了重要的基础，也为基于最大化 EI 的因果表示学习（Causal Representation Learning）理论提供了可能性。

　　张江，北京师范大学系统科学学院教授，集智俱乐部、集智学园创始人，集智科学研究中心理事长，曾任腾讯研究院、华为战略研究院等特聘顾问。主要研究领域包括复杂系统分析与建模、规模理论、机器学习等。

　　集智斑图个人主页：https://jake.swarma.org/

　　岳玉涛：从不确定性的角度探究因果涌现的起源

　　在构建复杂系统的有效模型时，选择合适的尺度（粒度）至关重要。基于信息理论的定量研究发现，有时候粗粒度的模型比细粒度的模型具有更强的因果，这种现象称为因果涌现，即我们用以描述模型的变量更少了，定量化的 " 因果 " 却更多了。那么究竟是什么导致了因果涌现的发生？因果涌现什么时候会发生？什么时候不会发生？我们从不确定性的角度进行了分析，并提出粗粒化过程中变量间不确定性的重新分布导致了因果涌现。岳玉涛老师的最新工作以特定离散系统的演化为例，计算了因果涌现的具体条件和阈值，并导出了一般化的数学表达式。

　　岳玉涛，集萃深度感知技术研究所创始人、所长，主要研究兴趣包括计算建模与人工智能、雷达视觉融合、电磁场、AGI 等。

　　集智斑图个人主页：https://pattern.swarma.org/user/45660

　　崔鹏等圆桌讨论：PID 与 OOD-- 因果涌现技术路线图探讨

　　部分信息分解 ( Partial Information Decomposition ) 是研究多变量交互的重要手段，它将多变量互信息分解为唯一信息、冗余信息和协同信息三部分。清华吴嘉赟等同学在研究中发现，互信息分解可以将多环境下的分布迁移 ( distributional shift ) 相应地解耦合为 covariate shift, label shift 和 concept shift 几部分。另一方面，典型的分布外泛化场景和分布外泛化表征学习方法均可以在互信息分解的框架下得到统一。据此，研究提出一种最小化协同信息的分布外泛化表征学习方法。

　　主持人

　　崔鹏老师联合其团队学生吴嘉赟等同学会组织这个环节的 Panel 讨论，先简单分享其团队最新的一些研究方向，并与张江、岳玉涛、段永朝等老师围绕因果涌现技术路线图的发展和问题展开深度讨论。

　　崔鹏，清华大学计算机系长聘副教授，博士生导师。研究兴趣聚焦于大数据驱动的因果推理和稳定预测、大规模网络表征学习等。个人主页：http://pengcui.thumedialab.com/

　　集智斑图个人主页：https://pattern.swarma.org/user/70330

　　圆桌嘉宾

　　段永朝，信息社会 50 人论坛执行主席，北京苇草智酷创始合伙人。中国计算机学会高级会员，中国自动化学会区块链专业委员会副主任委员，中国互联网协会共享经济工作委员会副主任委员，《智能科学与技术》学报编委；辽宁省政协智库专家。

　　Hector Zenil：基于算法信息动力学的因果模型发现

　　算法信息动力学是一种数学框架，可以使用算法复杂度理论和因果推断工具研究复杂系统。AID 的核心概念是算法复杂度，它测量描述对象或过程所需的信息量。通过将这些概念与因果推断技术相结合，AID 可用于发现复杂系统中的因果关系。在这个分享中，Hector Zenil 将介绍算法信息动力学（AID），这是一个将算法信息理论和动力系统理论相结合的理论框架，用于研究复杂系统。他将讨论如何使用 AID 在数据中发现因果关系，而不依赖于关于系统的先验知识或假设，Zenil 将并通过实际示例说明 AID 的实际应用，并解释如何帮助我们更好地理解复杂现象，从神经元行为到社交网络动态。

　　Hector Zenil 是瑞典卡罗琳斯卡医学院的高级研究员，算法动力学实验室负责人。他还曾是牛津大学的计算机科学和科学哲学教授， Wolfram Research 的高级研究员。研究研究方向包括计算的本质、算法信息理论、复杂性理论和人工智能的基础。

　　个人主页：https://hectorzenil.net/

　　George F. R. Ellis：自上而下的因果机制如何涌现因果？

　　在结构和因果的层次结构中，自下而上（bottom-up）和自上而下（top-down）的因果都会发生。其关键特征之一便是高层级功能的多重实现，以及由此产生的对应于较高层级状态的诸多较低层级变量的等价类。共存在着五种主要的自上而下的因果机制：基于算法的，基于非自适应信息控制的，基于自适应选择的，基于自适应信息控制的，以及基于智能的自上而下的因果机制（即人类思维对现实世界的影响）。理解自上而下的因果对于当今社会有重要影响。本次分享，George F. R. Ellis 将给大家分享介绍他关于自上而下因果机制以及跟因果涌现的关系。

　　George F. R. Ellis是南非开普敦大学天体物理研究中心荣誉研究员和科学顾问，曾任南非开普敦大学天体物理研究中心主任和物理学系教授。他的研究领域主要包括宇宙学、广义相对论、天体物理学和因果涌现等。Ellis 在这些领域做出了许多重要贡献，他的研究成果被广泛引用和应用于天文学和宇宙学研究中。

　　个人主页：http://math_research.uct.ac.za/~ellis/

　　Erik Hoel：一种有效的度量因果强度的算法框架（TBD）

　　因果涌现理论是复杂系统研究的潜力方向，为意识形成、生命起源、集体行为等一系列宏观涌现问题提供了新的研究思路。因果涌现理论认为，宏观尺度可以减少因果关系中的噪音，从而在系统的宏观尺度上形成更强的因果关系。本次分享中，Erik Hoel 会重点介绍一种用于度量因果强度的算法框架：即有效信息框架，介绍因果涌现理论中存在的问题，以及展望因果涌现理论的潜在应用，探讨未来有潜力的研究方向。

　　Erik Hoel，威斯康星大学麦迪逊分校博士，美国理论神经科学家，同时也是因果涌现理论提出者之一。他致力于运用信息论和因果分析来探索意识的生物学基础，理解涌现的本质。研究问题为如何利用复杂性和信息论来测量意识与无意识之间的神经差异、因果结构如何跨尺度变化、信息论指标如何捕捉和量化宏观尺度上的因果涌现。

　　个人主页：https://facultyprofiles.tufts.edu/erik-hoel。

　　合作伙伴

　　苇草智库

　　苇草智酷成立于 2017 年 9 月，其前身是已运营 5 年的互联网思想者社区——网络智酷。法国思想家帕斯卡说，" 人是一株能思想的苇草 "，这是 7 位创始合伙人将公司取名 " 苇草智酷 " 的起因，也是苇草智酷未来发展的动力源泉。苇草智酷致力于成为面向未来，探讨数字经济、信息社会、智能科技对经济社会文化深远影响的思想交流平台。

　　集智凯风基金会

　　凯风公益基金会是国家民政部主管的非公募公益基金会。也是首批由企业发起、国家民政部批准设立，并由国家民政部作为上级主管部门的公益基金会。凯风公益基金会主要通过机构合作方式，对在学术研究、政策研究、教育和公益实践方面获得重要成果、具备实力和潜力的学术精英和公益精英，进行资助和奖励，进而达到提升公共福利、增加公众利益、传播公益思想的目的。

　　Entropy

　　Entropy 期刊主要发表熵和信息论的相关文章，涉及学科领域有：热力学、统计力学、信息论、生物物理学、天体物理学及宇宙学、量子信息和复杂体系等，当前位于 JCR 物理多学科二区。

　　因果涌现社区介绍

　　因果涌现社区由集智俱乐部通过系列因果涌现读书会孕育孵化，旨在促进学术交流和科学创新，聚焦于破解复杂科学的圣杯问题，为国内学者和科学爱好者提供一个共享和探索的平台，推动科学研究的发展。

　　网站地址：https://www.ce.swarma.org/

　　因果与复杂系统特刊

　　如何从一个复杂系统的原始数据中发现错综复杂的因果结构并识别因果涌现？如何利用因果机制推断系统未来的状态和演化？机器学习、互信息分解、因果推断等新兴技术将为我们提供新的解决方案。由北京师范大学系统科学学院张江教授与清华大学计算机科学学院崔鹏副教授合作在 Entropy 杂志发起的 Causality and Complex Systems 特刊正在征稿中，欢迎对相关话题感兴趣的研究者投稿。

　　主要信息如下：

　　期刊：Entropy ( ISSN 1099-4300 )

　　栏目：复杂性

　　特刊主题：因果关系与复杂系统（Causality and Complex Systems）

　　征稿截止日期：2023 年 4 月 25 日