系统设计核心问题（如何解决复杂系统的核心问题）

系统设计核心问题（如何解决复杂系统的核心问题）著名数学家冯·诺依曼对生命有独到的见解。在他的著作 “Theory of Self-Reproducing Automata” 中，一系列关于复杂性和生命的重要问题得到讨论。GL Ventures很多知识仍旧需要我们回到生物的物质基础，但我们的核心目的，仍旧是从其中提炼出一组能够泛化到各个生命之中的特性。下图中，坐标左边是物理，右边是信息与计算，而生命恰好就在这条轴的中间。这张图告诉我们，生命的奥秘实际上是物理和信息的交汇。生命处在物理和信息的交汇处冯·诺依曼的生命之问

著名物理学家海森堡曾经说过：“提出正确的问题，往往等于解决了问题的大半。”当我们讨论复杂系统时，最核心的问题是什么？生命起源和意识起源是什么？为什么如湍流、台风之类的复杂系统会逐渐瓦解，而如生物体特别是生态系统这样的复杂系统却能长久存在甚至实现不断的进化？从非生命到生命，究竟跨越了怎样的关键一步？复杂系统的层次跨越发生了什么，不同尺度之间的联系如何研究？

我们都知道，许多相互作用的个体可以展现出宏观的模式（pattern），当这一模式被观察到具有其所有组成部分本身没有的属性时，这便是涌现（emergence）。涌现是复杂系统最基本的特质。事实上，相互作用在自然界中实在太过普遍，以至于涌现现象在各个尺度上都会出现，而且随处可见，这便导致了复杂系统无处不在。

诸如大气环流、交通流、鸟群、蚁群等，都是复杂系统。

在谈到复杂性时，我们更加关注一个活的、有生命的系统，那么，什么是生命便成为复杂性科学的核心问题。

很多知识仍旧需要我们回到生物的物质基础，但我们的核心目的，仍旧是从其中提炼出一组能够泛化到各个生命之中的特性。下图中，坐标左边是物理，右边是信息与计算，而生命恰好就在这条轴的中间。这张图告诉我们，生命的奥秘实际上是物理和信息的交汇。

生命处在物理和信息的交汇处

冯·诺依曼的生命之问

GL Ventures

著名数学家冯·诺依曼对生命有独到的见解。在他的著作 “Theory of Self-Reproducing Automata” 中，一系列关于复杂性和生命的重要问题得到讨论。

冯·诺依曼提出，所有已知的复杂系统，存在一个明确的分水岭，分水岭的左边，大部分是人造系统，比如当时的计算机、汽车、厂房等等；分水岭的右边，大部分是诸如人的大脑、细胞、生命、生态系统等大自然形成的系统。

在分水岭左边的系统，随着时间的变化会不断降级，比如我们需要经常保养汽车，否则就会出各种问题；与此相反，在分水岭右边的系统，不仅不会随着时间的变化而降级，反倒能够不断进化，特别站在生态系统角度看，其中的物种能生生不息，并且似乎变得越来越高级。

由此，冯·诺依曼判断，在复杂系统中存在一个复杂度阈值，如果系统的复杂度没有超过阈值，那么系统便会在热力学第二定律的作用下不断降级，以至于最后瓦解，相反，一旦超过这一阈值，系统便仿佛能够超越热力学第二定律，得以不断升级并进化。对此，冯·诺依曼提出问题，复杂系统的阈值究竟是什么？

在复杂性阶梯这张图中，阶梯的每一步按照复杂系统从简单到复杂的演化过程排列，可以用混沌-聚集-网络-自复制-层级跃迁几个阶段将其表示出来，即随着演化过程，系统会从混沌无序走向聚集有序，而为了长期存活，系统便必须开放自己形成新陈代谢和内部网络，更进一步，系统便会升级出像生命一样自我复制的能力（广义上看，便是自指在生命中的表现），最终实现层级跃迁，成为新的个体从而开始下一个复杂性阶梯循环。

攀登复杂性阶梯最关键的一步，便是冯·诺依曼的生命之问，即关键阈值在哪里。对此，我认为这一阈值就在网络和自复制之间，而要想回答这里面究竟发生了什么，就必须回到复杂系统的源头，从最原始、最神奇的一类现象说起。

复杂性阶梯

涌现与因果如何联系起来？

GL Ventures

所有的复杂系统中，最基础的现象便是涌现。不过从下面这张图中，我们却可以看到，涌现不一定只发生在复杂系统中：在风和水汽的作用下，一片巨大的云朵形成，并逐渐产生出一个特殊的形状，仔细一看，其形状仿佛构成了人类的面容。

所谓的涌现，便是在宏观尺度下出现的一种 pattern，正如由云朵、水汽构成的图形，这一图形会至少让我们这些外在的观察者认为，它是一个新型的整体并具有新的特性，而这种特性我们无法从小水滴和水汽尺度上得到，只有当我们将其看成一个整体时才能出现，涌现的精髓便在于此。

偶然的自然气候变化下产生了特殊的形状

涌现就是一个系统或者说一组东西，当然，这些东西不一定构成了复杂系统。比如下面这张图，图的左边是整体，右边是放大的细节，可以看到，在宏观上出现了一个“无”字，中观上出现的是“整体论”，而微观上，出现的却是“简化论”。这便是涌现的奥秘，它超出了我们往常认为一个系统只能表达一个意思，事实上，正如这张图所示，我们从不同的尺度去观察，完全有可能得到不同的信息。

从不同的尺度观察一个系统，可能得到不同的信息

现在，我们需要暂时放下涌现，进入到另一个关键领域：因果（causality）。让我们首先从 Judea pearl 的因果之梯说起。在因果科学中，有两个最关键的概念，即反事实和干预。通过这两个关键概念，我们得以判断究竟是否存在因果关系。在复杂系统里，存在多个层级和多种尺度，这不仅可能表现为不同层级和尺度下存在不同的因果关系，甚至有可能存在跨层级的因果联系。

Judea pearl 的因果之梯

事实上，有大量的例子能够让我们找到这种跨层级的因果关系。例如，在遭遇洪水的时候，蚂蚁群体能够互相抱团，形成大蚂蚁球，从而在洪水中漂流。这一过程中，有很大一部分蚂蚁将被水淹没而死亡，可是尽管如此，这些被淹死的蚂蚁仍旧坚持互相抱团，为蚁群的利益而牺牲自己，最终蚁群得以保全。这是我们从生物学现象角度进行的解读，而当我们从因果的角度进行解释时，这件事可以这样表达：当蚂蚁形成蚁球时，个体的意志将被整体的意志替代，随着蚁球的出现，一个新尺度的“自我”和“个体”便出现了。于是，这个“自我”便可以为满足生存的需要，损失一部分蚂蚁。

为了在洪水中存活，蚂蚁抱团成群

我们不妨做出这样一个动作，即用自己的手拍打自己的身体，当我们做这个动作的时候，仍旧可以从两个层次观察：在微观层面，这个动作无疑会造成手臂、身体上大量细胞死亡；而从“我”这个整体的人层面看，这些细胞无疑是被“我”制约的。“我”是由大量的细胞构成的一个系统，假使按常规的因果论（还原论），“我”这个人体的特性是由细胞所决定的，正如“我”会害怕火，是因为细胞害怕火，细胞一被火烧，就会死亡。可是，人们却可以为自己的理想信念做出牺牲，甚至不惜让自己的细胞乃至于全部都被火烧死。显然，这超越了常规的从微观到宏观的因果论，而是从宏观到微观的因果倒置。

我们可以用下面这张图来表示这种情况。通常情况下，我们讨论的因果联系可以看做在蓝色的圈里，个体之间相互作用而产生的，但是，微观的因果解读虽然也可以解释上面的例子，比如人之所以会死是因为被火烧了，蚂蚁之所以会死是因为被水淹了，手臂上的细胞之所以会死是因为细胞的互相碰撞，而这一动作不过是因为神经放电以及信号的传导——所有的这一切都符合物理化学的基本规律，然而这些解释却显得冗余且没有触及到更重要的本质：人可以为了理想信念而牺牲；蚂蚁可以为了整个蚁群而牺牲；“我”存在自我意志，所以可以拍打自己。

这些都是因为有一个更高层级的整体，这个整体可以作为一个独立的主体发出“因果之力”，使得因果箭头从整体指向个体：我希望拍打手臂，所以产生了动作，细胞也随动作而死亡。

随着科学的发展，我们也有了很多工具，其中的一些使得我们得以从科学的角度来解释这些问题，比如因果涌现的理论框架、粗粒化（Coarse-Graining）、整合信息论（Integrated information theory）、机器学习驱动的重整化（Renormalization）、以及自指动力学等一系列重要的思想、方法和技术。

粗粒化的出现与意义

GL Ventures

有没有办法从科学的角度研究因果涌现现象？答案是肯定的。不过，在进入因果涌现框架之前，我们还需要做一些必要的技术准备。

首先，介绍一种关键的技术或者说技巧——粗粒化（Coarse-Graining），正因为有了这一工具，我们才能够从科学的角度讨论因果涌现。

粗粒化是一个来源于统计物理的概念，其本质是对一个系统进行粗糙尺度的描述。粗粒化的其他表达包括池化（pooling）、下采样（down-sampling）、尺度缩放（scaling）。实际上，这些概念表达的都是对一个系统或者客观事物进行尺度缩放的操作。

实际上，有很多特性只有通过尺度缩放才能发现。非常典型的例子是统计物理中的案例。在微观层面，我们难以对分子的运动进行描述（比如气体分子的运动就是无规则的布朗运动），不过，统计物理学家使用了一种非常特殊的操作，即将整个气体系统用几个宏观量来表达，比如压强（P）、温度（T）、体积（V）。当我们忽略分子间的细节，整体的规律便会显现出来。显然，统计物理就是一种粗粒化的描述，当我们从宏观的角度分析时，规律便会非常清楚，并且，这也是一种最强的因果联系。这便是我们因果涌现的核心思想，即站在不同的层级，可以抽象出不同的因果关系。

对于大量无规则运动的气体分子，如果忽略分子的细节，整体的规律便会显现出来。比如理想气体分子可以用方程 PV=nRT 描述。

使用粗粒化测量因果强度

GL Ventures

对于一个系统，可以有不同尺度的描述，这便是不同尺度下的新的因果关系。现在，让我们聚焦在因果涌现上，看看它的框架究竟是如何建立的。

因果涌现的基本思想，是在两个不同的尺度对系统进行描述。其基本思想是统计力学，站在宏观尺度时，就会看到明确的因果规律。

我们先看底下的微观层次，可以认为，微观层次是这个世界的本质，比如现实里空气由一大堆气体分子小球组成，气体分子会遵循气体动力学，我们把它叫做微观因果机制或者微观的动力学机制（f）。但是由于在微观层面上存在着大量的随机性，我们认为，它的因果联系、因果特性非常弱。（这里所指的强弱，在后面将有严格的数学定义，即使用互信息进行定量刻画。）于是，微观上便只能观察到随机的、不确定的机制，因果联系也非常弱。

而为了获得更确定、更有联系的因果描述，我们作为观察者，便进行粗粒化操作，把微观态的东西映射成宏观态，使用大尺度来描述。具体操作正如我们刚才讲过的分子小球，对应到这里就是用上面的彩色方块表示下面的彩色小球。

进一步地，我们假设，每一个时间步都可以做粗粒化操作，而下一个t 1时刻，也可以得到一个粗粒化的宏观态。那么，我们便可以在宏观尺度上，看两个时刻的变化，而这一对应机制，便是宏观态下的动力学机制（F）。

通过粗粒化操作，把微观态映射到宏观态。微观上因果联系非常弱，宏观上则具有非常明确的因果规律。

为什么可以这样看呢？原因很简单，整个系统是由每一个微观态一一映射过来的，显然，在微观态，确实存在一种动力学机制，尽管它有不确定性。所以到宏观以后，显然两者之间也会有一定联系。

这个时候，神奇的现象出现了，即有可能在某些特殊的情况下，至少我们能构造出来这样一些特例，在宏观态的描述中，对应机制有可能变成一个因果联系非常强的动力学。也即，在宏观角度去看，它具有非常明确的因果规律。这一例子并不难理解，比如布朗运动就属于这种情况。

这便是因果涌现所表达的意思，而宏观的因果规律，也正是因果涌现。

因果涌现具体的每一步操作，都可以用数学进行严格刻画。

首先，让我们看一看它如何刻画动力学。对动力学进行描述的机制在微观和宏观上都至关重要，而因果涌现框架则是使用马尔科夫动力学作为动力学机制的一套描述工具。选择马尔科夫的道理很简单，如果假定我们的世界服从物理规律，而物理规律都是马尔科夫的，也即上一时刻的动作（状态）能完全唯一地决定下一时刻的动作（状态）。

在马尔科夫框架下，动力学实际上就成为了马尔科夫转移矩阵。因为我们假设，尽管系统可以是多体的，但是这里面的状态是一个离散化的分布，每一个小球只有0或1这种离散的状态，所以整个系统的状态就可以进行离散化的描述，于是系统的状态转移，也就是它的动力学，就可以用一个马尔科夫链或者说马尔科夫矩阵来表述。

两个马尔科夫矩阵的例子

那么，针对这样的马尔科夫动力学，什么是它的因果机制的强弱呢？我们又应该如何测量计算它呢？在这里，它采用了互信息的方式来刻画，也即上一时刻的分布与下一时刻的分布之间的互信息作为因果强弱的度量。

例如，对于M1这样的马尔科夫矩阵，我们可以看到它在每一个微观状态下，都以概率1转移到下一个微观状态，显然，这是一个完全确定的动力学，而它的互信息 EI 也是比较大的。

我们不妨比较几种不同的这种系统，当然，我们暂时还没有牵扯到宏观态，我们只是讨论对于一个马尔科夫转移矩阵，应该如何刻画它的因果联系的强弱，目前还没有引入粗粒化操作。

如下图，下面的黑白格是关于矩阵的表述，左边是输入的干预。具体的干预操作，就是让它做均匀分布。在上面我们给出了三个不同的马尔科夫一步转移矩阵，是下面的马尔科夫矩阵的加权有向图。这样的话，三个不同的系统会产生三个不同的马尔科夫链。显然，有的系统是完全确定的动力学（第一个），有的系统是完全随机的动力学（第三个），有的系统部分确定、部分随机（第二个）。接下来我们按照上面所讲的互信息进行度量，确定性动力学的 EI 最大（2 bits），完全随机动力学的 EI 则最小（0 bits）。

三个不同的系统产生三个不同的马尔科夫链。（左）具有确定性动力学的系统 EI=2 bits，互信息最大；（中）部分确定、部分随机的系统 EI=1 bit；（右）完全随机动力学的系统 EI=0 bits，互信息最小。

接下来，我们引入第二个操作，即粗粒化。

让我们先来看一个例子，当我们对一个系统的微观态进行粗粒化时，它的马尔科夫动力学就有可能从一个完全随机的动力学变成一个完全确定的动力学。

下图左边是微观态下的马尔科夫转移矩阵，这个系统里一共有8个状态，这个状态的动力学比较特别，即在前7个状态下，完全等概率的随机转移，不过，第8个状态则是完全确定的动力学，即停留在第8个状态下。当然，这是一个抽象的例子，在现实世界中并没有对应。

而对于这一动力学，我们可以进行粗粒化操作，即把前7个微观状态映射为一个宏观状态，我们将这一宏观状态称作随机态，第8个状态映射为另一个宏观状态，将其称为确定态。

此时，宏观状态的描述只有两个，一个是随机态，一个是确定态。此时，动力学也自然确定了，即都是由“自己到自己”的变化，而其互信息也得到最大化。

粗粒化操作下，微观态下的马尔科夫转移矩阵 Sm 映射到宏观态下的矩阵 SM。系统的动力学发生变化，互信息变大。

以上，便构成了因果涌现的基本框架。

重整化

GL Ventures

我们最后再介绍一个强有力的工具——重整化（Renormalization）。前面我们介绍了一个与重整化特别相似的概念，即粗粒化，而在很多文献里面，这两个概念又经常混用，以至于模糊不清。但我在这里把二者分开了，将重整化特别定义为包含了标度对称性假设在其中的粗粒化操作。

粗粒化，仅仅做宏观尺度的描述，而重整化，则要在粗粒化的前提下做对应，也即找到宏观层面和微观层面相互呼应关系的建立，这才是所谓的重整化的内容。

我们来看一些具体的例子，比如分形，在计算分形维度的时候，我们进行的便是重整化而不是粗粒化。具体操作分为两步，第一步，将原本的三角形边长放大两倍，第二步则是计算扩大的几何体与原有几何体的相似部分如何对应，即扩大后的面积变为原来的3倍，边长变为2倍。于是，对边长和面积同时取对数，其比值就是分形维度，这个过程就是重整化。

计算分形维度的过程即是重整化

最后，我们可以将重整化与因果涌现对应起来。重整化意味着，宏观态的动力学与微观态的动力学需要保持一致性，这样，我们就使得整体框架成为重整化而不是粗粒化的。即，关键的变化发生在宏观态的机制由一开始的不同的F变成了与微观态一致的f。看似改变很小，但意义已经完全不同。

有了重整化的框架，我们就可以建模自相似动力学系统，这离自指仅仅只差一小步。这一步就在于，宏观态与微观态的粗粒化操作无法在系统内进行，必须要外界“观察者”的加入，也即我们需要定义粗粒化操作——由一个外在的存在来定义，而不是系统内部进行。

真正的大脑便解决了这一问题。大脑的粗粒化机制并不需要外界的加入，其就存在于大脑本身。这意味着我们的自我意识一定存在于大脑的特定区域而不是大脑外，这正是我们自我就足以想象“我”能够走出房间，可以做各种动作，对未来进行一系列想象。而这些复杂的思考都内嵌于大脑内部，这也正是我们的动力学系统所差的一点。

终于，我们将所有的问题连接在一起，我们发现涌现、复杂性阈值以及因果的联系，同时我们有望借助重整化、因果涌现、自指、重整化等一系列工具与理论框架来解决这些问题，二者的组合将使我们有可能回答一些终极问题。