对人工智能治理举措展开研究：我国人工智能已进入集中治理阶段

对人工智能治理举措展开研究：我国人工智能已进入集中治理阶段国家新一代人工智能治理专业委员会主任薛澜薛澜认为，从2017年到2020年，我国人工智能治理采取的是回应治理模式。这个阶段的主导政策是推动人工智能技术发展，形成有利于创新的环境。总体来讲，对于发展过程中出现的大大小小的问题，监管采取了包容审慎的态度，针对出现的问题出台了一些软性规则，在科技部的推动下成立了新一代人工智能治理专家委员会，出台了新的人工智能治理准则，这些主要是引导性、规范性的措施。薛澜认为，人工智能治理是人工智能发展过程中非常重要的内容。如果治理跟不上，发展就很难推进。他提到，目前人工智能在各领域都已经有了造福人类的场景，但风险也逐渐显现。这些风险可以分为两类：一种是即时性风险，例如自动驾驶，汽车的识别出了问题就可能直接导致事故；另一种是积累的风险，短时间内人们不一定能意识到，但通过积累会对社会产生深刻影响，例如就业问题，人工智能的发展对就业的影响是长期的，而且不一定是正面的。

7月8日，2021世界人工智能大会在上海世博中心开幕。8日下午，来自学界和业界的专家对如何科学评估人工智能应用的社会综合影响、如何推进人工智能更好应用于公共治理决策、如何利用人工智能促进治理体系和治理能力现代化等问题进行了探讨。

国家新一代人工智能治理专业委员会主任薛澜总结了从2017年至今，我国人工智能治理经历的变化，指出未来的治理模式应该是从当前的集中治理转变为敏捷治理，监管应加强与市场的沟通，灵活运用各种工具，平衡创新与风险。

中科院外籍院士、图灵奖获得者约翰·霍普克罗夫特强调了全球化治理的重要性。他认为，全球需要有跨越国界的统一标准，需要相应的条约在人工智能治理中起作用。

人工智能风险显现，从回应治理走向集中治理

薛澜认为，人工智能治理是人工智能发展过程中非常重要的内容。如果治理跟不上，发展就很难推进。

他提到，目前人工智能在各领域都已经有了造福人类的场景，但风险也逐渐显现。这些风险可以分为两类：一种是即时性风险，例如自动驾驶，汽车的识别出了问题就可能直接导致事故；另一种是积累的风险，短时间内人们不一定能意识到，但通过积累会对社会产生深刻影响，例如就业问题，人工智能的发展对就业的影响是长期的，而且不一定是正面的。

应对这些风险，我国的人工智能治理模式也经历了不同的变化。薛澜将我国的人工智能治理分为三个阶段：过去是回应治理，当前是集中治理，未来应走向敏捷治理。

薛澜认为，从2017年到2020年，我国人工智能治理采取的是回应治理模式。这个阶段的主导政策是推动人工智能技术发展，形成有利于创新的环境。总体来讲，对于发展过程中出现的大大小小的问题，监管采取了包容审慎的态度，针对出现的问题出台了一些软性规则，在科技部的推动下成立了新一代人工智能治理专家委员会，出台了新的人工智能治理准则，这些主要是引导性、规范性的措施。

国家新一代人工智能治理专业委员会主任薛澜

薛澜观察到，从去年开始，我国人工智能治理进入了集中治理模式。由于对很多问题的应对不够集中、不够及时，就触发了集中治理，很多部门采取措施进行整治。去年蚂蚁金服上市被叫停，最近滴滴出行被下架，以及市场监管总局对互联网经营者的处罚都是集中治理的体现。

另一方面，相关法律法规的出台在加快步伐。今年9月1日《数据安全法》将正式实施，《个人信息保护法》二审已经完成，地方出台相关数据条例……薛澜指出，集中治理模式明确了国家加强行业监管、促进制度落地的决心，对暴露出来的各种问题采取比较坚决的措施，落实监管规则。

但他也强调，集中治理模式并非没有弊端。集中治理会带来一定成本，短期内可能会出现资本对行业的偏离。他认为，监管必须要考虑到，在全球竞争的背景下，很多人工智能面临着外部竞争和内部监管的双重挑战。

薛澜指出了第三种治理模式——敏捷治理。他指出，传统的监管和市场主体之间是“猫和老鼠”的关系，但事实上，企业的发展速度很快，监管应加强与市场的沟通，灵活运用各种工具，未来的治理手段应是敏捷治理。

敏捷治理：创新与治理协调推动，主体、对象、工具多元

作为未来的治理模式，敏捷治理有何特点？又如何落实？薛澜介绍，首先，敏捷治理背后的价值理念是以创新为导向，同时进行风险规制。他指出，创新和治理是两个轮子，一定要协调地推动。如果没有很好的治理，就很难创新和很好地发展。“另外，如果今天没有治理，明天一下子暴风骤雨来了，对创新可能有很大的影响。”他说。

敏捷治理的第二个特征在于治理主体多元协同。薛澜指出，监管规制的主体当然是政府，公共政策的制定、执行要靠政府监管部门，但同时应该注意在很多治理过程中的公众参与，包括学术界在内的社会各方面意见都需要充分吸纳。

在敏捷治理中，治理主体是多元的，治理对象也并不单一。薛澜认为，应自下而上分层治理，数据算法、应用场景、企业和平台，都要作为治理对象被考虑在内。

最后，治理工具要刚柔并济，灵活运用。“从刚性的法律法规，到柔性的企业自我规制，这之间什么场景选用什么规则，还需要我们进一步考虑。另外还有技术，很多技术工具在治理领域可以起到有效的治理。”薛澜强调。

法律需对责任重新定义，人工智能治理应有全球性标准

论坛上，多位专家对人工智能的治理思路都提出了自己的看法。霍普克罗夫特认为，要形成AI的良治，需要有政府的参与，企业领袖、学术界研究人员以及全世界每个个体的参与。

他指出，目前人工智能治理面临责任归属的难题。“谁负责解决这些问题？比如自动驾驶汽车事故谁负责？车主、制造商还是自动驾驶算法的开发商？这需要我们更新升级法律体系，目前的法律体系是为工业时代建设的，我们需要对它重新设计以适应信息时代的需要。一些新的风险的解决可能需要法律对责任重新定义，才能更好适应产业的发展。”他说。

图灵奖获得者约翰·霍普克罗夫特

此外，霍普克罗夫特强调了全球化治理的重要性。他认为，需要有专业团体对技术标准进行更新，如国际电子学术委员会IEEE，确保产品可靠和安全。全球需要有跨越国界的统一标准，需要相应的条约在人工智能治理当中起作用。

会上，企业界嘉宾也表达了对人工智能治理的认同。达闼科技创始人黄晓庆提出，人工智能要“拥抱监管”。他认为，互联网时代在最初经历了一段野蛮生长期，因为互联网的发展很大程度上是从娱乐开始，带来的风险较低。而进入人工智能特别是机器人时代，风险骤然变高，这时候必须要拥抱监管，不能让它野蛮生长。

博泰车联网创始人应宜伦认为，数字孪生时代，监管变得尤为重要。他以车联网为例谈了自己的看法。“当前，国家相关部门需要考虑怎样对关键位置信息、图像、内容、语音进行脱敏之后再处理。今天车联网在一个风口，我们需要出台政策，既不能捆绑创新，又需要保证国家安全。”他说。

采写：南都见习记者李娅宁