人工智能会产生变化吗？人工智能会变成魔鬼吗

人工智能会产生变化吗？人工智能会变成魔鬼吗有人就对人工智能是否能够实现抱有疑虑。脸书人工智能研究院院长和纽约大学数据研究中心主任杨立昆（Yann LeCun）强调说创造人类水平的人工智能即便不是没有希望的，至少是非常困难的，在可见的将来，超级机器人似乎很渺茫。[3] 美国国家科学基金会前项目主任保罗·沃布斯（Paul Werbos）不大相信几十年之内，机器将能够"不仅能走路、开车、飞行、打架，还能写书、作曲、拍电影、设定新目标。"[4]关于人工智能的未来利弊的思考很容易陷入宏大的未来学遐想。但是有一件事实不容忽视，即人工智能首先有一个技术实现、社会实践的问题。如果人工智能只是幻想，剩余的讨论则没有实际价值。福德谈到人工智能可能带来的严重经济问题，即造成大规模失业、以及由此引发的严重的社会经济不平等。如何应对不平等问题？更糟的是，人工智能创造的技术未来可能使得不平等无法消除。依仗强大的技术，特权阶层不仅拥有经济优势，而且有认知和身体

人工智能被定义为机器从事与人有关的认知功能的能力，如认识、推理、学习、与环境互动、解决问题甚至发挥创造性等。人工智能的技能涉及机器人和自动化技术、计算机视觉、语言、虚拟代理人和机器学习等。随着算法的进步加上数据增生以及计算能力和存储能力的大幅度提高，人工智能从夸张宣传变成现实。[1]因而，近期人们对人工智能的热情也有大幅增加的趋势，对人工智能利弊的反思讨论也越发丰富。

从著有《在人工智能时代生存：机遇与风险》 的英国作家卡鲁姆·查斯（Calum Chace）近期推荐的几本有关人工智能的新书表达的态度，即可稍微感知该领域关心的主要话题。

一本书是雷·库兹维尔(Ray Kurzweil)的《奇点接近》。库兹维尔认为2029年即将出现通用人工智能（AGI），机器将取得技术突破。届时，机器将变得和人一样聪明、甚至更聪明。不过，库兹维尔可能有些过于乐观了。其他的作者则不乏质疑的意见。

由 尼克•波斯特洛姆（Nick Bostrom）写作的另一本书《超级智能：道路、危险和战略》就泼了点冷水。在该书中，作者以令人信服的专业性指出：人工智能存在风险，其中最糟糕的风险不在于人工智能本身、而在于我们可能忽视风险的存在。还有一本由马丁·福德（Martin Ford）写作的书《机器人崛起》则给AI未来的乐观图景泼了更多冷水。

福德谈到人工智能可能带来的严重经济问题，即造成大规模失业、以及由此引发的严重的社会经济不平等。如何应对不平等问题？更糟的是，人工智能创造的技术未来可能使得不平等无法消除。依仗强大的技术，特权阶层不仅拥有经济优势，而且有认知和身体优势，成为比他人更聪明、更敏捷、更长寿的物种，人类将分为两种：神和废物。[2]

自此，我们已经可以大致想见关于人工智能的利弊可能存在的争议。本文下面即将援引学界讨论，略说人工智能可能的利弊。不过在此之前，应先稍微提一下作为技术实践问题的人工智能。

00 技术实践问题

关于人工智能的未来利弊的思考很容易陷入宏大的未来学遐想。但是有一件事实不容忽视，即人工智能首先有一个技术实现、社会实践的问题。如果人工智能只是幻想，剩余的讨论则没有实际价值。

有人就对人工智能是否能够实现抱有疑虑。脸书人工智能研究院院长和纽约大学数据研究中心主任杨立昆（Yann LeCun）强调说创造人类水平的人工智能即便不是没有希望的，至少是非常困难的，在可见的将来，超级机器人似乎很渺茫。[3] 美国国家科学基金会前项目主任保罗·沃布斯（Paul Werbos）不大相信几十年之内，机器将能够"不仅能走路、开车、飞行、打架，还能写书、作曲、拍电影、设定新目标。"[4]

凯文·凯利（Kevin Kelly）也认为超人人工智能是个神话。他指出，霍金、马斯克、盖茨等人所说的超级人工智能即将实现是基于如下五个没有证据支持的假设：

1）人工智能已经比我们聪明，而且以指数级的速度快速发展；

2）我们将让人工智能拥有通用智能机器；

3）我们用芯片制造人类智能；

4）智能可以无限扩张，

5）一旦制造出超级智能机器人，它能解决我们的大部分问题。

但实际上：

1）智能不是单一维度的，比人聪明的说法没有任何意义；

2）人没有像瑞士军刀那样通用目的的心灵，人工智能也不会；

3）采用其他媒介模仿人类思维代价高昂，思维方式与人不同是人工智能的主要资产；

4）智能维度不是无限的；

5）智能只是进步的一个因素，思维只是科学的一部分。[5]

不仅有人对人工智能的技术前景表示怀疑，甚至有人觉得人工智能热潮就是个骗局。人工智能是现在用得最广泛、定义最松散和最容易误解的术语。2018年前8个月英国六家主流媒体发表的760篇文章中，媒体对人工智能的报道主要是企业本身，60%的文章集中在新产品或者发布会之类，三分之一来自企业，12%明确提到大富豪马斯克（Elon Musk）。[6]这些都可能让人怀疑，人工智能热潮的商业炒作成分过高。

如果离开期望过高的讨论（尤其关于超级人工智能的近乎空想的讨论）、而更切实地观察人工智能的理论基础，那我们必须承认：人工智能技术有进展，也有挑战。

据中国科技大学计算机学院陈小平的介绍，人工智能涉及三层空间：现实层、数据层和知识层。

底层是现实层，是人类的复杂、含糊和具像的现实世界。中间层是数据层，是从现实层获得的抽象的、格式化的数据。在现实层和数据层上，经过人工建模或机器学习得到结构化的、包含语义的知识。在知识层上，人工智能研究自然语言处理、推理、规划、决策等。

人工智能经典思维在数据层和知识层取得了巨大进展。但是，智能机器人和现实层人工智能必须能够有效应对现实层的环境的不确定性。这是当前人工智能研究面临的主要科学挑战。由于现实层的对象、属性、和关联的不确定性，全能型人工智能需要尝试发展一种"基于容差性的机器人灵巧性技术"。[7]

换句话说，我们必须承认现有的人工智能是极好的学生，可以在教室里和考场上秒杀人类的表现；但是一旦进入复杂含糊的现实世界，人工智能就成了人工智障。使人工智能不那么智障——使它拥有人类一般的灵活性、灵巧性和灵敏性——是当前人工智能面临的主要技术问题。

不仅人工智能技术本身存在挑战。与人工智能直接对接的学科也因为人工智能的需要面临其学科发展的新问题。人工智能主要有四大应用领域：视觉处理，语音识别，自然语言处理和智能机器人。智能机器人领域主要与自动化、控制与技术学科相关；视觉处理更多与电子通信学科相关；而语音识别、自然语言处理则涉及计算机科学和语言学知识。

在语音识别和自然语言处理的应用之中，语料库作为必不可少的技术支撑，需经由语言学的知识建立。因此，人工智能技术的发展本身就对所有这些使得人工智能的具体实施得以可能的学科（可称为“上游学科”）提出了更高的要求。此外，人工智能技术的实际应用也会在政治、经济、心理、教育等领域产生许多实际的社会人文问题。

作为回应，应该创建包括智能政治学、智能社会学、智能法学、智能经济学、智能教育学、智能心理学和智能语言学等在内的智能社会科学（可称为人工智能的“下游学科”）。[8] 因此，人工智能的技术问题也牵涉很多跨学科的课题。

此外还必须提到一个比之前提到的技术和学科挑战更加实际的问题，即人工智能的社会应用本身需要相当的成本。人工智能不是先锋概念，是企业和社会机构需要准备接受的技术现实，然而现在很多企业和机构还没有从专业技术和工作方式上准备好接受这项技术。早期采用者占领先机，用机器人自动化系统取代数据输入等重复性劳动，用自然语言处理来初步分析人类话语的意义，用机器学习来处理分析数据并据此行动。然而，目前人工智能的实际应用依然有一定的挑战，包括应用实施的高成本、与现有体系的磨合困难、企业人员相关专业知识的缺乏等。[9]

01 积极和正面的看法

人工智能最明显的好处即技术上带来的方便。奥巴马政府最后几个月发表的报告《为未来的人工智能做准备》就谈到人工智能带来的普遍的智能化。智能汽车、智能大楼、智能教育、智能医药、智能政府等等都意味着智能化带来的潜在好处。同时，仿人机器人从事陪伴、看护、性伙伴等也是许多研究者探讨的可能性。[10]

说到对人工智能的正面看法，不能不提及硅谷的数字巨头新精英群体。他们野心勃勃地期待着要改变世界并塑造我们的生活方式，自然会对功能强大的人工智能充满期待。这其中的四个代表人物是：提到奇点概念的预言家库兹维尔，幕课平台（Udacity）的总裁和斯坦福人工智能实验室主任工程师塞巴斯蒂安·特伦（Sebastian Thrun），在线支付工具Paypal的创始人彼得·塞尔（Peter Thiel），和爱彼迎Airbnb的创始人乔·格比亚（Joe Gebbia）。[11]

在他们眼中，未来技术完全能超越人自身当前的工作水平。电脑将能够做人能做的任何事，而且做得更好。而所有人类为了适应技术进步，必须接受终身学习的概念。

硅谷领袖对人工智能高度评价，部分出于经济考虑。因为对硅谷巨头而言，人工智能是做生意的机会，参与人工智能研究的军备竞赛会带来巨额回报。但是更多的人的经济考虑关注的是就业：人工智能会不会砸了我的饭碗？这一点在下面一节介绍关于人工智能的消极看法时也会涉及。此处将说明的是，有研究认为人工智能不会全面淘汰人类工作。麦肯锡全球研究所2018年11月的报告发现，到2030年，全世界8亿个工作将败给自动化产业，但是只有6%的工作面临彻底自动化的风险。倘若我们把握好从人类工作转变为人工智能协助工作的进程，我们面临的可能将是历史性的工作范式的转换，而非全面的危机。自动化不会消灭所有人类工作，但会让人类工作的性质变得复杂起来。[12]

曾经撰写过《自私的基因》的理查德·道金斯（Richard Dawkins）也是人工智能的支持者，他的革命性进化论为人工生命研究者带来灵感。他认为所有生命在本质上都是数字信息转移的过程。自私的基因这个隐喻不仅创造了解释人和动物行为的重要背景，而且创造了让分子生物学家考察基因有机互动的框架。道金斯认为电脑不仅是计算工具而且是进化媒介。

在他看来，进化单位不是基因或者模因而是复制因子（replicator）。任何有机体都倾向于继承基因，并竭力创造精心设计的“机器”，即与上一代一样的身体。[13] 在这个意义上，人工智能的发展可能成为进化发生的新领域。人工智能体可能进化为某种超人的存在。但是我们并不需要为这种超人的诞生而恐惧，因为，道金斯认为，人工智能或许能够比人更好地管理社会。[14]

02 消极和负面的看法

关于人工智能的负面看法首先针对人工智能技术本身。新技术往往令人感到恐惧，这是因为它是变革的催化剂，而变革会剥夺很多人的利益。麻省理工媒体实验室副教授伊亚德·拉万（Iyad Rahwan）说，“从前，早期医疗科学产生了弗兰肯斯坦，工业革命产生了害怕机器抢了他们工作的卢德分子。今天，人们在担忧人工智能不仅抢了工作岗位，而且担忧机器人会毁灭人类。”[15]

人工智能对工作的影响会是前所未有的。人工智能不仅剥夺蓝领工人的工作，而且威胁到中低层都市白领的工作。与90年代互联网兴起之时吸收大量的程序员、技术人员和内容生产者不同，拥有深度学习能力的人工智能有可能取代编辑、记者、银行职员、医生、教师、投资分析师等脑力劳动者。[16] 因此，虽然尚不确知人工智能将对人类生产工作方式带来什么影响，人工智能对人类工作的威胁值得忧虑。

人工智能技术也可能造成人类对该技术的过度依赖。在人工智能的时代，随着云计算和大数据的研发，机器处理数据的效率大大增加。人类在处理信息和知识的工作中将越来越依赖于人工智能。倘若人类过多依赖人工智能来求得知识，人类就可能越发丧失自己的认知能力，使自身的能力萎缩。如果这一过程不受限制地持续下去，我们甚至将过分依赖人工智能来辨认出改善生活的新东西，最终走到离开人工智能就活不下去的地步。[17]

对人工智能的更多恐惧来自其对人类现有系统中的问题的固化，从而导致问题的放大和人的进一步异化。在人工智能的时代，对个人数据的机器分析和处理将影响、支配每个人的生活。尤其在政府和资本的控制下，人的主体性可能被还原为数据，从而沦落。

剑桥大学智能未来研究中心执行主任斯蒂芬·卡弗（Stephen Cave）就指出，人工智能下的世界或许就如同作家卡夫卡（Franz Kafka）在其1915的小说《审判》中想象得一样复杂且不透明：人被评判，但使用标准并不清楚；没有人愿意为系统的决定承担责任，人人都声称只负责分管的那部分功能。在《审判》中，主人公约瑟夫K无缘无故被逮捕，最后像一条狗一样被处死。

快进100年，人工智能被批评家描述为类似的存在：模糊不清，无须承担责任，与国家和企业权力有千丝万缕的联系，主要服务于政府、军方和大企业的利益。鉴于"人工智能"中的智能在实际应用中往往不是实现类似人类个人的智能、而是这些权力机构的官僚制度式的系统性智能，个人将不得不承担这些系统智能中的异化和荒谬。尤其是当建立这些智能系统的数据已经体现从前的偏见时，人工智能可能令这些偏见导致的不公平长期化。[18]

哈佛商学院教授肖珊娜·佐伯芙（Shoshana Zuboff）在《监控资本主义》一书中也表达了类似的忧虑。她指出，人工智能带来的将一切数字化的趋势将给予技术公司无限的社会权力。技术公司利用改善服务来收集数据，用更多数据卖广告，再预测甚至影响用户行为并创造"监控资本"。

基于这种“监控资本”，IT巨头实现的新的资本主义模式即“监控资本主义”。谷歌等新巨头创造和完善监控资本主义的方式与一个世纪前通用汽车公司发明、完善其“管理资本主义”的方式类似。然而，新的技术巨头不仅仅是扩张了监控范围，更是在建立新的经济秩序、市场形式和积累逻辑。从前的"管理资本主义"将工人的身体自动化，新巨头基于人工智能技术发展起来的监控资本主义则将所有人的心灵自动化。消费者在追求自我实现的过程中，或将被人工智能监控操纵下的消费心理所劫持。[19]

所以，人工智能是否会成为恶魔？当前关于人工智能的利弊的讨论显示，现在下结论可能为时尚早。人工智能本身可能不是恶魔。但人类必须准备好防范风险。[20]

注：本文原文曾发表在杨国荣主编《从早期中国思想到新实用主义》思想与文化第二十七辑（上海：华东师范大学出版社，2021年），第440-461页。有删节与改编。

03 参考文献

[1] CHUI M et al. An executive's guide to AI [EB/OL].[2019-01-16]mckinsey/business-functions/mckinsey-analytics/our-insights/an-executives-guide-to-ai

[2] ROELL S. The best books on Artificial Intelligence recommended by Calum Chace [EB/OL].[2019-01-17]fivebooks/best-books/artificial-intelligence/

[3] MARCH E. S. Why Artificial Intelligence Will Not Obliterate Humanity [EB/OL].(2015-03-20)[2019-01-08]popsci/why-artificial-intelligence-will-not-obliterate-humanity

[4] BARTLETT T. Has Consciousness Lost Its Mind? [EB/OL].(2018-06-06)[2019-01-17]chronicle/article/Is-This-the-World-s-Most/243599

[5] KELLY K. The Myth of a Superhuman AI [EB/OL].(2017-04-25)[2019-01-27]wired/2017/04/the-myth-of-a-superhuman-ai/

[6] NAUGHTON J. Don't believe the hype: the media are unwittingly selling us an AI fantasy [EB/OL].(2019-01-13)[2019-01-27]theguardian/commentisfree/2019/jan/13/dont-believe-the-hype-media-are-selling-us-an-ai-fantasy

[7] 陈小平 人工智能的历史进步、目标定位和思维演化《爱思想》[2018-11-15]aisixiang/data/113425.html

[8] 高奇琦 人工智能的学科化：从智能科学到智能社会科学《爱思想》[2018-10-26]aisixiang/data/113036-2.html

[9] MIT Technology Review Insights The state of artificial intelligence [EB/OL].(2019-01-08)[2019-02-08]technologyreview/s/612663/the-state-of-artificial-intelligence/

[10] RIBIN C T. Mind Games [EB/OL].(No.51 Winter 2017)[2019-01-16]thenewatlantis/publications/mind-games

[11] SCHULZ T. How Silicon Valley Shapes Our Future [EB/OL].(2015-03-04)[2019-01-08]spiegel.de/international/germany/spiegel-cover-story-how-silicon-valley-shapes-our-future-a-1021557.html

[12] STATT N. The AI boom is happening all over the world and it's accelerating quickly [EB/OL].(2018-12-12)[2019-01-16]theverge/2018/12/12/18136929/artificial-intelligence-ai-index-report-2018-machine-learning-global-progress-research

[13] SCHRAGE M. Revolutionary Evolutionist [EB/OL].(1995-07-01)[2019-01-27]wired/1995/07/dawkins/

[14] DAWKINS R. A.I. Might Run the World Better Than Humans Do[EB/OL].[2019-01-27]promsagency/index.php/Site/details/48

[15] DREID N. Can an MIT Computer Learn to Scare You? [EB/OL].(2016-10-30)[2019-01-17]chronicle/article/Can-an-MIT-Computer-Learn-to/238237

[16] 张慧瑜：人工智能的忧思与可能性《南风窗》2018年第2期总第610期2018-01-30 aisixiang/data/108167.html

[17] Dr. J. The Last Iceberg – How Artificial Intelligence Is Unlocking Humanities Deep Frozen Secrets [EB/OL].(2018-03-03)[2019-02-08]datascientistinsights/2018/03/03/the-last-iceberg-how-artificial-intelligence-is-unlocking-humanities-deep-frozen-secrets/

[18] CAVE S. To save us from a Kafkaesque future we must democratise AI [EB/OL].(2019-01-04)[2019-01-27]theguardian/commentisfree/2019/jan/04/future-democratise-ai-artificial-intelligence-power

[19] MOROZOV E. Capitalism's New Clothes [EB/OL].(2019-02-04)[2019-02-08]thebaffler/latest/capitalisms-new-clothes-morozov

[20] DALEY A. The Real Threats of Artificial Intelligence [EB/OL].(2018-03-27)[2019-01-17]theamericanconsumer/2018/03/the-real-threats-of-artificial-intelligence/

采编：Philontier编辑组

图片：网络

审校：Philontier编辑组

排版：南山

报名加入philontier常驻作者团队！