协作机器人的控制方法（人机对齐用人性的缰绳）

协作机器人的控制方法（人机对齐用人性的缰绳）每个话题点都以现实世界中的具体问题作为开篇，从而深入浅出地讲解该领域人工智能的超级智慧如何造就，生动地陈述科学家们如何吸取经验做出改变，如同在欣赏关于人与缔造之魔法的制衡角力，一篇关于智慧和人性关怀的史诗。全书分为三个篇章的组成部分，分别为“预警”，“自主”和“示范”，其中“预警”偏重于介绍人工智能应用中歧视的存在和从训练机理中阐释偏差出现的原因和对其进行纠正的尝试；“自主”为我们揭示了人工智能如何自我迭代演化，在不断的训练和学习中让超级智慧超越人脑；“示范”则侧重于解释人工智能对人类行为的学习，以及如何被修正、塑造和纠偏。当人类开始将越来越多需要繁琐操作的数据分析甚至判断交付给人工智能，人们发现商业人脸识别软件对深肤色女性的识别错误率是浅肤色男性的100倍以上；发现筛选简历的智能系统软件会将女性应聘工程师的简历拒之门外；在司法过程的风险评判中对于黑人的风险计算式白人的2倍……人类世界中还

有赖于人工智能技术的广泛普及，“AI绘画”、“AI智能创作”等技术逐渐嵌入人们日常生活中所能接触到的方方面面之中。就以修图软件里被广泛植入和热捧的AI工具为例，人们将自己的真实照片、信笔创作的涂鸦和看起来不够完美的习作放进AI，智能的力量会返还给你一张看起来质感绝佳的动漫角色肖像作品，有时令人出乎意料，更多人为之惊艳倾倒。

可是，在这股甚嚣尘上的猎奇风潮中，有些人也开始思考“为什么”和“凭什么”。

将一张抽象的线条画放进“AI”创作，将得出来的照片继续重复操作，直到最终，会呈现出一个越来越同质化的动漫形象——美丽的、略带忧伤、服饰华丽的青春少女。在人工智能的逻辑中，这就是美的标准，同时也是AI为使用者制定的一套审美标尺。

难道其他相貌、其他年龄、其他性别不配被选择吗？继续深思下去，这显然是人工智能的价值取向问题。而这一问题，也只是关于人工智能价值观伦理的诸多问题中较为轻松的其中一个。

当人类开始将越来越多需要繁琐操作的数据分析甚至判断交付给人工智能，人们发现商业人脸识别软件对深肤色女性的识别错误率是浅肤色男性的100倍以上；发现筛选简历的智能系统软件会将女性应聘工程师的简历拒之门外；在司法过程的风险评判中对于黑人的风险计算式白人的2倍……人类世界中还未曾完全消除的偏见，被人工智能变本加厉地呈现出来，加剧了社会的不平等。

这就是科普作家布莱恩·克里斯汀2020年著作《人机对齐》就讨论了这样的问题，当人工智能逐渐深入人类社会，我们终将面对由冰冷的计算和统计来定义原则、权利、理想甚至正义，如何保证这些被造就出的神奇“魔法”能够一直以我们想要的方式行事？——这就是“对齐”定义的由来。

唯有清楚地洞悉人工智能的成长机制，才能在相应的问题中有所应对，即要解决人工智能可能存在的加剧不平等和歧视问题，必须先追溯其背后在数据集中运行的训练方法、学习策略。令人惊喜的是，《人机对齐》也是目前我在市面上所能看到的、为数不多能够将现阶段流行的人工智能学习原理讲得清楚透彻而趣味生动的一本书。

全书分为三个篇章的组成部分，分别为“预警”，“自主”和“示范”，其中“预警”偏重于介绍人工智能应用中歧视的存在和从训练机理中阐释偏差出现的原因和对其进行纠正的尝试；“自主”为我们揭示了人工智能如何自我迭代演化，在不断的训练和学习中让超级智慧超越人脑；“示范”则侧重于解释人工智能对人类行为的学习，以及如何被修正、塑造和纠偏。

每个话题点都以现实世界中的具体问题作为开篇，从而深入浅出地讲解该领域人工智能的超级智慧如何造就，生动地陈述科学家们如何吸取经验做出改变，如同在欣赏关于人与缔造之魔法的制衡角力，一篇关于智慧和人性关怀的史诗。

曾几何时GPT已经成为日常工作和生活中不可或缺的工具。然而比起高效便捷的智能化AI更值得人们欣喜的是，背后组织这套学习训练逻辑的技术人员的劳动也在逐渐被看到和被讨论。“人造智慧”这把利刃如何更好地为充满丰富情感和正义信仰的人类本身所用，并造福于社会未来，所谓“对齐”问题的背后，是人性的缰绳，在牢牢牵扯着技术这头猛兽。

(2023.07.15)