人工ai技术到底有多强（谷歌发布5400亿参数的语言模型）

人工ai技术到底有多强（谷歌发布5400亿参数的语言模型）语言模型PaLM使用了谷歌最新的Pathways人工智能架构，Pathways架构是一个能同时执行多人工智能任务 、具有快速学习和对真实世界更好的理解能力等众多优点，用一句话解释Pathways就是“有一个“灵活的”模型，能 “干所有的事”。Pathways人工智能架构语言模型起源于语音识别，输入一段音频数据，语音识别系统通常会生成多个句子作为候选，究竟哪个句子更合理，就需要用到语言模型对候选句子进行排序。语言模型是这样一个模型：对于任意的词序列，它能够计算出这个序列是一句话的概率。拥有5400亿参数的PaLM有哪些独到之处？

最近几年，关于人工智能方面的技术成果如雨后春笋般涌现，比如使用了一种全新神经网络（NN）的人工智能高级翻译器“DeepL”，其翻译的准确率是谷歌、微软等科技巨头开发的翻译器的三倍以上；还有挑战大学入学考试的人工智能“Higashi Robo-kun”已经可以从日本满分为200分的“高考”英语笔试题中获得185分的高分。

在2022年4月5日，谷歌在人工智能领域方面宣布了一项新的突破：该公司的研究团队发布了一套具有5400亿参数的自然语言模型PaLM（Pathways Language Model），基于该模型的人工智能可以完成解释笑话、编写代码、学习非英语语言和解答文字中的算术问题等多种任务。今天我们就来科普一些这方面的知识吧！

什么是语言模型？

n-元语法模型公式

语言模型起源于语音识别，输入一段音频数据，语音识别系统通常会生成多个句子作为候选，究竟哪个句子更合理，就需要用到语言模型对候选句子进行排序。

语言模型是这样一个模型：对于任意的词序列，它能够计算出这个序列是一句话的概率。

拥有5400亿参数的PaLM有哪些独到之处？

Pathways人工智能架构

语言模型PaLM使用了谷歌最新的Pathways人工智能架构，Pathways架构是一个能同时执行多人工智能任务 、具有快速学习和对真实世界更好的理解能力等众多优点，用一句话解释Pathways就是“有一个“灵活的”模型，能 “干所有的事”。

在Pathways架构的基础上，PaLM使用由网页、书籍、维基百科、GitHub代码等组成的英语和其他多语言资料集组合的数据进行训练，而训练是在6144个高性能芯片上完成，这是迄今为止用于训练的最大的基于TPU（张量处理单元：是一款为机器学习而定制的芯片）的系统配置。

PaLM的人工智能有多强？

PaLM解答小学数学问题

基于PaLM的人工智能可以处理句子中的计算问题。比如研究人员使用专门用于测试9-12岁儿童的一些文字数学题来交给基于PaLM的人工智能计算，结果人工智能的答案正确率为58%，而这些问题9至12岁的人类儿童的正确回答率为60%，这说明基于PaLM的人工智能智商已经达到了9至12岁的人类儿童的水平。

展示PaLM性能的示例：标记因果关系、概念理解、从表情符号中猜测电影以及查找同义词和反义词

研究人员在随后的测试中，也验证了PaLM惊人的语言理解和生成能力。例如，PaLM模型可以区分文章的因果关系，理解上下文中的概念组合，并且可以从表情符号中猜测电影的名字。

PaLM 解释原创笑话

最令人惊讶的是PaLM可以给目前网上找不到的新笑话提供高水平的解释。事实上，在人工智能中解释笑话并非易事，解释笑话是人工智能在经过多步逻辑推理、综合知识和深层语言理解后，才能根据笑话的场景生成明确的解释。

PaLM进入到人类的日常生活中了吗？

谷歌的服务器机房

研究人员指出将基于PaLM的人工智能引入到人类的日常生活中目前还存在很多挑战。比如，像拥有5400亿参数的PaLM在使用时会消耗大量的电力，如果按照现在的技术水平将其普及给大众，其耗电量和背后的成本根本不是普通人能负担得起的。因此，在耗电量和成本问题解决之前，像PaLM的这种高级人工智能技术是无法走进人们的生活的！当然大家也不用担心，比如人类在20世纪刚发明出电脑时，电脑还是一个30吨重的巨型物体，所以我们一起期待一下超级人工智能的未来吧！

人类研制出的第一台计算机非常笨重

最后总结：

人工智能的性能正在不断发展，各国科学家们正在研究的下一代人工智能架构是训练一个模型便能让其做成千上万件事，而不是和现在的一样只做一件事。通俗来说，下一代的人工智能不仅能处理许多独立的任务，而且还能结合自身现有的技能，更快更有效地学习新的技能并处理新的任务。因此，小编认为随着科技的发展，人工智能或许有一天真的会像人类的大脑一样善于思考和学习！

作者｜文刀刘

来源｜郑州市第二届科普征文大赛投稿入选作品

声明｜观点仅代表作者本人，不代表本号立场