AI 永远无法比肩人类的智能
AI 永远无法比肩人类的智能
前段时间，谷歌工程师声称自家的 AI 聊天机器人 LaMDA 具有了意识，引发了一片混乱。
LaMDA 是一种大型语言模型(LLM)，能够基于任何给定文本预测出可能出现的下一个单词。许多对话在某种程度上都很容易预测，所以这种系统可以推动并保持对话流畅地进行。LaMDA 在这一点上表现非常出色，以至于这位叫 Blake Lemoine 的工程师开始怀疑它产生了类人的知觉。
随着 LLM 越来越普遍，变得越来越强大，人类对 LLM 的看法也越发不同。的确，如今的系统已经超越了许多“常识”语言推理的基准，但很多系统仍然缺乏常识，很容易出现胡说八道、不合逻辑和危险的建议。所以这就引出了一个很矛盾的问题：为什么这些系统如此地智能，同时又如此地具有局限性?
最近，图灵奖得主 Yann LeCun 与纽约大学的博士后研究员 Jacob Browning 在 Noema 杂志上共同发表了一篇文章，对这个问题给出了回答：根本问题不在于 AI 本身，而是在于语言的有限性。他给出了这样的论证：1.语言只承载了人类全部知识的一小部分。2.大部分人类知识和所有动物的知识都是非语言的(非象征性的)。3.因此大型语言模型无法接近人类水平的智能。
显然，LeCun 认为我们应当摒弃关于语言与思维之间关系的旧假设，即语言与思维具有同一性。在他看来，这些语言系统天生就是「肤浅」的，即使是地球上最先进的 AI，也永远不可能获得人类所具有的全部思维。
这种观点实际上否认了图灵测试的有效性。图灵测试的基础是，如果一台机器说出它要说的一切，就意味着它知道自己在说什么，因为知道正确的句子以及何时使用这些句子会耗尽它们的知识。LeCun 首先从语言哲学的角度谈起，来阐释图灵测试的思想基础及其不合理之处。
对语言使用者来说，处理问题的能力才是必不可少的，但是能够处理问题并不意味着他们具备相关的语言技能。这个情况在很多地方都有体现，比如科学课会要求学生演讲，但学生得到的分数主要还是基于他们的实验效果。尤其是在人文学科之外，能够谈论某事往往只停留在表面，还是让事情顺利运转起来的技能更有用、更重要。
一旦我们深入到表面以下，就更容易看到系统的局限性：它们的注意力持续时间和记忆大致只够一段文字。如果我们是在跟 LLM 对话，那这一点很容易被忽略，因为在对话中人倾向于只关注最后一两个回复和即将获得的回复。
但是，处理更复杂的对话的技能，比如积极倾听、回忆之前的对话、坚持谈论一个话题来表明某个特定观点，同时避开干扰等等，这些技能都需要系统有更强的注意力和更大的记忆容量。这便进一步削弱了系统的理解能力：我们可以轻易采用每隔几分钟换种观点、换说另一种语言等方式去欺骗系统。如果回答你必须得回溯太多步骤的话，系统就会从头开始，接受和旧评论一致的新观点，跟着你换一种语言或者承认自己相信你说的任何话。要形成一种连贯的世界观所必需的理解远远超出了系统的能力范围。
最后，LeCun 总结，LMM 没有稳定的身体，也不能持久地感知世界，所以它们只能更多地关注语言，因此 LLM 的常识总是肤浅的。我们的目标是让人工智能系统关注所谈论的世界，而不是语言本身 —— 虽然 LLM 并不理解这两者的区别。我们无法仅仅通过语言来达到深刻的理解，经过对 LLM 的研究，我们可以看明白，仅仅从语言本身能了解的东西是多么少。
图片来源于网络，如有侵权请联系删除。
版权保护: 本文由 电信网,中国电信,中国电信网上营业厅,中国电信客服电话,中国电信营业厅,中国电信宽带,电信宽带套餐价格表,电信宽带套餐,中国电信宽带官网 原创，转载请保留链接: http://www.189e.com/html/11171.html
- 上一篇：开售 小米纯净式智能加湿器 2
- 下一篇：刻不容缓 电脑清灰
