• 通用人工智能是不可能实现的?
  • 发布于 1个月前
  • 57 热度
    0 评论
随着 AI 的普及,关于 AI 的谎言和误解也日益增多。多家市值超过万亿美元的大公司 CEO 频繁传播不实信息,这些信息被记者不加甄别地当成事实报道。这些谎言已经在大众媒体的各个层面大量传播,造成了人们对 AI 的极度误解。这简直是一场灾难。在这篇文章中,我将基于我作为主要开发者、联合创始人及多家与 AI 相关公司的董事的经历,分享我的看法。我们将讨论 AI 领域中最为人们误解的话题之一:通用人工智能(Artificial General Intelligence,AGI)。

AI 很快就能比你聪明吗?先剧透一下,可能性不大。

AI 的本质与常见误解

AI 是一项强大而复杂的技术,但它往往被当作一个热门概念而没被充分理解。因此,“AI” 这一术语几乎被用来指代任何科技产品。我看到有人将 AI 与区块链、Web 3.0 以及其他一些完全不相关的技术趋势混为一谈。这种将 AI 与一般技术混淆的做法,使得许多非技术人士开始将 AI 视为技术本身。我认为这是许多人轻信 AI 比实际影响大得多的主要原因之一。


仅因某人声称一项技术采用了 AI,并不意味着它真的采用了 AI。此外,即使一项技术确实采用了 AI,这种随意的引入并不能自动提升其性能。如果管道胶突然成为一种流行技术,那么创业公司可能会开始在他们的键盘上添加管道胶,以便能够标榜 “采用管道胶制作”,大公司也可能在现有产品上添加一小块管道胶,声称 “现采用管道胶制造”。这并不会减少管道胶的实用性,但却让人难以识别管道胶的真正用途。

AI 是一个工具,它既不是神灵,也不是神物。事实上,在很多方面,AI 就像软件版的管道胶。你几乎可以用管道胶制作任何东西,但由于其本身的不稳定性,如果试图用它制作大型物件,它可能会散架。由于管道胶在许多方面表现出色,它在航空、赛车、家居改造商店及风管中都找到了应用。没错,管道胶最初是为粘合暖通空调系统的管道而开发的。正如管道胶一样,AI 在某些方面非常适用,有些事情 AI 非常擅长,而有些事情 AI 却无法做到。

AI 擅长的领域

AI 之所以如此受欢迎,是因为它使计算机能够完成以前只有人类才能完成的任务。AI 能识别图片内容、回答文本问题、生成美观的图像和视频,并且还有一些工具可以生成相当高质量的音乐。AI 几乎可以瞬间完成这些任务,并且效果相当出色。


这实在是令人印象深刻且实用。例如,我用 MidJourney 来创作文章的插图,使用 ChatGPT 和 Claude 帮助我在工作中分析文本。我还在尝试制作音乐,使用 Suno 帮助我构思创意。AI 擅长的事项列表正在迅速扩展,许多人已经开始将 AI 技术纳入他们的技能库中,以便更快地完成更高质量的工作。

因此,如果 AI 可以处理所有这些复杂的人类任务,并且它的能力还在不断扩展,那么认为它将继续进步是合理的吗?如果它已经在许多方面超越了人类,那么它何时能在所有方面都超越人类呢?

AI 是愚蠢的
在上一节中,我列举了一些人工智能擅长的复杂主题,现在我却说它愚蠢。这是为什么呢?要理解 AI 为什么愚蠢,你必须了解一些关于 AI 工作方式的知识。与其描述 AI 本身,不如基于每个人都能理解的东西 —— 光来描述 AI 的工作方式。你可能对此有所了解。当光线击中某个弯曲的透明表面时,它可以产生称为焦散(caustics)的美丽图案。

图1.洛桑联邦理工学院已经找到了一种制造玻璃的方法,可以利用这种现象创造艺术。

图2.使用焦散法精心制造的玻璃来创作艺术品

这是一些非常酷的东西,我不知道我是否能像那块玻璃那样完美地画出一个大脑。但是那块玻璃聪明吗?不,玻璃是愚蠢的,制造玻璃的人才是聪明的。玻璃仅仅产生了一个美丽的图像,并不意味着玻璃本身就是聪明的。

人工智能就像多块精致的玻璃,过滤一些输入以实现一些输出。你改变进入 AI 的内容,输出就会改变。但是,与光线不同的是,它处理的是诸如文字和图像之类的东西。

图3.从概念上讲,你可以将人工智能看作是许多过滤器,接受一些输入并创建一些输出。如果你改变输入,你就会得到不同的输出。就像上面显示的图表一样。
你使用的所有前沿 AI 都是将你的输入转换为某种输出的过滤器。

我向一些人描述了这个想法,我常常得到这样的回应:“那不就是所有人都在做的事情吗,他们对刺激作出反应,他们对周围的世界做出反应。也许那块玻璃和一个人一样聪明。”

不要拟人化玻璃
人类是极其复杂的生物,经历了数十亿年的进化,并适应了各种各样的环境。利用我们的大脑、感官和灵活的身体,我们登上了竞争激烈的食物链顶端,在这里生死攸关。我们利用在食物链上的高位赢得了一些列的丰盛食物,并在千百年的过程中,利用过剩的热量进化出世界上最复杂的计算系统:人类大脑。
我们出生时就拥有一个复杂的大脑,这个大脑在我们一生中不断地基于我们与世界、他人以及自己的互动而演化。在这个发展过程中,我们寻求新的挑战来进一步加强我们的思维,并寻求更多的想法来测试可能的极限。我们中的一些人找到伴侣并创造新的人类,这些新的人类继承了他们父母的混合信息,以将人类的延续推向未来的亿万年。

要训练 AI,你需要导入 PyTorch,加载一些标记为猫或狗的图像示例,然后调整模型中的参数,直到它大多数时间都能得到正确的答案。

如果你对 AI 有所了解,也对人类有所了解,那么任何关于现代 AI 系统甚至远远赶上人类的说法都是可笑的。AI 之所以与人类相提并论,是因为它旨在做人类能做的事情,灵感来源于人类大脑的工作方式。但这并不意味着 AI 甚至接近于达到人类所能达到的惊人复杂性。

图4.人类大脑的复杂性十分惊人,人类仍在努力理解这一点。非常聪明的人们花费一生的时间研究大脑的特定部分(左图)。另一方面,大多数 AI 系统,或多或少可以在一篇文章中解释完毕(右图)。
你可能会在这一点上回应:“好吧,但 AI 不仅仅是判断图像中是否包含猫或狗,它还可以创造艺术,写诗,做各种疯狂的事情。这肯定需要智力。”

AI 并不创造任何东西
AI 是复制的。
ChatGPT 在回答你的问题时,本质上是说:“基于我所看到的所有人类的说法,对我收到的提示给出一个合理的回答”。

你可以将 AI 视为基于人类数据制作的过滤器。一个 AI 研究者的工作是巧妙地设计 AI 模型中的各种过滤器,以最好地模仿人类的例子。
在某些方面,你可以将真实的人类示例想象成 AI 模型,这个 AI 模型使用这个例子的一部分那个例子的一部分来生成输出。

更准确地说,应该认为 AI 模型是使用例子来决定什么是适当的输出,而不是创造一个新的输出。是的,模型中的一些例子是受版权保护的。是的,有时模型的输出也是版权作品的结果。这是 AI 目前面临的一个重大问题,具有许多有趣的法律、技术和道德含义。我计划在未来的文章中讨论这个问题。
当人类向 AI 提问时,他们对回答感到印象深刻是正当的。可笑的是,许多人在这里就停下来了,认为 AI 比他们聪明。他们认为 AI “想到了” 答案,而不是 AI 是基于复杂的人类例子组合回忆出答案的。

如果深入一点,问更多的问题,了解 AI 更多是回忆而不是推理,你会发现 AI 出奇地愚蠢。

让一个强大的图像生成模型生成一张没有大象的图片。MidJourney 是基于互联网数据训练的。在互联网上,一张汽车的图片不会被描述为 “包含不是大象的东西的图片”。只有当图片包含大象时,才会提到大象。因此,尽管生成了视觉上吸引人的响应,该模型无法完成这一简单的请求。MidJourney 擅长绘图,但它不理解 “没有大象的图片”。
这些系统需要人类仔细定制,以创造高质量的输出。制作 AI 模型的过程需要巨大的计算机、大量高质量的参考数据以供学习,以及大量的时间。但它们仍然会做愚蠢的事情。

嘿,人类也会犯错,但 AI 是一直犯错。AI 需要人类来弄清楚模型为什么会犯错,然后人类需要调整模型以获得更好的输出。有时有效,有时无效。

AI 研究者的任务艰巨,需要将一个回忆人类例子的愚蠢系统制造成一个一致且高效的技术。你会惊讶于幕后进行的各种对话,这绝对不是魔法。
大型 AI 公司的 CEO 们非常清楚这一点,但他们希望继续炒作,以保持资金流动。许多实际构建这些模型的研究者并没有相同的目标,并且并不是很喜欢他们的技术被用来支持说谎者。

Yann LeCun,Meta 前首席数据科学家,回应 Elon Musk。

结论
AI 远没有人类复杂。AI 之所以能做人类能做的事情,只是因为它们被设计成可以模仿人类。即使有大量的资金和大量的人力,制造出不愚蠢的 AI 模型仍然很困难。这并不意味着 AI 不强大,就像管道胶一样,它有自己的应用范围。但是,仅仅因为管道胶有用,就说它是智能的是不对的。

未来 AI 能否实现 “通用智能”?也许可以,也许我们会先开发出通用智能的管道胶。
用户评论