• 扎克伯格:Meta正在开发Llama 3,很快会来
  • 发布于 2个月前
  • 110 热度
    0 评论
  • 离人愁
  • 0 粉丝 23 篇博客
  •   
激发生成式 AI(Generative AI)热潮的一种普遍信念是:科技行业正在向实现超越人类、近似于神的智能迈进。OpenAI 的既定使命是创造通用人工智能(AGI),谷歌 AI 部门的负责人 Demis Hassabis 也怀有同样的抱负。

如今,Meta CEO Mark Zuckerberg 亦投身于这场竞争。虽然他没有明确设定实现 AGI 的具体时间表,甚至对其概念也未有确切定义,但他决心去打造这种智能。同时,他正在对公司进行重大调整,将 Meta 的 AI 研究团队 FAIR 与负责开发跨 Meta 应用的生成式 AI 产品的团队整合在一起。他的目的是让 Meta 的 AI 直接惠及数十亿用户。

Zuckerberg 在一次专访中说:“我们形成了这样一个认知:为了打造我们梦想中的产品,我们需要致力于开发通用智能。” 他补充说:“这一点非常重要,因为很多顶尖的研究者都渴望投身于这些更具挑战性的课题中。”

这里,Zuckerberg 大胆地说出了通常不会公开讨论的观点。在 AI 领域,争夺顶尖人才的竞争前所未有地激烈,各大公司都在争夺极为有限的研究人员和工程师资源。具备相关专业技能的人才能够获得高达百万美元以上的惊人薪酬。像 Zuckerberg 这样的 CEO 经常亲自出马,以争取关键人才或阻止他们跳槽到竞争对手那边。

“我们已经习惯了激烈的人才争夺战。” 他说,“但这次的情况有所不同,因为多家公司都在争夺相同的人才,同时有许多风险投资家和机构在不同项目上投入资金,这使得人们更容易开展各种外部项目。”

在人才之后,AI 领域最稀缺的资源就是训练和运行大模型所需的计算能力。在这方面,Zuckerberg 显得信心十足。他透露,到今年年底,Meta 将拥有超过 340,000 块 Nvidia 的 H100 GPU,这是行业内构建生成式 AI 的首选芯片。他强调:“我们已经建立了一个可能超越任何其他公司的规模,来进行这项工作。”

外部研究显示,Meta 在 2023 年的 H100 出货量预计为 150,000 颗与 Microsoft 持平,至少是其他所有公司的三倍。据 Zuckerberg 透露,算上 Nvidia 的 A100s 和其他 AI 芯片,到 2024 年底,Meta 的 GPU 库存将达到近 60 万个。

他补充说:“我们能力已经特别强大,可能很多人还没有意识到这一点。”

一.认识
对包括 Zuckerberg 在内的所有从事 AI 工作的人来说,对 AGI 的定义仍然模糊不清,也不确定何时能实现。“我无法用一句话简洁地定义它。” 他告诉我,“人们可以对‘通用智能’是类似人类智能、超越人类智能,还是未来某种超级智能进行争论。但对我而言,重要的是它的广泛性 —— 智能需要具备各种能力,包括推理和直觉。”

他认为 AGI 的最终到来将是一个逐步的过程,而非某个具体时刻的突破。“我并不确定是否存在某个具体的临界点会让人产生深刻感受。”

Zuckerberg 解释说,Meta 对 AGI 的更广泛关注是受到去年发布的其最新 LLM Llama 2 的影响。公司最初认为,让它具备生成代码的能力对于人们在 Meta 应用中使用 LLM 并不实际。但这仍是发展更智能 AI 的重要技能,因此 Meta 依然开发了这一功能。

“我们曾假设编程并不那么重要,因为在 WhatsApp 这样的应用中,用户不太可能提出编程相关的问题。” 他表示,“但结果显示,编程在帮助 LLM 理解知识的严谨结构和层次,以及培养更加直观的逻辑感方面,实际上非常关键。”

Meta 目前正在开发 Llama 3,它将包含代码生成功能。就像 Google 的新型 Gemini 模型一样,Meta 也将重点放在更高级的推理和规划能力上。

他说:“Llama 2 虽不是行业领先模型,却是最优秀的开源模型。对于 Llama 3 及其后续版本,我们的目标是构建行业最前沿、甚至领先的模型。”

二.开源与闭源
关于最终控制 AGI 的权力将落入谁手中,这一问题一直备受争议,正如 OpenAI 最近的动荡所显示的那样。Zuckerberg 凭借对公司股票的投票控制权,在 Meta 拥有绝对权力。这使他处于一个非常有利的位置,如果 AGI 最终实现,这种力量可能会被放大到危险的程度。他的答案是,至少在大多数情况下,Meta 迄今为止所遵循的,可以被视为开源的 Llama 开发路线。

他说:“我认为这里的一个主要挑战是,如果你构建了一些真正有价值的东西,它最终可能会变得高度集中。而如果你让它更开放,那么就可以解决不平等获取机会和价值可能带来的一系列问题。因此,这正是整个开源愿景的核心。”

在不具体指名的情况下,他对比了 Meta 和 OpenAI 的做法。OpenAI 最初的目标是开源其模型,但随着时间推移变得越来越不透明。“有些公司原本是开放的,他们发布自己的所有工作,并谈论要开源一切。但现在,人们逐渐意识到这些工作极具价值,开始选择不再分享。”

尽管 Sam Altman 和其他人强调闭环 AI 开发的安全优势,但 Zuckerberg 认为这更像是一种精明的商业策略。他还指出,到目前为止部署的模型并未造成重大损害。

“那些最初处于领先地位的大公司,在很多情况下也是最积极呼吁需要为 AI 的构建设置各种防护措施的。” 他对我说。“我相信他们当中有些人确实关心安全,但这与他们的策略高度契合,实在令人惊讶。”

Zuckerberg 当然也有自己的想法。他对 AI 开放愿景的最终目的,仍旧是权力的集中,只不过形式有所不同。Meta 已经拥有比地球上几乎任何公司都多的用户,以及一个盈利丰厚的社交媒体业务。可以说,AI 功能将使他的平台更加吸引人和有用。如果 Meta 能够通过公开发布其模型,有效地规范 AI 的发展,其对整个生态系统的影响将进一步扩大。

还有一个问题:如果 Meta 最终实现了 AGI,是否开源将由 Zuckerberg 最终决定。目前他尚未准备好作出任何承诺。

“只要这是有意义的,并且是安全和负责任的做法,我们通常会倾向于开源。” 他说。“当然,你不想因为之前的承诺而限制自己。”

三.不是转变,而是延伸
在 Meta 的大格局中,Zuckerberg 最近对通用人工智能(AGI)的重视似乎时机有点尴尬。仅仅两年前,他才将公司的名字改为 Meta,明确表示要聚焦于元宇宙的开发。Meta 与 Ray-Ban 合作推出的最新款智能眼镜初现成效,但成熟的增强现实(AR)眼镜的推出似乎还遥遥无期。与此同时,苹果公司最近发布的 Vision Pro 头戴设备,不仅印证了 Zuckerberg 对这类设备看方向很正确,也表明即使虚拟现实 (VR) 仍是小众市场,但其潜力不容忽视。

当然,Zuckerberg 本人并不认为他对 AI 的关注构成了一种战略上的转变。

“我不知道还能怎样更清楚地表明,我们仍然在全力以赴地推进 Reality Labs 和元宇宙项目,” 他在提到 Meta 每年仍在这一领域投入逾 150 亿美元时如是说。Meta 与 Ray-Ban 合作的智能眼镜最近增添了一个视觉 AI 助手功能,能识别物体和进行语言翻译。他认为,生成式 AI 在 Meta 未来硬件开发中将起到更加核心的作用。

他展望的未来是这样的:由 AI 生成的虚拟世界中,充斥着与真人相伴的 AI 角色。他透露,今年将推出一个新平台,允许任何人创造自己的 AI 角色,并通过 Meta 的社交应用进行分享。他甚至暗示,这些 AI 角色或许能够在 Facebook、Instagram 和 Threads 等平台上自主发布内容。

Meta 依然是一家专注于元宇宙的公司,也是全球最大的社交媒体公司。现在,它还在努力打造通用人工智能。Zuckerberg 将这一切视为 “构建未来连接方式” 的宏大使命的一部分。

到目前为止,这种 “连接” 主要体现在人与人之间的互动上。但与 Zuckerberg 的对话让人明显感受到,未来,人与 AI 之间的交流将变得越来越普遍。显然,他认为这个未来既不可避免,又充满了激动人心的可能,无论我们是否已经为之做好准备。
用户评论