今天凌晨，OpenAI 前首席科学家 Ilya Sutskever 向外界透露了他的最新动态。不要再问 Ilya 去哪了，他宣布创立了一家名为「安全超级智能」（Safe SuperIntelligence，简称 SSI）的新公司。而在五月中旬，Ilya 官宣从 OpenAI 离职，并表示会在「适当的时候」披露他的下一个项目。

SSI 公司的唯一重点，是开发安全、强大的通用人工智能（AGI）系统， Ilya 认为「这是我们这个时代最重要的技术问题」，而且公司短期内无意销售各种 AI 产品或服务。

这意味着，他将继续自己的研究工作，避免像 OpenAI、Google 和 Anthropic 等竞争对手所面临的诸多干扰。用 Ilya 的话说，那就是「公司将会完全屏蔽外界的压力，不必应对复杂的大型产品，也不会卷入激烈的竞争之中。」如同新公司名字所描述的那样，Ilya 将 AI 安全视为重中之重。但目前 Ilya 并未明确如何让一个 AI 系统比另一个更安全，或者究竟是什么让它变得安全。

不过，但他也透露，新公司将会尝试通过将工程式创新融入 AI 系统来实现安全性，而不是依赖事后添加的技术限制。我们所说的安全，是指类似于核安全的级别，而不是简单的『信任与安全』概念。值得一提的是，Ilya 不愿公开新公司的资金来源，也未透露他筹集的具体金额。

Ilya 新公司的另外两位联合创始人分别是 Daniel Gross 和 Daniel Levy。Gross 是一位投资者，也是前苹果公司 AI 部门的负责人，因支持包括 Keen Technologies 在内的一些知名 AI 初创公司而备受关注。Keen 由著名程序员、3D 游戏之父约翰·卡马克创立，旨在开发 AGI。公开资料显示，Gross 因创办的 Greplin 公司受到赏识而加入 YC。后来，更名为 Cue 的 Greplin 公司在 2013 年以约 4000 万美元的价格被苹果收购。

借此，年仅 23 岁的 Gross 也就成为了苹果的技术总监，主要负责机器学习与搜索业务。

在苹果公司任职期间，Gross 主要负责将机器学习技术融入 iOS 和 macOS 操作系统中，比如从通信记录中智能识别并提取联系人数据，然后将这些数据整合进通讯录等应用之中。新公司将在加州帕洛阿尔托和以色列特拉维夫设立办公室。而 Ilya 和 Gross 都在以色列长大。Levy 则因在 OpenAI 与 Ilya 共同训练 AI 模型而广受赞誉。

「现在是开展这样一个项目的最佳时机，」Levy 说，「我的愿景与 Ilya 相同：打造一个精干、专注的小团队，致力于实现安全超级智能这一目标。」

彭博社指出，SSI 更像是 OpenAI 初心的回归，但从经济角度来看，它对投资者而言更像是一场赌博。不过鉴于创始团队的背景，SSI 并不缺乏资金支持。

谈到与 OpenAI CEO Sam Altman 的关系时，Ilya 表示两人关系「很好」，并补充说 Sam 对他的这项新事业「基本了解」。

以下是 SSI 公司的公告全文

超级智能已经触手可及。构建安全超级智能（SSI）是我们这个时代最重要的技术难题。我们已经启动了世界上第一个专注于 SSI 的实验室，目标和产品都只有一个：安全超级智能。这个实验室名为「Safe Superintelligence Inc」。SSI 是我们的使命、我们的名称和我们的整个产品路线图，也是我们唯一的关注点。我们的团队、投资人和商业模式都将致力于实现 SSI。

我们将安全性和能力视为通过革命性工程和科学突破来解决的技术难题。我们计划尽快提高能力，同时确保安全性始终保持领先地位。这样，我们就可以安心地扩展规模。我们专注于一个目标（SSI），这意味着不会受到管理开销或产品周期的干扰。我们的商业模式可以确保安全、进步等都不受短期商业压力的影响。

作为一家美国公司，我们在帕洛阿尔托和特拉维夫均设有办事处。在那里，我们有着深厚的根基，并有能力招募顶尖的技术人才。我们正在组建一支精干、顶尖的团队，由世界上最优秀的工程师和研究人员组成。他们将专注于 SSI，不做其他任何事情。如果你是这样的人，我们将提供一个机会，让你从事一生的事业，帮助解决我们这个时代最重要的技术挑战。
现在是时候加入我们了。
Ilya Sutskever, Daniel Gross, Daniel Levy
June 19, 2024