OpenAI 前首席科学家 Ilya Sutskever 在 5 月离开他共同创立的人工智能研究公司后，透露了他的下一个主要项目。
三人与 OpenAI 校友 Daniel Levy 和苹果前 AI 负责人 Daniel Gross 一起成立了Safe Superintelligence Inc. (SSI)，一家专注于构建安全超级智能系统的初创公司。
SSI 的成立是在 OpenAI 首席执行官 Sam Altman 于 2023 年 11 月短暂下台之后进行的，Sutskever 在其中发挥了核心作用，后来对此表示遗憾。
在 SSI 网站上的一条消息中，创始人表示：
“我们将安全性和能力视为一环，将其视为需要通过革命性工程和科学突破来解决的技术问题。我们计划尽快提高能力，同时确保我们的安全性始终处于领先地位。这样，我们就可以安心地扩大规模。
我们的专注意味着我们不会受到管理开销或产品周期的干扰，而我们的商业模式意味着安全、保障和进步都不会受到短期商业压力的影响。”
Sutskever 在 SSI 的工作是他在 OpenAI 工作的延续，他在 OpenAI 是超级对齐团队的一员，负责设计强大的新 AI 系统的控制方法。然而，该团队在 Sutskever 高调离职后解散了。
SSI 表示，它将“一心一意、只有一个重点、一个目标和一个产品”地追求安全的超级智能。这种单一的重点与近年来 OpenAI、DeepMind 和 Anthropic 等主要 AI 实验室的多元化形成鲜明对比。
只有时间才能告诉我们 Sutskever 的团队是否能在实现安全超级智能 AI 的崇高目标方面取得实质性进展。批评者认为，这一挑战不仅关乎工程，也关乎哲学。然而，SSI 创始人的背景意味着，他们的努力将受到人们的极大关注。
与此同时，预计会看到“伊利亚看到了什么？”模因的复苏：
