用心打造
VPS知识分享网站

OpenAI联合创始人Ilya Sutskever的新创业公司旨在实现“安全超级智能”

OpenAI 前首席科学家 Ilya Sutskever 在 5 月离开他共同创立的人工智能研究公司后,透露了他的下一个主要项目。

OpenAI联合创始人Ilya Sutskever的新创业公司旨在实现“安全超级智能”

三人与 OpenAI 校友 Daniel Levy 和苹果前 AI 负责人 Daniel Gross 一起成立了Safe Superintelligence Inc. (SSI),一家专注于构建安全超级智能系统的初创公司。

SSI 的成立是在 OpenAI 首席执行官 Sam Altman 于 2023 年 11 月短暂下台之后进行的,Sutskever 在其中发挥了核心作用,后来对此表示遗憾。

在 SSI 网站上的一条消息中,创始人表示:

“我们将安全性和能力视为一环,将其视为需要通过革命性工程和科学突破来解决的技术问题。我们计划尽快提高能力,同时确保我们的安全性始终处于领先地位。这样,我们就可以安心地扩大规模。 

我们的专注意味着我们不会受到管理开销或产品周期的干扰,而我们的商业模式意味着安全、保障和进步都不会受到短期商业压力的影响。”

Sutskever 在 SSI 的工作是他在 OpenAI 工作的延续,他在 OpenAI 是超级对齐团队的一员,负责设计强大的新 AI 系统的控制方法。然而,该团队在 Sutskever 高调离职后解散了。

SSI 表示,它将“一心一意、只有一个重点、一个目标和一个产品”地追求安全的超级智能。这种单一的重点与近年来 OpenAI、DeepMind 和 Anthropic 等主要 AI 实验室的多元化形成鲜明对比。

只有时间才能告诉我们 Sutskever 的团队是否能在实现安全超级智能 AI 的崇高目标方面取得实质性进展。批评者认为,这一挑战不仅关乎工程,也关乎哲学。然而,SSI 创始人的背景意味着,他们的努力将受到人们的极大关注。

与此同时,预计会看到“伊利亚看到了什么?”模因的复苏:

赞(0)
未经允许不得转载;国外vps网站 » OpenAI联合创始人Ilya Sutskever的新创业公司旨在实现“安全超级智能”
分享到