查看原文
其他

独家对话Ilya Sutskever的灵魂八问,有关SSI的一切|投资人笔记

硅兔君 硅兔君
2024-10-21


作者|Xuushan,编辑|蔓蔓周




一个人扛起50亿估值,Ilya想要打造什么样的AGI。

9月5日,据路透社报道,由OpenAI前首席科学家Ilya Sutskever创办的Safe Superintelligence(SSI)已筹集10亿美元现金知情人士透露,融资后该公司估值达到50亿美元。公司计划利用这笔资金购买计算能力并聘请顶尖人才,帮助开发远超人类能力的安全人工智能系统。SSI官方也已证实这一消息准确。


SSI成立于2024年6月,初创团队有Ilya Sutskever、Daniel Levy、Daniel Gross三人。目前,Ilya Sutskever担任首席科学家(Chief scientist),Daniel Levy担任研发总监(Principal scientist),而Daniel Gross担任CEO,负责计算能力和筹款。SSI现有拥有10名员工,以常规的营利性结构运营。

SSI在没有发布任何产品,成立不到4月的情况下能够拿到高额融资和高额估值,也正是基于这三人强大行业背景。投资者愿意对专注于基础人工智能研究的杰出人才进行超额押注。

Ilya Sutskever是人工智能领域最具影响力的技术专家之一,师从被称为“人工智能教父”的Geoffrey Hinton,也是扩展假设的早期倡导者。该假设认为,AI性能随着大量计算能力的提高而提高,这也为生成式AI爆发奠定了基础。

Daniel Gross曾担任苹果公司AI技术负责人,也曾是前Y Combinator合伙人,而 Daniel Levy则是OpenAI的前员工。

现阶段,SSI将专注于组建一支由研究人员和工程师组成的小型团队,团队分布在加利福尼亚州的帕洛阿托以及以色的列特拉维夫。

本次投资者包括顶级风险投资公司Andreessen Horowitz、Sequoia Capital、DST Global和SV Angel。由Nat Friedman和SSI首席执行官Daniel Gross运营的投资合伙企业NFDG也参与其中。

Gross在接受采访时表示:“对我们来说,重要的是要有投资者理解、尊重和支持我们的使命,我们的使命是直接进入安全的超级智能,特别是在将产品推向市场之前,我们需要花费几年时间进行研发。”

在SSI融资信息释出之后,路透社第一时间与Ilya Sutskever进行深度交流,Ilya也回应了有关SSI是否开源、未来发展等一系列问题。从采访中可以看到,他对于超级AGI的安全工作高度重视。

以下为硅兔君在不影响原文的情况下进行编译,enjoy!


01

Q:成立SSI的理由


Ilya:“我们发现了一座与我之前研究的有点不同的山……一旦你爬上这座山的顶峰,范式就会改变……我们对人工智能的了解将再次改变。到那时,最重要的超级智能安全工作将会变得重要。”

“我们的第一个产品将是有关超级智能的安全。”


02

Q:你会在超级智能之前发明出与人类一样聪明的人工智能吗?


Ilya:“我认为问题在于:它安全吗?它是世界上一股向善的力量吗?我认为当我们做到这一点时,世界将会发生巨大的变化,因此很难向你提供我们明确计划。

我可以告诉你,世界将会变得非常不同。世界对AI领域正发生的事看法将非常不同,而且很难理解。这将是一场更加激烈的对话。这可能不仅仅取决于我们自己做出的决定。”


03

Q:SSI如何判断什么是安全的人工智能?


Ilya:“想要能够完全回答你的问题,我们需要做一些重要的研究。特别是如果你和我们一样认为事情会发生很大变化……许多伟大的想法正在觉醒。

很多人都在思考,随着AI越来越强大,(我们)需要采取哪些步骤、以及进行哪些测试?这有点棘手。还有很多研究要做。我不想说现在已经有了明确的答案。但这是我们要弄清楚的事情之一。”


04

Q:关于扩展假设和人工智能安全


Ilya:“每个人都只说‘扩展假设’。每个人都忽略了问我们到底在扩展什么?过去十年里,深度学习领域的重大突破是基于扩展假设的一个特殊公式。但它会改变……随着它的变化,系统的能力将会增加。安全问题将更为严峻,而这正是我们需要解决的问题。”


05

Q:关于开源SSI的研究


Ilya:“目前,并非所有人工智能公司都会开源其工作,我们也是如此。但我认为,由于某些因素,(我们)将有很多机会开源相关的超级智能的安全工作。也许不是全部,但肯定会有一些。”


06

Q:关于其他人工智能公司的安全研究工作


Ilya:“我其实对这个行业评价很高。我认为,随着人们不断进步,所有不同的公司都会意识到——也许时间略有不同——依据他们所面临挑战的性质。因此,我们不会说我们认为没有人能做到,而是说我们认为我们可以做出贡献。”


07

Q:关于招聘什么样的员工


Ilya:“有些人可以长时间工作,但他们很快就会回到原来的轨道。这不太符合我们的风格。但如果你擅长做一些与众不同的事情,那么你就有可能(在我们这里)做出一些特别的事情。”

“让我们感到兴奋的是,当你发现这位员工是对我们的工作感兴趣,而不是对风口或者一些炒作内容感兴趣。”

“我们将花费数小时审查候选人是否‘品行良好’,并且寻找具有非凡能力的人,而不是过分强调该领域的资历和经验。”


08

Q:关于SSI的未来发展


Ilya:“我们将以不同于OpenAI的方式进行扩展。”

该公司计划与云提供商和芯片公司合作,为其计算能力需求提供资金,但尚未决定与哪些公司合作。

参考链接:
Ilya Sutskever on how AI will change and his new startup Safe Superintelligence(Reuters)



半年狂赚5亿美元,两位MIT博士打造首个净水独角兽

Get Rich

点赞+在看,搞钱稳赚!


继续滑动看下一个
硅兔君
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存