3

Sam Altman 最新专访:曝光回归内幕,首度回应 Q* 模型

 9 months ago
source link: https://www.ifanr.com/1569384
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
neoserver,ios ssh client

Sam Altman 最新专访:曝光回归内幕,首度回应 Q* 模型

一年前的今天,OpenAI 发布了 ChatGPT ,引发了人工智能的寒武纪大爆发。

技术进化的加速感越来越强,「见证历史」已经习以为常,伴随着兴奋、焦虑、担忧、反思……所有人似乎都在迫切翻开历史新的一页。

OpenAI 在经历最近一系列混乱后,今天也正式宣布了 Altman 的回归,而公司最大的投资者微软,也将作为非投票的观察员加入董事会。

同时 Altman 还接受了 The Verge 的专访,谈到了回归前的一些内幕,以及早前被曝光的 Q* 模型——那个被认为可能威胁人类的 AI 技术。

不过在这次采访中,Altman 多次拒绝回答人们最为关心的问题:究竟为什么他会被解雇?

当 OpenAI 董事会在解雇 Sam Altman 一天后,又请求他回归时,Altman 起初感到了抗拒、受伤和愤怒。他在电话中告诉记者:

我花了几分钟时间才从中走出来,克服了自我和情绪,然后想,‘是的,我当然想做这件事。’ 显然,我非常热爱这家公司,并且在过去四年半的时间里全心投入其中,但实际上,我花了更长的时间。我们在我非常关心的使命上取得了巨大进展,那就是安全且有益的人工智能。

sa.jpg!720

以下是 The Verge 与 对 OpenAI 首席执行官 Sam Altman 和首席技术官 Mira Murati 的完整采访,爱范儿略作编辑:

Q:Sam,我想首先谈谈一个显而易见的问题,那就是我们仍然不知道你最初为什么会被解雇。你认为你为什么被解雇?

Altman:董事会将在此处进行独立审查。我非常欢迎这一点。现在我没有太多要说的,但我期待了解更多。

Q:你认为董事会为什么说他们对你失去了信任?

Altman:这更适合他们回答。

Q:你刚才在 X 上说,「很明显,你和董事会成员之间存在真正的误解。」这些误解是什么?

Altman:我还没准备好谈论这个。我认为让这个审查过程进行非常重要。我很乐意谈论任何前瞻性的事情。我想会有一段时间,我非常乐意谈论这里发生的事情,但现在不是时候。

Q:你能告诉我你为什么现在不能谈论它吗?

Altman:我只是想让这个过程进行,不干预。

Q:你在给员工的信中提到了 Ilya Sutskever(OpenAI 的首席科学家)。你能告诉我为什么他改变了主意,决定和其他人站在一起吗?

Mira Murati:我们不知道。你得问 Ilya。

Q:Sam,回顾起来,让你回来的主要动力是什么?

Altman:这真的很有趣。周六早上,一些董事会成员打电话给我,问我是否愿意谈论这个问题。我的第一反应有点抗拒,就像,「天哪,我受伤了,我很生气,我认为这很糟糕。」

然后我几乎立即开始思考,显然,我非常热爱这家公司,并且在过去四年半的时间里全心投入其中,但实际上,我花了更长的时间。我们在我非常关心的使命上取得了巨大进展,那就是安全且有益的人工智能。但也是这里的人和所有对我们抱有巨大期望的合作伙伴,还有 Mira 和领导团队以及这里所有做出了不可思议工作的人。我花了几分钟时间才从中走出来,克服了自我和情绪,然后想,「是的,我当然想做这件事。」

Q:所以董事会要求你回来?

Altman:是的。

Q:你起初犹豫了吗?

Altman:不会太久。在那之后发生在我身上的事情让我有很多感觉。

Q:很明显员工支持你。你认为这有多大影响?

Altman:我们肯定是以一个更强大、更团结、更专注和承诺的团队走出这个过程。我认为我们之前就有很强的信念和专注,现在我认为我们有了更多。所以这是我对所有这些事情的一线希望。

在整个过程中,我们没有失去一个员工,一个客户。他们不仅在面对难以管理的增长时保持了产品的运行,还推出了新功能。研究进展继续进行。

Q:你想回到董事会吗?

Altman:尽管这听起来像一个公关说辞,但要说现在这不是我的重点领域。我有一堆非常困难、重要且紧急的工作要做。我想做好我的工作,但这不像(在)董事会或不在。现在我没有花时间思考这个问题。

Q:「改进我们的治理结构」意味着什么?非营利控股公司结构会改变吗?

Altman:这更适合董事会成员回答,但也不是现在。老实说,他们需要时间,我们将支持他们去思考。显然我们的治理结构有问题。找到解决这个问题的最佳方法需要一段时间。我完全明白为什么人们现在想要一个答案。但我也认为期待立即得到答案是完全不合理的。

Q:为什么你认为这是不合理的?我认为人们看到了关于发生了什么的很多模糊之处。看起来像是分歧,而不是不当行为或类似的事情。

Altman:哦,只是因为设计一个真正好的治理结构,尤其是对于如此有影响力的技术,不是一个一周的问题。这将需要真正的时间来思考,辩论,获得外部观点,进行压力测试。这需要一段时间。

Q:刚刚发生的事件是否会改变 OpenAI 对安全工作的方法?

Murati:不会。这与安全无关。

Q:关于你们最近取得的 Q* 模型突破的报道,那是怎么一回事?

Altman:对于那次不幸的泄露,我没有特别的评论。但其实我们之前一直在强调,就像两周前我们说的,一年前我们说的,更早之前我们说的——我们预计这项技术的进展将继续迅速,同时我们也期望继续努力弄清楚如何使其安全且有益。这就是我们以前每天起床的原因。这也是我们将来每天起床的原因。我认为我们在这一点上一直非常一致。

不评论任何具体的事情或项目,我们相信进步就是研究。你总有可能遇到障碍,但我们预计进步将继续显著。我们想与世界接触,弄清楚如何使这项技术尽可能好。

Q:最后一个问题。我确定你还在思考所有这些。我知道这一切都很新鲜。你从这整个事件中学到了什么?

我想我现在还没有一个简洁有力的回答。显然学到了很多,但我仍在努力理解这一切。我的意思是,肯定有很多可以说的,但我认为我现在还没有准备好……我现在只能给出一个冗长而杂乱的答案。

Altman: 好吧,我们以后再谈。

挂断电话后,Altman 几分钟后又打了回来:

我学到了公司真的可以在没有我的情况下正常运转,这是一件非常好的事情。我很高兴回来,别误会我的意思。但我回来时没有任何「哦,我必须做这个,或者公司需要我之类的」压力。

我自以为感觉很好,因为我要么是挑选了出色的领导者,要么是很好地指导了他们。感觉公司没有我也会完全没问题,团队已经准备好并且提升了,这感觉非常好。


About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK