萨姆.奥特曼：请不要相信萨姆.奥特曼

上周四，OpenAI 的 CEO 萨姆.奥特曼在旧金山举行的彭博科技峰会上发表了讲话，下面是他在这一活动中谈到的最重要的七个内容：

1，关于未来人工智能带来的生存威胁：

“我们正处在一条指数曲线上，而且，是一条相对陡峭的曲线。（但）人类对指数曲线的直觉非常糟糕。考虑到我们都有这个弱点，我认为我们必须真正强迫自己说：

好吧，GPT-4 不像您所说的那样存在风险，但是，我们对 GPT-9 有多大的把握？

如果有可能，即便情况很糟糕的可能性很小，也值得我们关注。”

2，但是为什么我们不应该停止开发这种有潜在危险的技术：

“我认为这里有巨大的好处，你知道地球上的每个人都有机会获得比今天任何人都要更好的优质教育、医疗保健，并使其真正地在全球范围内提供。

这将是变革性的。我们将看到的科学进步——我坚信，生活质量的真正可持续改善来自于科学技术的进步。

我认为结束贫困是一件好事。也许，你认为阻止一项可以做到这一点的技术是一件好事。但我个人不这么认为。”

3，关于呼吁对人工智能进行监管，并指责 OpenAI 只是为了保护自己当前的领导地位而提出需要监管这种说法：

“我们不认为低于某个非常高的能力门槛的小创业公司和开源模式应该受到大量的监管。我们已经看到了那些试图过度监管技术的国家的情况。我不认为那是我们在这里想要的。”

“你可以，比如，指出我们在这里试图做监管俘虏或其他什么，但我只是认为这是（一个）透明的、智力上不诚实的反应。”

“我认为，人们培训的模型已经远远超过我们今天任何模型的规模。对于已经超过了某些能力门槛的模型，我认为你应该需要通过一个认证过程来实现。我认为应该有外部的审计和安全测试，我们对其他很多关心安全的行业都是这样做的。”

4，关于与中国合作制定人工智能发展的安全规则： ……

剩余全文需要到我的知识星球阅读。

说明：因为各种各样的原因，我在官网写的东西和我在知识星球写的不太一样，关心美国创投圈的专业读者，请移步到我的知识星球。如下扫码登录（老星球用户续费请见底下那个二维码）

老星球用户续费请用这个二维码：

Recommend