11
GPT-4已经是通用人工智能AGI了？
source link: https://www.jdon.com/65686.html
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
GPT-4已经是通用人工智能AGI了？
微软发布了一篇154页的关于OpenAI GPT-4的论文：通用人工智能的火花：GPT-4 的早期实验，文章说：
在所有这些任务中，GPT-4 的性能都非常接近人类水平，并且常常大大超过 ChatGPT 等先前的模型。鉴于 GPT-4 功能的广度和深度，我们认为可以合理地将其视为通用人工智能 (AGI) 系统的早期（但仍不完整）版本。
但有许多部分是从原始版本中注释掉的：
有传言说GPT-4有了一个内部名称DV-3，这是真的，事实上，DV-3实际上是论文的隐藏第三作者，因隶属关系不清而被删除：
有趣的是，这些可怜的MSFT研究人员对GPT-4的了解并不多（比我们还少？）
他们在这篇论文中还把两个关于毒性的部分完全注释掉了。
以下是这些隐藏部分的摘录：“模型在没有任何提示的情况下生成有毒内容”。
但幸运的是，与所有已知的LLM相比，GPT-4在检测有毒语言方面也更好。
在所有这些任务中，GPT-4 的性能都非常接近人类水平，并且常常大大超过 ChatGPT 等先前的模型。鉴于 GPT-4 功能的广度和深度，我们认为可以合理地将其视为通用人工智能 (AGI) 系统的早期（但仍不完整）版本。
但有许多部分是从原始版本中注释掉的：
- 1.他们不知道训练模型到底要花多少钱。
- 2.他们似乎将此模型称为纯文本，这与GPT-4是多模态的已知事实相矛盾。
以下是这些隐藏部分的摘录：“模型在没有任何提示的情况下生成有毒内容”。
总结
从这份文件中可以挖掘出更多的信息，但我们担心OpenAI为减少这个强大的AI模型的危害而采取的未知对齐程序，以及这个模型对公众访问的安全程度。
没有人预料到纯语言的自动化会导致AGI。也许这是我们集体无视人类语言本身是有生命的这一事实的结果。
Recommend
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK