2

「2024年最重要AI图」疯狂热转!开源AI模型正在超越专有模型,LeCun大赞

 8 months ago
source link: https://awtmt.com/articles/3704652
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
neoserver,ios ssh client

「2024年最重要AI图」疯狂热转!开源AI模型正在超越专有模型,LeCun大赞

新智元 发表于 2023年12月20日 06:38
摘要:代表开源模型和闭源模型的性能的两条线,即将在2年内相交。

最近,这张号称「或许是2024年最重要的AI图之一」的图开始热转,可以看到,开源本地模型,已经取代了大规模、基于云的昂贵封闭模型,这种转变令人兴奋、着迷。

最近,这张图开始在AI社区热转,连LeCun也转发了。

这张图直观地展现了AI开源社区和私有模型的竞争格局。

在5-Shot MMLU基准测试中,代表开源模型和闭源模型的性能的两条线,即将在2年内相交。

虽然OpenAI和谷歌等公司在极力垄断最新模型的信息,但Meta为代表的开源社区正在大力推动更易于访问的生成式AI,这可能会挑战传统的闭源AI开发模式。

0dfc4740-6205-4842-8fae-efb1189d67b8.png

图表由CathieDWood的ARKInvest创建

许多人说,这也许是2024年最重要的AI图表之一。

可以看到,最近兴起的开源本地模型,已经在超越大规模且昂贵的基于云的闭源模型!

edd1487c-71ea-400d-ace4-1c829eeaf48c.png

协作和开源创新的力量,太令人瞩目了。

24年将成为开源之年?

网友激动写道——

我们正在接近一个临界点。以目前开源社区项目的速度,预计我们将在未来的12个月内到达类似GPT-4的水平。

GPT-4性能如此强大,以至于我不确定GPT-5的发布是否会产生实质性影响。

下一个挑战,就是针对计算进行优化了。如前所述,塑造部署到移动设备的模型,就是最大的游戏规则改变者,因为移动设备人手一个。

2024年将成为开源AI之年!

2ffe56a0-2538-4057-863f-bd136d7e8937.png

很显然,最近几个月里,一直有GPT-5的传言。

c88b684c-e4a2-4815-a5e0-8568b6a5f997.png

有人干脆上手,直接在图上添加了一行。

a458c8ff-0652-4fa3-9458-ca4da664f981.png

有人表示,这个图表只显示了每个人都知道的事。

GPT-4其实自成一派,它是一个异常值,不适合放在轨迹中。

Claude倒是拥有出色的UI和较长的上下文窗口,但它正在横向发展。

Gemini Ultra是比较亮眼的。

af0e57f4-5eb6-4436-8ed3-07d0d3df344c.png

开源本地模型的兴起,取代了大规模、昂贵的基于云的封闭模型,这太令人振奋了!

这种转变可以使人工智能民主化,产生更广泛的创新,让较小的参与者无需大量投资,即可获得强大的工具。

06f2b8b3-4b12-439b-8ac0-3b6978f5de9f.png

有人表示,建议在2022年8月以39.13分添加Bloom,在2023年10月以64.7分添加Mistral 7B,在2023年12月以71.3分添加MoE 8x7B Mixtral。

b711183e-4005-43bd-a31c-05c43ed41a75.png

「不敢相信,这么好的东西都是免费的,我们生活在一个多好的时代啊!」

a39e0ed2-ab6f-449f-8d88-2d6f59c789bd.png

有人大开脑洞:如果我们有一个便宜10 倍、功能强大10倍的开源模型,那么根据经济学中的Jevon悖论,可以预测我们的模型会同样昂贵,但功能强大100倍——如果供应是限制因素,需求将相应地爆炸式增长。

3c930411-81b0-4197-9b59-1928657997cb.png

如果保持这个速度不变,那我们大概在一年后就能看到AGI了。

a84fc615-8c79-4bbe-a1aa-285f85d2cf96.png

当然,也有人指出,图表是不严谨的。

可以找到一些更可怕的闭源模型例外,这就会降低平均值。

所以不应该在这里比较平均值,而是比较每个类别中的最大值。

47378880-89b4-4337-8d8e-bf5607db9962.png

也有人说,去掉Grok、GPT-2、GPT-3这类异常值,私有模型的斜率变化就会很大,会得出相反的结论。

bdb56617-baf9-436a-b552-8ea164bff9ca.png
欧盟人工智能法案谈判落幕:广泛豁免开源模型

好消息是,在法律上,各国也明显对开源模型态度更宽容。

12月上旬,《欧盟人工智能法案》谈判结束。

97c6e8ed-8b4c-4f8e-a649-0892db45e659.png

立法者于6月在欧洲议会对《人工智能法案》进行投票

谈判留下了一个有争议的问题,就是如何对基础模型监管,尤其是开源模型。

LeCun特意发文,感谢「法国、德国和意大利政府没有放弃开源模型」,

93814d3d-3a29-4446-9946-ee9511090a6b.png

这项立法包括对基础模型的限制,但对」开源模型「却给予了广泛的豁免。

LeCun表示,此举可能会让游说反对这项法律的欧洲开源Al公司受益,包括法国的Mistral和德国的Aleph Alpha,以及发布了开源模型LLaMA的Meta。

Meta、IBM牵头成立开源联盟

在12月6日,有超过50家科技大厂名校和机构,共同成立了全新的人工智能联盟,以开源为旗号,誓于OpenAI和英伟达一决高下。

AI联盟由Meta和IBM牵头,总计50余家科技公司、高校和机构共同成立。

32ef3408-9450-4a9f-a801-59dba7a1749d.png

在联盟的成员里,有不少老牌科技公司:AMD,英特尔,戴尔,甲骨文,索尼,以及在AI浪潮之后崛起的初创公司:Hugging Face,Stability AI。

ca8b1fd7-c0d2-4c23-ad11-6d64cbd9bc6b.png
fde38e14-b2a7-4e1f-b580-d439c46cf840.png

成员中的高校主要来自美国,包括了很多计算机领域的知名院校,比如UC伯克利,耶鲁,康奈尔,UIUC,纽约大学等,也有不少在美国之外声誉很高的大学:帝国理工,苏黎世联邦理工,东京大学,希伯来大学等高校。

218a7fca-15ca-4dfb-a4df-0ee789b19565.png
c0c90118-4156-415b-927c-c736a2385356.png

组织成员甚至还包括了像NASA这样的政府机构。

根据Meta官方的说法,联盟的主要任务就是「支持开放创新和开放科学」。

IBM高级副总裁兼IBM研究院院长Darío Gil表示:「如果你认为人工智能的未来将由两个、三个或五个机构决定,那你就错了。」

「我希望它(联盟)能让人们更加清晰和自信,相信开放创新的世界是一个值得投入的世界。」

根据AI联盟官方的数据,这50多个机构汇集了每年超过800亿美元的研发资金,研究机构的学生超过40万人,公司员工超过100万人。

1e4cb122-697d-4044-9fa4-305ad2396446.png

全世界支持开源者,都联合起来了!

本文来源:新智元,原文标题:《「2024年最重要AI图」疯狂热转!开源AI模型正在超越专有模型,LeCun大赞》

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。

About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK