0

打脸奥特曼,GPT-4今年比去年还懒!网友在线实测出炉

 7 months ago
source link: https://awtmt.com/articles/3707962
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
neoserver,ios ssh client

打脸奥特曼,GPT-4今年比去年还懒!网友在线实测出炉

量子位 发表于 2024年02月05日 06:44
摘要:网友测试发现GPT-4新版甚至还不如以前,变得更懒了,以前就算偷懒至少还会糊弄一下,给个框架让用户自行补充,现在直接就是摆烂说自己干不了。

GPT-4变懒的问题,又有新进展。

就在今天凌晨,奥特曼发推称,GPT-4这个毛病在新的一年应该好多了!

LTE2OTgzODk5MTA=

关于GPT-4变懒,网友的吐槽已是不计其数,其中最多的就是与代码相关的任务:

完成度不高不说,还会被分割成一个一个小块,使用时需要逐一复制。

对于最新版本,一位博主体验之后表示,自己尝试给一年级的孩子做了个学习用的小游戏,效果还不错。

LTExMDA2ODE1NDA=

但也有人不认同,比如这位网友就发现,ChatGPT回复的长度虽然增加了,但是很多都是车轱辘话,干正事依旧摆烂。

他让ChatGPT把一些文本翻译成17种语言,结果叽里呱啦说了一堆就是不翻译。

LTE3MTkxMTk4NzU=

为了消除个体差异,有网友用数据集测试了新的ChatGPT,结果……

新版反而更懒了?

这位网友用GitHub上开源的一套“lazy benchmark”测试了0125(24年1月最新版)和1106(23年11月的上一版)GPT-4模型,发现新版甚至还不如以前,变得更懒了。

MjA3MjczMjA4

这个测试数据集包含了与代码相关的任务,用正确完成的比例间接反应“懒惰”程度,完成率越高说明“惰性”越小。

结果,对于其中的代码比较(Unified diffs)任务,旧版能完成的比例尚且超过了一半,为57%,新版的完成率却仅有44%,降低了近四分之一。

LTE5MDcyODQwNTc=

直观感受上,也有人发现ChatGPT的“懒惰”变本加厉了——

以前就算偷懒至少还会糊弄一下,给出个大概的框架让用户自行补充,现在直接就是摆烂说自己干不了。

MTI5MzMxODI1Mg==

而针对网友们的这番发现,也有人给出了锐评:

几周之前奥特曼就说过GPT-4表现变好了,但是有人感觉到差别吗?

LTE0OTM5NjYyNTM=

这次,关于GPT-4变懒的原因,以及到底采用了什么优化策略,奥特曼也未做进一步说明。

“土办法”可降低惰性

不过,之前的一项研究表明,GPT-4的惰性可能与时间相关,这一结论与GPT-4“变懒”的现象出现在年末的12月相吻合。

MTEwODc1MDU2MA==

按照这一理论,新年伊始,模型的表现的确会有所提升,但似乎解释不了表现不升反降的现象。

不过,网友们也总结了一些“土办法”,能在一定程度上降低ChatGPT的惰性。

比如告诉它“我没有手指”,就能得到相对完整的代码,而不是一段段碎片。

LTUwODIxMTA2Mw==

又或者,告诉ChatGPT自己会“给小费”,也能激发它的工作动力。

甚至有人专门针对“小费”的金额进行了研究,发现10美元的性价比是最高的。

NzE3MTU0OTE4

那么,你觉得ChatGPT是变好了还是更懒了?

参考链接:[1]https://twitter.com/sama/status/1754172149378810118[2]https://aider.chat/docs/benchmarks-0125.html

本文作者:克雷西,来源:量子位,原文标题:《打脸奥特曼,GPT-4今年比去年还懒!网友在线实测出炉》

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。

About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK