Stack Overflow禁用ChatGPT生成内容，网友：人类和AI快打起来
source link: https://www.qbitai.com/2022/12/40167.html
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
Stack Overflow禁用ChatGPT生成内容，网友：人类和AI快打起来
我们问了ChatGPT本尊对此事的看法
衡宇 Alex 发自 凹非寺
量子位 | 公众号 QbitAI
AI届当红炸子鸡ChatGPT，刚刚被程序员问答社区Stack Overflow禁用了！
芜湖，难道是因为有人感慨，ChatGPT非常强大，可以取代Stack Overflow？
但其实，Stack Overflow给出的官方公告里，是这样说的：
（这样做）的目的是减缓使用ChatGPT创建的大量答案流入社区。
因为从ChatGPT得到错误答案的概率太高了！
不过，官方也说了，这个措施只是临时的。
到底要不要永久在社区里禁用ChatGPT尚待研究，暂未决定。
“回答正确率太低”
昨天，OpenAI的CEO在推特上高兴地宣布，ChatGPT这个出生不满一周的家伙，已经拥有了超百万用户。
不过，大喜之余，有个小悲，那就是——
Stack Overflow临时禁止在社区内发布ChatGPT生成的文本。
Stack Overflow，程序员meme经常出现的段子之一，把自己活成了ChatGPT爆红时期最引人注目的段子。
这到底是为什么？
看了官方给的公告，总结下来不外乎一个原因。
最主要的目的，就是减缓使用ChatGPT创建的大量答案流入社区。
目前在Stack Overflow站内搜索，还能看到公告发布前，许多用ChatGPT在问题下的回答。
Stack Overflow官方认为，和ChatGPT对话得到的答案，正确率太低了。
而且，无论答案正确与否，它的所有回答看起来都很正儿八经。
但是ChatGPT的火热和极低的门槛，让很多人用它创建的答案在社区里进行询问和回答。
但是很多人在发帖时，缺乏相关专业知识，在发布之前又没有验证一下答案的正确性。
而且，ChatGPT给出回答的消息源也不能追溯。
对于一个程序员问答社区来说，这是非常有害的。
为了应对这个现象，可苦了Stack Overflow为管理基础设施质量的志愿者们。
他们只能没日没夜在铺天盖地的海量帖子中，去确认ChatGPT生成的问答到底是不是对的。
而且对想要找到保真问答的程序员来说，ChatGPT“入侵”Stack Overflow，也加大了他们的获取有效信息的成本。
为了从源头杜绝这种现象发生，StackOverflow做出决定：先禁止！
目前，Stack Overflow已经不允许发布ChatGPT创建的答案来提问或回答文章了。
临时措施发布后，如果还有用户在用ChatGPT搞事情，那Stack Overflow就不客气了——
将对这类用户实施制裁（具体咋制裁木有说）。
还是“格杀勿论”那种，哪怕除了使用ChatGPT外，用户的提问和回答行为和内容都是符合社区规定的。
现在，只是在站内搜索“ChatGPT”这个关键词，也因为要证明一下你不是机器人哦～
但无论怎么说，这个措施怎么说也只是临时的。
关于ChatGPT和其它类似AI问答软件，社区到底会有啥样的最终策略， Stack Overflow工作人员还在紧急讨论中，尚不确定。
公告评论区里，用户已经七嘴八舌说开了。
有人拍手称快，嚷着“永久封了它”。
有人也趁机表达了拿AI问答软件来社区互动的不满。
当然，也有人投出了自己的赞成票。
语言大模型的应用引起担忧
再来说下Stack Overflow到底是为何物。
简而言之，这是很多程序员都会用到的一个免费问答网站。
该网站有几个特点，一是不像一般的论坛，它没有闲聊区。
另外，那些观点类、可能引起激烈讨论的问题一般都会被临时“和谐”掉，得是能出确切答案的问题才行。
也就是说，假如你在该网站上提出一个很主观的问题，网站很可能不会公开显示出来，直到你把问题修改到合规为止。
新用户起初只能提出问题或给出回答。但是你可以通过问答等赚积分（这里是Reputation），然后解锁各种功能。
包括评论、编辑他人的帖子、选择隐藏或展示别人的问题，最高等级的用户还能网站内部的工作人员一起来搞分析维护。
而ChatGPT，则是基于语言大模型的聊天AI，能生成代码、修复Bug，其回答各种问题的能力更是惊艳了一大波人。
不过，目前Stack Overflow以及不少AI专家已经对背后的语言大模型产生了担忧，至少是有些顾虑。
Lecun也说，基于语言大模型开发出的文本生成类工具，可能会使广泛传播错误信息变得更容易。
IBM科学家Grady Booch的态度更为坚定。
还有人指出，即使AI回答正确，但这对于不少内容创作者来说，将是一场不小的打击。
One More Thing
对于Stack Overflow临时禁用ChatGPT生成的答案，我们询问了ChatGPT本尊的看法。（手动狗头）
我们还问，如果StackOverflow确定禁用的话它会怎么办。
结果人家倒是很淡定：
ChatGPT传送门：
https://chat.openai.com/chat
参考链接：
[1]https://meta.stackoverflow.com/questions/421831/temporary-policy-chatgpt-is-banned
[2]https://www.reddit.com/r/programming/comments/zd71vl/chatgpt_ai_generated_answers_banned_on_stack/
[3]https://stackoverflow.com/tour?mnu=1
Recommend
-
7
让AI生成AI绘画提示词，OpenAI最新成果ChatGPT被网友玩坏了！还会写代码修bug作诗
-
5
Stack Overflow 禁用 ChatGPT 30 条回复 • 2022-12-06 16:45:21 +08:00
-
5
ChatGPT疯狂生成「辣鸡」内容，Stack Overflow气急，连夜封杀！ 作者：新智元 2022-12-06 13:56:03 时下爆火的ChatGPT，被网友们用来生成海量答案。而Stack Overflow已经不堪其扰，发起「追杀」：应封尽封！...
-
6
Opera新版本集成ChatGPT：一键生成网页内容摘要 2023-02-12 13:17 出处/作者：快科技 整合编辑：佚名 0
-
2
2023-02-18 14:11 港大禁用 ChatGPT 等 AI 工具，为全港大学首例 2 月 18 日消息，由美国人工智能公司 OpenAI 开发的语言模型 ChatGPT 推出后，引发关注及热议。香港大学日前向师生发出内部邮件，表明禁止在港大所有课堂、作业和评...
-
5
香港大学宣布禁用ChatGPT：学生违规使用被视为“剽窃” 2023-02-19 08:48 出处/作者：快科技 整合编辑：佚名 0
-
2
网友利用ChatGPT生成Windows95密钥？还真可以
-
8
对标ChatGPT、联动VS Code，Stack Overflow推出自研生成式AI工具 作者：机器之心 2023-07-29 13:09:36 该来的还是要来，全球最大的的程序员问答网站 Stack Overflow 在 AI 领域也终于有了动作。
-
4
2023-09-04 14:43 ChatGPT 上线 Canva 插件，可生成图片和视频内容 据 IT 之家 9 月 4 日消息，ChatGPT Plus 订阅服务中推出了一个独特的 Canva 插件，可以让用户快速方便地生成设计、表格、图形、图片和短视频等视觉内容。据...
-
6
ChatGPT重压下，Stack Overflow裁员28%，为自家生成式AI工具开源节流 作者：机器之心 2023-10-17 12:53:00 Prashanth Chandrasekar 表示此次裁员主要是大幅缩减了市场营销部门的规模，这是为了加大对该公司产品的...
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK