【CSDN 编者按】

整理 | 刘春霖 责编 | 张红月

出品 | CSDN（ID：CSDNnews）

在上周发布的《挑战 Google 搜索？OpenAI 发布最强 AI 对话系统 ChatGPT》一文中曾介绍过，ChatGPT 正处于测试阶段（chat.openai.com），只要有 OpenAI 账户就可以免费使用。万万没想到，此超级对话模型一经开放，很多人便深陷其中，无法自拔。

写得了代码、改得了 Bug，小说、段子统统不再话下，甚至在一名叫 Zac Denham 工程师的引导下，还写出了毁灭人类的计划书……

就连 OpenAI 背后的投资者马斯克也不忘调侃一句，”很多人疯狂地陷入了 ChatGPT 循环中。”

笔者在 ChatGPT 上也进行了提问：

通过内容，做出这项规定的主要原因是，用户试用一段时间后，很快发现，虽然 ChatGPT 以接近人类的方式回答提示，但它自动生成的答案质量太低，错误太多。并且 ChatGPT 有时会给出看似合理但不正确或荒谬的答案。

OpenAI 的 CEO Sam Altman 也曾在 Twitter 上表示“自周三才上线的 ChatGPT，短短几天它的用户已经突破 100 万大关。对于目前这一问题，我们正在尝试阻止它随机编造，现阶段的问题是有些棘手。但随着时间的推移，我们会根据用户反馈来改进它，也相信它会变得更好！”

ChatGPT 在生成答案中因有太多低质量的答案涌入，已经“淹没”了高质量管理基础设施。接下来，Stack Overflow 将继续围绕 ChatGPT 和其他类似工具的具体要求，但具体决定日期以及限制的内容尚不明确。

也有网友表示“为什么 Stack Overflow 禁止用 AI 生成答案？”

还有专业人士也对此表达了自己的看法“禁止这样的内容是正确的事情，不过审核的人能做什么呢？上面的帖子上也说这些 AI 生成的答案可能看起来像个高质量答案，但这些无法判断是不是 ChatGPT 生成的。”

为什么 ChatGPT 会出现那么多错误？

几天的时间，网友们意识到通过此模型短短几秒就可以生成答案，简直是不浪费任何力气。

但是为什么它会出现错误呢？很明显，出于语言模型的局限性，只能在网上抓取相关答案，无法作出思考和推理，所以就造成了 ChatGPT 回答的错误。

比如：网友问 ChatGPT，霍布斯主张三权分立吗？

很明显回答的很好，但它的回答却是错误的。因此，在 ChatGPT 有 2 个明显的缺点：

输入不能有错

解释不够人性化

对于 AI 答案的输出还有待考察，无论是对于答案的抓取还是输出的概率性，都是需要有正确的审核。ChatGPT 的研究团队也表示将根据用户反馈持续改进模型，未来还有很长的道路要走。

参考链接：

https://Meta.stackoverflow.com/questions/421831/temporary-policy-chatgpt-is-banned

https://www.theverge.com/2022/12/5/23493932/chatgpt-ai-generated-answers-temporarily-banned-stack-overflow-llms-dangers

https://www.zdnet.com/article/stack-overflow-temporarily-bans-answers-from-openais-chatgpt-chatbot/

https://www.solidot.org/story?sid=73555

https://twitter.com/sama/status/1599668808285028353

☞小米商城推出新功能：AI 帮你挑手机；Stack Overflow 临时封杀 ChatGPT；Meta 裁员再生事端|极客头条

☞Android 内存安全漏洞大幅下降，Rust 或成关键因素

☞沉痛悼念织梦创始人林学先生，他为网站开源系统打开了大门！