DeepSeek V3“报错家门”:我是ChatGPT

8个月前 50观看

文章来源:量子位53k喜好网-记录每日喜好的科技时尚娱乐生活

图片来源:由无界AI生成图片来源:由无界AI生成

要说这两天大模型圈的顶流话题,那绝对是非DeepSeek V3莫属了。53k喜好网-记录每日喜好的科技时尚娱乐生活

不过在网友们纷纷测试之际,有个bug也成了热议的焦点——53k喜好网-记录每日喜好的科技时尚娱乐生活

只是少了一个问号,DeepSeek V3竟然称自己是ChatGPT。53k喜好网-记录每日喜好的科技时尚娱乐生活

甚至让它讲个笑话,生成的结果也是跟ChatGPT一样:53k喜好网-记录每日喜好的科技时尚娱乐生活

加之DeepSeek V3这次爆火的一个亮点,就是训练只花了557.6万美元的成本。53k喜好网-记录每日喜好的科技时尚娱乐生活

于是乎,有人就开始怀疑了:它不会是在ChatGPT的输出基础上训练的吧?53k喜好网-记录每日喜好的科技时尚娱乐生活

好巧不巧,Altman也发了一个状态,似乎在暗讽着什么……53k喜好网-记录每日喜好的科技时尚娱乐生活

不过DeepSeek V3并非是第一个出现“报错家门”的大模型。53k喜好网-记录每日喜好的科技时尚娱乐生活

例如Gemini就曾说过自己是百度的文心一言……53k喜好网-记录每日喜好的科技时尚娱乐生活

那么这到底是怎么一回事?53k喜好网-记录每日喜好的科技时尚娱乐生活


53k喜好网-记录每日喜好的科技时尚娱乐生活

为什么DeepSeek V3报错家门?


53k喜好网-记录每日喜好的科技时尚娱乐生活

首先需要强调的一点是,从目前网友们整体讨论的观点来看,说DeepSeek V3是在ChatGPT输出上训练的可能性不大53k喜好网-记录每日喜好的科技时尚娱乐生活

之所以这么说,正如网友Riley Goodside所总结的那样——因为ChatGPT的影子无处不在。53k喜好网-记录每日喜好的科技时尚娱乐生活

即便DeepSeek V3故意用ChatGPT的输出做了训练,但这并不重要。所有在ChatGPT之后出现的大模型,几乎都见过它。
例如ShareGPT,一个并不新鲜的ChatGPT对话数据集,许多人已经尝试在它和其它ChatGPT数据源上进行调整。但即便如此,也没能出现DeepSeek V3级别的大模型。

紧接着,Riley Goodside又拿出了DeepSeek V3报告中的一些证据:53k喜好网-记录每日喜好的科技时尚娱乐生活

而且要是用了ChatGPT数据的话,有些关于DeepSeek V3质量的问题是解释不通的。
例如Pile测试(基础模型压缩Pile的效果),DeepSeek V3得分几乎与Llama 3.1 405B相当,这跟它接没接触ChatGPT数据无关。
而且报告称95%的GPU-hours用于预训练基础模型,即便是跟ChatGPT数据有关,那这部分也会在post-training阶段发生(后5%)。

而比起用没用ChatGPT数据,或许我们应当更加关注的是为什么大模型会频繁出现“报错家门”的问题。53k喜好网-记录每日喜好的科技时尚娱乐生活

TechCrunch针对这个问题给出了一句犀利的点评:53k喜好网-记录每日喜好的科技时尚娱乐生活

因为AI公司们获取数据的地方——网络,正在充斥着AI垃圾。

毕竟欧盟的一份报告曾预测,到2026年,90%的在线内容可能是AI生成的。53k喜好网-记录每日喜好的科技时尚娱乐生活

这种“AI污染”就会让“训练数据彻底过滤AI的输出”变得困难。53k喜好网-记录每日喜好的科技时尚娱乐生活

AI Now Institute的首席科学家Heidy Khlaaf则表示:53k喜好网-记录每日喜好的科技时尚娱乐生活

尽管存在风险,开发者依然被从现有AI模型中“蒸馏”知识所带来的成本节约所吸引。
意外地在ChatGPT或GPT-4输出上进行训练的模型,也不一定会展示出让人想起OpenAI定制消息的输出。

那么现在对于网友们热议的问题,量子位进行了一波实测,DeepSeek V3目前还没有解决这个bug。53k喜好网-记录每日喜好的科技时尚娱乐生活

依旧是少了个问号,回答结果会不一样:53k喜好网-记录每日喜好的科技时尚娱乐生活


53k喜好网-记录每日喜好的科技时尚娱乐生活

DeepSeek V3更多玩法


53k喜好网-记录每日喜好的科技时尚娱乐生活

不过有一说一,绝大部分网友对于DeepSeek V3的能力是给予了大大的肯定。53k喜好网-记录每日喜好的科技时尚娱乐生活

从各路AI大佬们集体直呼“优雅”中就能印证这一点。53k喜好网-记录每日喜好的科技时尚娱乐生活

而就在这两天,网友们陆续晒出了更多DeepSeek V3加持的实用玩法53k喜好网-记录每日喜好的科技时尚娱乐生活

例如有网友拿DeepSeek V3和Claude Sonnet 3.5一决高下,在Scroll Hub中分别用它俩创建网站53k喜好网-记录每日喜好的科技时尚娱乐生活

嗯,DeepSeek V3是有点好用在身上的。53k喜好网-记录每日喜好的科技时尚娱乐生活


53k喜好网-记录每日喜好的科技时尚娱乐生活

One More Thing


53k喜好网-记录每日喜好的科技时尚娱乐生活

对于此前公布的53页论文,也有网友关注到了一个非技术性的细节——53k喜好网-记录每日喜好的科技时尚娱乐生活

贡献列表中,不仅展示了技术人员,还有数据注释和商务等工作人员:53k喜好网-记录每日喜好的科技时尚娱乐生活

网友认为这种做法非常符合DeepSeek的调性:53k喜好网-记录每日喜好的科技时尚娱乐生活

参考链接:
[1]https://techcrunch.com/2024/12/27/why-deepseeks-new-ai-model-thinks-its-chatgpt/
[2]https://x.com/victormustar/status/1872647314231398524
[3]https://x.com/breckyunits/status/1872422078592516295
[4]https://x.com/op7418/status/1872689338242482203
[5]https://x.com/goodside/status/1872911457857208596
[6]https://x.com/kevinsxu/status/1873146905846530472
AIGC 大模型

本文链接:http://www.xihao.site/showinfo-1-64664.htmlDeepSeek V3“报错家门”:我是ChatGPT

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com。天上从来不会掉馅饼,请大家时刻谨防诈骗