【大纪元2025年03月23日讯】(大纪元记者吕适约报导)中国人工智慧AI模型DeepSeek-R1推出后在中国大陆迅速普及开来。然而DeepSeek的问题日渐突显出来,使用者们很快发现,这款AI工具提供的资料充满了虚假讯息,甚至是其自行胡编乱造的内容,对中文网路的资讯环境造成了严重污染。

据新唐人报导,众多用户发现,在利用DeepSeek查阅资料以及撰写文章时,其给出的内容中所涉及的数据往往来源模糊不清,还存在明显的逻辑漏洞,甚至经常会输出完全错误或虚构的资讯。经过简单查证后,很多使用者对DeepSeek这种“一本正经胡说八道”的表现大为震惊。
捏造学术文献、瞎编阿里业绩
例如近期中国国产动画电影《哪吒之魔童闹海》(或称《哪吒2》)十分热门,在知乎平台上有网友针对这部电影的导演及团队提了一个问题,DeepSeek给出回答。然而,有网友核查事实后发现,回答中称《哪吒》电影里敖丙的变身镜头在法国安锡国际动画影展上引起业界轰动,事实上被送到法国参展的影片,并不是“饺子”导演的《哪吒2》,而是追光动画出品的《哪吒重生》,且后者也根本不存在“敖丙变身”的内容,包括制片方给员工分房子、攻克水下流体特效等内容,也都全部是DeepSeek-R1自行编造出来的,没有任何依据。
另一个典型例子是,有中国网友要求DeepSeek撰写关于《哈利波特》有助于英语学习的文章,DeepSeek创作的文章洋洋洒洒、有根有据,包括引用5篇学术文献。但经网友核查,发现其中4篇“文献”都纯属子虚乌有,唯一一篇真实存在的文献中也根本就没有谈及《哈利波特》。
第三个例子是有人利用DeepSeek生成的虚构历史资料,对历史博主“知北游”设局,而后者也险些“上钩”。这些AI生成的资料中搞错了两个历史人物的死亡顺序,让 “知北游”对设局者提供的“新史料”产生了怀疑,最终经过多日的艰苦查证而得以证伪。
还有网友在试用DeepSeek时发现,这款AI工具竟然自行瞎编了阿里的业绩数据。
更让使用者深感失望的是,DeepSeek在有关法律规范的创作内容中也错误百出。例如:DeepSeek曾将《信息技术人工智能术语》的标准号GB/T 41867–2022错误写成GB/T 5271.31–2023,而后者根本不存在;在分析法律问题时,DeepSeek常常会引用一些看似相关但实际并不适用,甚至已经被废止的法条,从而得出一个“看似合理实则完全错误的结论”,显示这款AI工具的推理能力存在严重缺陷。
DeepSeek“幻觉”问题
对此,微博公众号“山自” 3月5日发文评论说,由于缺乏真正的法律推理能力,DeepSeek提供的有关法律问题的资料,对于那些寻求专业法律建议,却因缺乏专业知识而依赖的人来说,可能会造成严重误导,带来意想不到的后果。
文章写到,“DeepSeek在某些方面确实展现出一定能力,但它的‘幻觉’问题不容忽视,它如同一个固执己见的 ‘犟种’,不顾事实和逻辑,按照自己的方式肆意输出内容,我们不能因它带来的一时便利,而忽视潜在风险。”
值得一提的是,AI工具的“幻觉”问题反映在各个方面,而且越是公共讨论聚集的领域,例如时政、历史、文化、娱乐等,越是重灾区。对此,中国网友正讨论的十分热闹。
有江苏网友分析说:“DeepSeek的数据来源是互联网和自媒体的胡乱整合,在对原数据没有辨别力,还加上自创的推理,错误和虚假百出。”有上海网友道:“而且一样的问题,换个手机问,回的答案不一样。”◇
责任编辑:陈玟绮