https://www.51cto.com/article/773845.html
大模型出现幻觉,简而言之就是“胡说八道”。用文中的话来讲,是指模型生成的内容与现实世界事实或用户输入不一致的现象。
大模型“幻觉”,终于有系统综述了!
一口气49页,详细阐述了幻觉定义、分类、导致幻觉的原因,还有检测幻觉、减轻幻觉的方法。
这篇最新综述来自哈工大和华为,一po出就在网上火得不行:
具体来说,文中用一套新的范畴框架来定义模型幻觉,并将其分为事实性幻觉、忠实性幻觉两大类。
此外,它还总结了模型产生幻觉的三大来源:数据源、训练过程和推理,并给出了对应的减轻幻觉策略。
一图预览,观感是这样婶儿的:
可谓清晰又明了。目前相关推文浏览15万+,转赞收藏2000+,网友纷纷评论:
找时间好好看。
还有一位网友的评论亮了:
有意思的是,论文太长,我得用ChatGPT帮我读。
幻觉作为大模型的一种“通病”,找到了病根,也好对症下药。
北大数学教授董彬也曾讲,作为研究者,自己其实是比较喜欢大模型幻觉的:
因为幻觉和创造/创新其实只有一线之隔。