1. 引言:从神话到现实的困境
在古希腊神话中,塞壬(Siren)是一种神秘的海妖,她们用美丽的歌喉制造幻像,诱导往来的船只触礁沉没。在今天的AI时代,大语言模型(LLM)正在上演着一场现代版本的"海妖之歌"——它们用流畅、连贯的语言生成能力迷惑用户,但其背后隐藏着一个令人担忧的问题:模型会生成看似合理但实际上毫无根据的内容,这就是著名的"幻觉"(Hallucination)现象。
ChatGPT的出现标志着生成式AI进入了大众视野,但随之而来的问题也日益凸显。2023年,纽约市一家律师事务所的律师使用ChatGPT起草法律摘要时,竟然捏造了六个以上的案例,最终被联邦法官处以5000美元罚款。斯坦福大学和耶鲁大学的研究人员发现,这种现象并非个案,而是生成式AI系统中的普遍问题。医疗诊断、金融建议、法律咨询、代码审查——在这些高风险应用场景中,AI的幻觉问题已经成为影响其可靠性和可信度的关键瓶颈。
然而,令人惊讶的是,大量研究表明幻觉并不是可以被彻底消除的bug,而是生成式AI系统本身的一个内在特性。亚利桑那州立大学的AI研究教授Subbarao Kambhampati指出:"所有计算机生成的创造力在某种程度上都是幻觉。"微软研究院和佐治亚理工学院的研究甚至表明,经过精心校准的语言模型必然会出现幻觉。这意味着,幻觉问题的根源并不在于训练数据的错误或模型架构的缺陷,而在于生成式AI的概率本质和其对复杂现实世界的有限建模能力之间的根本矛盾。
本文将从理论物理学、信息论和统计学等多个角度,深入探讨生成式AI幻觉的本质原因、数学基础和认知边界,揭示为什么幻觉是生成式AI不可逃避的宿命,以及在承认这一宿命的前提下,我们应该如何应对和缓解这一问题。
订阅专栏 解锁全文
6086



被折叠的 条评论
为什么被折叠?



