节点文献

“AI幻觉”:基本内涵、典型表现、技术成因与应对策略

“AI Hallucination”: Definition, Manifestation, Cause of Formation, and Strategy of Confrontation

  • 推荐 CAJ下载
  • PDF下载
  • 不支持迅雷等下载工具,请取消加速工具后下载。

【作者】 罗龙翔; 张玉涵; 王秀丽;

【Author】 LUO Longxiang;ZHANG Yuhan;WANG Xiuli;School of New Media,Peking University;School of Journalism and Communication,Renmin University of China;Oxford Institute of Internet,University of Oxford;

【通讯作者】 王秀丽;

【机构】 北京大学新媒体研究院; 中国人民大学新闻学院; 牛津大学互联网研究所;

【摘要】 针对目前“AI幻觉”研究多未回应AI技术已实现多模态内容生成的现实情况,研究梳理了“AI幻觉”的背景和内涵,提出了“AI幻觉”的新定义,并将其划分为形式幻觉、事实幻觉和混合幻觉三种主要类型。采用案例分析法,对“AI幻觉”在文字、图片、视频与音频等不同模态生成式AI平台中的典型表现进行了测试和说明。进一步,以各类生成式AI的Transformer架构为依据,总结出“AI幻觉”在数据集、数据处理方式和技术运行逻辑等方面的成因,并介绍了相应的应对措施。

【Abstract】 The study begins by highlighting that most of the current research on “AI hallucination” overlooks the reality that AI technologies have already enabled multi-modal content generation. It then offers a revised definition of the term. Building on this foundation, the study categorizes “AI hallucination” into three main types: modality hallucination, factuality hallucination, and hybrid hallucination. It employs case analyses across various modalities—text, image, video, and audio—to examine how hallucinations manifest in different forms. Furthermore, drawing on the Transformer architecture underlying various types of generative AI, the study explores the causes of AI hallucination from the perspectives of datasets, data processing methods, and technical operational logic, and proposes corresponding countermeasures.

【基金】 国家留学基金委、中国人民大学2024年度中央高校建设世界一流大学(学科)和特色发展引导专项资金(24RXW204)
  • 【文献出处】 新媒体传播研究 ,New Media & Communication Research , 编辑部邮箱 ,2025年01期
  • 【分类号】G206;TP18
  • 【下载频次】12
节点文献中: