OpenAI开发的语音转写工具Whisper近日被曝光存在重大缺陷，可能会凭空生成大段甚至整句虚假内容。超过十位软件工程师、开发人员和学术研究人员指出，这些虚假文本被称为“AI幻觉”，可能包含种族言论、暴力措辞或杜撰的医疗建议。Whisper被广泛应用于全球多个行业，包括翻译、访谈内容转录、消费科技文本生成和视频字幕制作。

问题尤其令人担忧的是，尽管OpenAI已提醒不宜在高风险领域使用Whisper，但仍有医疗机构采用基于Whisper的工具记录医患咨询。

报道称，研究人员在工作中频繁遇到Whisper的“幻觉”现象，整体问题规模尚不明确。例如，密歇根大学研究员在研究公共会议时发现，检查的十份音频转录中有八份含有虚构内容。

机器学习工程师还透露，其在分析的100小时Whisper转录中发现约一半内容存在“幻觉”。开发人员指出，在26000份转录中几乎每份都有虚构内容。

即使音质良好的简短音频样本也未能避免这些问题。计算机科学家的最新研究表明，在审查的13000多段清晰音频片段中，有187段出现了“幻觉”现象。研究人员认为，这意味着在数百万条录音中将可能出现数以万计的错误转录。

OpenAI发言人表示，公司正持续研究减少幻觉的方法，并感谢研究者的发现，将会在模型更新中采纳反馈。