AI幻觉现象引关注:专家警示需审慎对待
来源:ictimes 发布时间:2024-06-21 分享至微信
随着人工智能技术的广泛应用,其潜在的“幻觉”现象逐渐浮出水面,引发了业界和公众的广泛关注。最新研究指出,大型语言模型在缺乏足够知识时,可能会产生所谓的AI幻觉,类似于脑部受损者的虚谈症状,即虽能流畅表达,但内容往往与事实不符。
这一现象不仅存在于ChatGPT等知名AI模型中,更广泛存在于各类生成式AI系统中。
这些系统虽然能够生成符合语法规则的文字,甚至能模仿特定风格,但它们往往缺乏完整的世界知识和常识,导致在回答问题时可能产生误导性的信息。
台湾高雄科技大学电机工程系教授戴鸿杰表示,AI幻觉现象警示我们,在使用AI技术时,必须保持高度的审慎和警觉。他强调,虽然AI在许多领域都表现出了惊人的能力,但其潜在的缺陷和风险也不容忽视。
台湾师范大学特聘教授曾元显进一步指出,AI的“创造”与“捏造”往往难以区分,因此在使用时更需审慎判断。
他呼吁,公众和研究者应共同关注AI技术的发展趋势,建立更加完善的监管机制,确保AI技术能够健康、安全地服务于人类社会。
[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论
暂无评论哦,快来评论一下吧!
ictimes
聚焦于半导体行业芯闻
查看更多
相关文章
OpenAI发布o1预览版,学霸AI登场引关注
2024-09-20
微软推出可信任AI计划:强化安全防护,改善LLM幻觉
2024-09-27
Tesla亚洲建厂计划受挫,战略调整引关注
2024-08-09
小米汽车业务亏损引关注,雷军回应
2024-08-23
斗山集团或再度出手,SFA Semicon出售引关注
2024-09-19
热门搜索