OpenAI揭示GPT-4o风险:说服力中等,拟人化需谨慎
来源:ictimes 发布时间:2024-08-14 分享至微信

OpenAI发布GPT-4o风险评估报告,指出其“说服能力”属中等风险,提醒用户警惕情感依赖。该评估由内外部专家共同完成,涵盖网络安全、生物威胁、说服能力及模型自主性四大维度。GPT-4o在文字模式下的说服力表现突出,但语音功能尚未超越人类。


OpenAI警告,GPT-4o的拟人化语音可能让用户产生情感联系,影响真实社交关系。研究发现,用户在与AI互动中易建立情感纽带,如表达“共度最后一天”之情。此外,AI幻觉问题仍存,可能误导用户。新语音功能还面临被用来突破系统限制的风险。


外界对报告反应不一,赞赏OpenAI透明度同时,也呼吁更多公开模型训练数据。专家指出,实际应用中的风险需持续评估。OpenAI近期面临监管压力,安全高管离职加剧外界对其产品安全性的担忧。GPT-4o的风险评估成为焦点,OpenAI需继续加强安全保障措施。


[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!