OpenAI揭示GPT-4o风险:说服力中等,拟人化需谨慎
来源:ictimes 发布时间:2024-08-14 分享至微信
OpenAI发布GPT-4o风险评估报告,指出其“说服能力”属中等风险,提醒用户警惕情感依赖。该评估由内外部专家共同完成,涵盖网络安全、生物威胁、说服能力及模型自主性四大维度。GPT-4o在文字模式下的说服力表现突出,但语音功能尚未超越人类。
OpenAI警告,GPT-4o的拟人化语音可能让用户产生情感联系,影响真实社交关系。研究发现,用户在与AI互动中易建立情感纽带,如表达“共度最后一天”之情。此外,AI幻觉问题仍存,可能误导用户。新语音功能还面临被用来突破系统限制的风险。
外界对报告反应不一,赞赏OpenAI透明度同时,也呼吁更多公开模型训练数据。专家指出,实际应用中的风险需持续评估。OpenAI近期面临监管压力,安全高管离职加剧外界对其产品安全性的担忧。GPT-4o的风险评估成为焦点,OpenAI需继续加强安全保障措施。
[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论
暂无评论哦,快来评论一下吧!
ictimes
聚焦于半导体行业芯闻
查看更多
相关文章
OpenAI发布GPT-4o mini,性价比超越GPT-3.5 Turbo
2024-07-22
OpenAI GPT-4o开放微调,助力企业定制AI模型
2024-08-22
GPT-4o语音模式提前降临:OpenAI引领对话革命
2024-08-03
Google Gemini Live挑战GPT-4o,即将登陆iOS
2024-08-15
热门搜索