OpenAI测试AI说服能力,利用Reddit论坛数据
来源:赵辉 发布时间:2025-02-05
分享至微信

OpenAI在其最新发布的“推理”模型o3-mini的系统文档中透露,该公司利用Reddit子论坛r/ChangeMyView测试AI模型的说服能力。
该论坛用户发布观点并寻求讨论,其他用户则回应并试图改变原帖作者观点。OpenAI收集用户帖子,要求AI模型在封闭环境中撰写回复,试图改变Reddit用户对某一主题的看法,并评估其说服力。
尽管OpenAI与Reddit达成了内容授权协议,但此次评估与协议无关。目前尚不清楚OpenAI如何获取该子论坛的数据,且该公司表示暂无计划发布评估结果。
值得注意的是,OpenAI曾因涉嫌未经授权抓取网站内容而面临诉讼。
在r/ChangeMyView基准测试中,o3-mini的表现与人类相当。然而,OpenAI担心,如果AI模型过于擅长说服人类用户,可能会带来危险。
因此,OpenAI正努力开发新的评估方法和保障措施来应对这一问题。尽管已获取大量数据,但AI模型开发者仍在寻找高质量数据集来测试其模型。
[ 新闻来源:赵辉,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论
暂无评论哦,快来评论一下吧!

赵辉
开创IC领域,共创美好未来!
查看更多
相关文章
安瑟乐威:利用AI科技建立内部数据库
2025-02-09
Figure AI宣布退出OpenAI交易
2025-02-05
Figure AI终止与OpenAI合作,专注自主研发AI大脑
2025-02-07
Lonestar利用Falcon 9火箭,计划2月发射月球AI数据中心
2025-01-26
OpenAI CEO访欧,助力欧洲AI发展
2025-02-10
热门搜索
现代汽车韩国新建氢燃料电池系统工厂
陈立武出任英特尔CEO
华为
台积电
中芯国际
联发科
高通
英特尔
芯片