OpenAI核心开发者翁荔宣布离职,安全策略面临新挑战
来源:ictimes 发布时间:3 天前 分享至微信
OpenAI核心高层翁荔(Lilian Weng)将于2024年11月15日离职,自2018年加入以来,她一直是ChatGPT安全策略的重要推动者。翁荔的离职引发了业界广泛关注,预示着OpenAI内部管理和安全策略可能迎来新变革。
翁荔初入OpenAI时,在机器人团队打造出能解开魔术方块的机械手臂。随着OpenAI重心转向GPT语言模型,她逐渐转向AI安全系统构建,如今该部门已有超80位专家。近年来,OpenAI管理高层动荡不断,多位高端主管和研究员相继离职。
翁荔近日在Bilibili活动上强调,AI安全的核心在于多样、全面和正确的数据,结合强化学习(RL)和基于人类反馈的强化学习(RLHF),让AI做出安全和准确的行为。她在离职信中感谢OpenAI团队,坦言7年的时光让她成长为科学家和领导者。
目前,OpenAI安全系统团队已成熟,GPT学会处理敏感请求,拥有明确的安全行为政策。翁荔的离职将如何影响OpenAI的未来,仍需拭目以待。
[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论
暂无评论哦,快来评论一下吧!
ictimes
聚焦于半导体行业芯闻
查看更多
相关文章
OpenAI开发者大会开幕,聚焦AI代理与语音技术
2024-10-06
Zentera携手全球网安领袖,共探零信任安全策略
2024-10-24
OpenAI面临内外挑战,转型引发争议
2024-10-04
高通停产骁龙X Elite开发套件,开发者们面临不确定性
2024-10-22
Tesla自驾入华面临新挑战
2024-10-14
热门搜索