OpenAI核心开发者翁荔宣布离职,安全策略面临新挑战
来源:ictimes 发布时间:2024-11-12 分享至微信

OpenAI核心高层翁荔(Lilian Weng)将于2024年11月15日离职,自2018年加入以来,她一直是ChatGPT安全策略的重要推动者。翁荔的离职引发了业界广泛关注,预示着OpenAI内部管理和安全策略可能迎来新变革。


翁荔初入OpenAI时,在机器人团队打造出能解开魔术方块的机械手臂。随着OpenAI重心转向GPT语言模型,她逐渐转向AI安全系统构建,如今该部门已有超80位专家。近年来,OpenAI管理高层动荡不断,多位高端主管和研究员相继离职。


翁荔近日在Bilibili活动上强调,AI安全的核心在于多样、全面和正确的数据,结合强化学习(RL)和基于人类反馈的强化学习(RLHF),让AI做出安全和准确的行为。她在离职信中感谢OpenAI团队,坦言7年的时光让她成长为科学家和领导者。


目前,OpenAI安全系统团队已成熟,GPT学会处理敏感请求,拥有明确的安全行为政策。翁荔的离职将如何影响OpenAI的未来,仍需拭目以待。

[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!