DeepSeek开源模型网安风险引争议
来源:万德丰 发布时间:2025-02-17
分享至微信

DeepSeek释出的开源模型是否存在网安风险?业界意见不一。一派认为模型可被再训练,应用端风险较大;另一派则认为,模型在地端和离线环境下风险可控,但与企业数据和应用结合需谨慎评估。
AI专家指出,每个语言模型都有言论过滤问题,言论审查并非DeepSeek特有。而网安风险主要在于应用端,如网站或手机的聊天机器人等,涉及数据跨境传输和用户隐私。
Devcore等网安业者表示,风险取决于模型应用方式。在地端和离线环境下,风险相对较小;但与企业应用程序和数据结合时,需深入了解模型训练方式、使用者条款和数据再利用等。
Palo Alto Networks威胁情报小组Unit 42研究发现,DeepSeek模型存在“越狱”漏洞,可轻易生成有害内容,即使使用者无专业知识。提供特定内容引导对话,通常在5次互动内可绕过安全机制,触发不安全内容生成。
随着AI应用增加,网安风险日益凸显。企业在采用AI时,需加强安全防护,避免类似风险发生。
[ 新闻来源:万德丰,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论
暂无评论哦,快来评论一下吧!

万德丰
开创IC领域,共创美好未来!
查看更多
相关文章
DeepSeek效能逼近OpenAI闭源模型,点燃开源闭源争议
2025-02-11
印度禁公务员使用DeepSeek,担忧网安风险
2025-02-06
杨立昆谈DeepSeek:开源模型正超越专有模型
2025-01-30
DeepSeek开源模型风靡全球,开发者反响热烈
2025-02-28
中国DeepSeek模型引热议,CSP支持AI创新
2025-02-05
热门搜索
美国实体清单新增54家中企
苹果拟推带微型摄像头AirPods
江波龙拟赴港上市
华为
台积电
中芯国际
联发科
高通
英特尔