中国台湾:强化GenAI风险治理需“CA+Abuse”双管齐下
来源:ictimes 发布时间:2024-10-08 分享至微信

近日,中国台湾资通安全研究院院长何全德指出,生成式AI(GenAI)为中国台湾带来前所未有的机遇,但同时也伴随着风险。他强调,在推动AI应用时,需兼顾速度与安全性(Speed & Security),并重视风险治理。


何全德提到,与传统软件相比,GenAI因其大语言模型(LLM)的复杂性,难以预测其输出,若训练数据被不准确信息毒害,可能导致灾难性决策。因此,主要国家和组织正合作界定AI风险,以利分类分级治理。


他认为,除传统信息安全要素外,还需关注AI的滥用或误用问题,如解决AI幻觉及确保AI系统与人类价值对齐等。为加强AI风险治理,中国台湾已委托工研院与网安院合作建立AI产品与系统评测中心。


此外,何全德还提到网安产业AI化趋势,包括AI驱动网安防护及网安营运暨监控中心(SOC)智能化等,这些创新应用有助于加强威胁分析与预测、异常行为侦测及自动化安全测试等。


[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!