国内生成式AI管理再出新规定 LLＭ训练数据得有黑名单

国内政府要求大型语言模型服务提供商进行安全评估，并设定训练数据的黑名单。法新社

国内全国信息安全标准化技术委员会（信安标委）于11日发布《生成式人工智能服务安全基本要求》（征求意见稿），规定大型语言模型（LLM）须符合安全规范，服务提供商要确保训练数据安全、模型安全，并有安全措施和安全评估。

根据文件，在训练数据安全方面，服务提供者必须建立训练数据的「黑名单」，不得用名单中的数据训练模型。如果训练数据来源有超过5%的违法内容，就应该被加入黑名单。

除此之外，训练数据必须可以追溯来源，并符合着作权和个资搜集相关规范。服务提供商必须指派知识产权相关负责人，避免侵权问题；使用个资时也必须获得当事人同意。

至于安全评估方面，文件指出，企业可以选择自行或找第三方机构来进行。大方向是以试题库抽查的方式，看训练数据本身以及生成的内容合格率有多少。例如在1,000笔题目中，生成内容的合格率须达90%。

而在模型安全方面，依据稍早国内中央网络安全和信息化委员会办公室（网信办）推出的《生成式人工智能服务管理暂行办法》，LLM服务提供者必须向政府备案。该办法已于8月15正式实施，其中百度、字节跳动、商汤、美团、搜狗、百川等企业旗下的服务都已经获得批准。

责任编辑：张兴民