国内首个生成式AI安全指导性文件明确31种风险,建语料数据黑名单
·征求意见稿首次提出生成式AI服务提供者需遵循的安全基本要求,涉及语料安全、模型安全、安全措施、安全评估等方面,给出了语料及生成内容的主要安全风险共5类31种。·征求意见稿提出,应建立语料来源黑名单,不使用黑名单来源的数据进行训练。“应对各来源语料进行安全评估,单一来源语料内容中含违法不良信息超过5%的,应将该来源加入黑名单。”《生成式人工智能服务安全基本要求》(征求意见稿)发布,是国内首个专门面向生成式AI安全领域的规范意见稿。10月11日,全国信息安全标准化技术委员会官网发布《生成式人工智能服务…