“新一代人工智能”国家科技重大专项“基于数据价值的内容安全治理”项目推进会在郑召开

大河网讯 5月16日至17日，“新一代人工智能”国家科技重大专项“基于数据价值的内容安全治理”项目推进会在郑州举行。项目课题负责人及来自北京航空航天大学、中国科学技术大学、北京理工大学、广州大学、新疆大学、中国科学院自动化所、大河网等10家参与单位的代表参会，围绕中期进展、关键技术攻关方向与协同机制展开深入研讨。

会议听取了项目整体及四个子课题的工作进展汇报。项目自启动以来，紧扣“数据价值驱动”核心理念，已形成“数据—算法—平台—场景”协同推进格局。在核心技术创新方面，各承担单位围绕内容安全治理全链路开展系统性攻关：北京航空航天大学在多智能体协同与因果推理方面取得重要突破，为语料闭环治理提供理论支撑；中国科学技术大学聚焦语料安全检测与修复，攻克了模型安全对齐与毒性内容去除等关键技术；北京理工大学构建了语义风险分级分类体系，在低影响知识编辑方向形成特色优势；广州大学在安全评测与对抗样本库建设上持续发力，完成代表性数据集的分类梳理，形成覆盖主流大模型的高质量测试资源。自动化所、中山大学等单位也在风险识别与防御策略等方面取得创新成果，为内容安全防御体系构建提供了有力支撑。

在场景建设方面，新疆大学构建了铸牢中华民族共同体意识高质量数据集和测评体系，大河网提出破解“安全机理不清”难题的负向语料库及主流价值“标准答案库”正向语料库建设方案，两大示范场景加快推动技术成果集成应用。

项目负责人张文生教授对项目进展进行了点评，他指出，当前项目已进入赛马制关键阶段，为应对竞争择优、凭实绩定优劣的考核要求，项目组确立双通道应对策略：一方面派遣访问学者入驻浦江实验室，深度对接实际业务需求；另一方面聚焦新疆大学多民族意识形态治理与大河网党媒内容规范两大示范场景，加速推进技术成果集成与转化。

会议要求，各课题要强化协同联动，由北京航空航天大学牵头推动数据治理标准体系建设，建立跨课题数据共享与衍生数据汇交机制，确保在年底初期成果交付验收中交出高质量答卷。

与会专家一致认为，该项目着眼于生成式大模型面临的内容安全及国家意识形态安全风险，对于构建人工智能全链路合规追踪与治理体系具有重要战略意义。

各参与单位表示，将充分吸纳会议共识，加快技术方案落地，以实干论成效，确保项目高质量实施，为打造人工智能安全治理的“中国方案”贡献核心力量。（王建宇 刘高雅/文 马绍坤/图）

编辑:陈梦伊　　审核 ：安艳鸽