塑料挤出设备厂 人工智能训练数据良莠不齐 国安部提示警惕AI“数据投毒”行为

当前，人工智能已深度融入经济社会发展的方方面面，在深刻改变人类生产生活方式的同时塑料挤出设备厂，也成为关乎高质量发展和高水平安全的关键域。然而，人工智能的训练数据存在良莠不齐的问题，其中不乏虚假信息、虚构内容和偏见观点，造成数据源污染，给人工智能安全带来新的挑战。

数据是人工智能的基础

人工智能的三大核心要素是算法、算力和数据，其中数据是训练AI模型的基础要素，也是AI应用的核心资源。

——提供AI模型的原料。海量数据为AI模型提供了充足的训练素材，使其得以学习数据的内在规律和模式，实现语义理解、智能决策和内容生成。同时，数据也驱动人工智能不断优化能和精度，实现模型的迭代升级，以适应新需求。

——影响AI模型的能。AI模型对数据的数量、质量及多样要求高。充足的数据量是充分训练大规模模型的前提；高准确、完整和一致的数据能有避免误导模型；覆盖多个域的多样化数据，则能提升模型应对实际复杂场景的能力。

——促进AI模型的应用。数据资源的日益丰富，加速了“人工智能+”行动的落地，有力促进了人工智能与经济社会各域的深度融。这不仅培育和发展了新质生产力，更推动我国科技跨越式发展、产业优化升级、生产力整体跃升。

广州市工业和信息化局的调查显示，该市大部分制造业企业，尤其是中小民营制造业企业的数字化转型还处在探索期和起步期，五成制造业企业处于数字化、智能化的初期阶段，三成多处于中期阶段，处于深化融阶段的企业不足10%。

8月1日塑料挤出设备厂，位于内蒙古锡林郭勒的露天矿排土场光储电站现场。晚东供图

会议指出，我国《反垄断法》实施十五年来，始终坚持正确政治方向，坚持监管为民核心理念，统筹发展和安全、率和公平、活力和秩序、国内和国际，反垄断法律规则体系和监管体制机制更加科学完备，域反垄断监管执法成明显，国际交流作深化拓展，公平竞争理念深入人心。全国依法查处各类垄断案件339件，罚没金额379亿元，审结经营者集中案5409件，一批人民群众反映强烈、具有重大影响的垄断行为得到有力惩治，公平竞争市场秩序稳步向好，反垄断在经济社会发展大局中的地位和作用更加凸显。新修改《反垄断法》实施一年来，修订《禁止垄断协议规定》等5部反垄断配套规章，深入开展民生域反垄断执法项行动，扎实推进妨碍统一市场和公平竞争的政策措施项清理，为加快推进全国统一大市场建设、构建新发展格局、推动高质量发展作出积贡献。

财政部、自然资源部近日通知各地，隔热条PA66生产设备组织申报2024年海洋生态保护修复工程项目。9月11日前，各省级财政部门会同自然资源(海洋)主管部门将申报文件，联报送财政部、自然资源部。

数据污染冲击安全防线

高质量的数据能够显著提升模型的准确和可靠，但数据一旦受到污染，则可能导致模型决策失误甚至AI系统失，存在一定的安全隐患。

——投放有害内容。通过篡改、虚构和重复等“数据投毒”行为产生的污染数据，将干扰模型在训练阶段的参数调整，削弱模型能、降低其准确，甚至诱发有害输出。研究显示，当训练数据集中仅有0.01%的虚假文本时，模型输出的有害内容会增加11.2%；即使是0.001%的虚假文本，其有害输出也会相应上升7.2%。

——造成递归污染。受到数据污染的人工智能生成的虚假内容，可能成为后续模型训练的数据源，形成具有延续的“污染遗留应”。当前，互联网AI生成内容在数量上已远人类生产的真实内容，大量低质量及非客观数据充斥其中，导致AI训练数据集中的错误信息逐代累积，终扭曲模型本身的认知能力。

——引发现实风险。数据污染还可能引发一系列现实风险，尤其在金融市场、公共安全和医疗健康等域。在金融域，不法分子利用AI炮制虚假信息，造成数据污染，可能引发股价异常波动，构成新型市场操纵风险；在公共安全域，数据污染容易扰动公众认知、误导社会舆论，诱发社会恐慌情绪；在医疗健康域，数据污染则可能致使模型生成错误诊疗建议，不仅危及患者生命安全，也加剧伪科学的传播。

筑牢人工智能数据底座

——加强源头监管，防范污染生成。以《网络安全法》《数据安全法》《个人信息保护法》等法律法规为依据，建立AI数据分类分级保护制度，从根本上防范污染数据的产生，助力有防范AI数据安全威胁。

——强化风险评估，保障数据流通。加强对人工智能数据安全风险的整体评估，确保数据在采集、存储、传输、使用、交换和备份等全生命周期环节安全。同步加快构建人工智能安全风险分类管理体系，不断提高数据安全综保障能力。

——末端清洗修复，构建治理框架。定期依据法规标准清洗修复受污数据。依据相关法律法规及行业标准，制定数据清洗的具体规则。逐步构建模块化、可监测、可扩展的数据治理框架，实现持续管理与质量把控。

国家安全机关将在以习近平同志为核心的党中央坚强导下塑料挤出设备厂，贯彻总体国家安全观，与有关部门一道防范针对我人工智能域的数据污染风险，依法维护人工智能安全和数据安全，不断筑牢国家安全屏障。