2025
08-05
08-05
官方提醒警惕AI“数据投毒” 0.01%虚假训练文本可致有害内容增加11.2% NEW
快科技8月5日消息，今日，国家安全部发文提醒，人工智能的训练数据存在良莠不齐的问题，其中不乏虚假信息、虚构内容和偏见性观点，造成数据源污染，给人工智能安全带来新的挑战。据了解，人工智能的三大核心要素是算法、算力和数据，其中数据是训练AI模型的基础要素，也是AI应用的核心资源。高质量的数据能够显著提升模型的准确性和可靠性，但数据一旦受到污染，可能导致模型决策失误甚至AI系统失效，存在一定的安全隐患。通过篡改、虚构和重复等“数据投毒”行为产生的污染数据，将干扰模型在训练阶段的参数...
Read More >