https://blog.qife122.com/tags/%E5%AE%89%E5%85%A8%E5%88%86%E7%B1%BB%E5%99%A8/ Recent content in 安全分类器 on 办公AI智能小助手 Hugo zh-cn qife Sat, 20 Sep 2025 00:28:50 +0800 https://blog.qife122.com/p/%E9%A9%AF%E6%9C%8D%E5%9F%BA%E4%BA%8E%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E7%9A%84%E5%AE%89%E5%85%A8%E4%BB%BB%E5%8A%A1%E4%B8%AD%E7%9A%84%E6%95%B0%E6%8D%AE%E6%8C%91%E6%88%98%E9%9B%86%E6%88%90%E7%94%9F%E6%88%90%E5%BC%8Fai%E7%9A%84%E7%BB%8F%E9%AA%8C%E6%95%99%E8%AE%AD/ Sat, 20 Sep 2025 00:28:50 +0800 https://blog.qife122.com/p/%E9%A9%AF%E6%9C%8D%E5%9F%BA%E4%BA%8E%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E7%9A%84%E5%AE%89%E5%85%A8%E4%BB%BB%E5%8A%A1%E4%B8%AD%E7%9A%84%E6%95%B0%E6%8D%AE%E6%8C%91%E6%88%98%E9%9B%86%E6%88%90%E7%94%9F%E6%88%90%E5%BC%8Fai%E7%9A%84%E7%BB%8F%E9%AA%8C%E6%95%99%E8%AE%AD/ <h1 id="驯服基于机器学习的安全任务中的数据挑战集成生成式ai的经验教训">驯服基于机器学习的安全任务中的数据挑战：集成生成式AI的经验教训</h1> <h2 id="摘要">摘要</h2> <p>基于机器学习的监督分类器广泛应用于安全任务，其改进主要集中于算法进展。我们认为，对这些分类器性能产生负面影响的数据挑战受到的关注有限。我们解决了以下研究问题：生成式AI（GenAI）的发展能否解决这些数据挑战并提升分类器性能？我们提出使用GenAI技术生成的合成数据来增强训练数据集，以改善分类器的泛化能力。我们在7种不同的安全任务中评估了这一方法，使用了6种最先进的GenAI方法，并引入了一种名为Nimai的新型GenAI方案，该方案支持高度可控的数据合成。我们发现，GenAI技术可以显著提升安全分类器的性能，即使在严重数据受限的环境下（仅约180个训练样本）也能实现高达32.6%的改进。此外，我们证明GenAI可以促进部署后对概念漂变的快速适应，在调整过程中仅需最小化的标注。尽管取得了成功，但我们的研究发现，某些GenAI方案在某些安全任务上难以初始化（训练和生成数据）。我们还识别了特定任务的特征，如噪声标签、重叠的类别分布和稀疏特征向量，这些特征会阻碍使用GenAI提升性能。我们相信，我们的研究将推动未来专为安全任务设计的GenAI工具的开发。</p>