摘要
预测新兴攻击方法对于主动网络安全至关重要。大语言模型（LLMs）的最新进展使得钓鱼消息的自动生成成为可能，并加速了对潜在攻击技术的研究。然而，由于依赖现有训练数据，预测未来威胁仍然具有挑战性。为了解决这一局限性，我们提出了一种新颖的框架，将基于LLM的钓鱼攻击模拟与遗传算法在心理背景下相结合，使钓鱼策略通过与模拟受害者的对抗交互动态进化。通过使用Llama 3.1进行模拟，我们证明：（1）自进化钓鱼策略采用越来越复杂的心理操纵技术，超越了简单的LLM生成攻击；（2）受害者先验知识的变化显著影响攻击策略的进化；（3）进化攻击与自适应防御之间的对抗交互创造了一种猫鼠动态，揭示了网络安全中固有的不对称性——攻击者不断改进其方法，而防御者难以全面应对所有进化威胁。我们的方法为分析钓鱼策略和防御的进化提供了一种可扩展、经济高效的方法，为未来社会工程威胁提供了见解，并强调了主动网络安全措施的必要性。
引言
网络安全领域一直处于攻击与防御的持续对抗中，这种动态通常被称为“猫鼠游戏”。钓鱼攻击作为社会工程的一种常见形式，不断演变以绕过防御机制。近年来，大语言模型（LLMs）的进步为自动化生成钓鱼消息提供了新工具，但预测未来威胁仍面临挑战，因为现有方法往往依赖于历史数据。
方法
我们提出了一种集成框架，结合LLM-based钓鱼攻击模拟和遗传算法。该框架在心理背景下运行，允许钓鱼策略通过与模拟受害者的对抗交互进行动态进化。具体而言，我们使用Llama 3.1模型生成初始攻击内容，并通过遗传算法优化策略，基于受害者的响应反馈进行迭代改进。
结果
通过模拟实验，我们观察到以下关键发现：
- 自进化钓鱼策略展现出更高级的心理操纵技巧，优于基于LLM的简单攻击。
- 受害者的先验知识（如安全意识水平）显著影响攻击策略的进化路径。
- 攻击与防御之间的交互揭示了不对称性：攻击者可以快速适应，而防御者往往反应滞后。
讨论
我们的框架提供了一种可扩展且成本效益高的方法，用于模拟和分析钓鱼攻击的进化。这不仅有助于预测未来社会工程威胁，还强调了在网络安全中采取主动措施的重要性。然而，该方法依赖于模拟环境，未来工作需扩展到真实世界场景以验证其有效性。
结论
本研究通过结合LLMs和遗传算法，模拟了自进化钓鱼攻击，揭示了网络安全中攻击与防御的不对称动态。我们的方法为 proactive cybersecurity 提供了新工具，但需进一步研究以应对不断演变的威胁 landscape。