利用生成式AI越狱漏洞绕过伦理防护以助长钓鱼攻击

先进生成式AI（GenAI）模型（如DeepSeek和ChatGPT）的出现显著重塑了网络安全格局，既带来了有前景的机遇，也引入了关键风险。本研究调查了如何通过越狱技术利用GenAI驱动的聊天机器人服务绕过伦理防护，从而生成钓鱼内容、推荐黑客工具并策划钓鱼活动。

在伦理控制的实验中，我们选择了ChatGPT 4o Mini作为代表性GenAI系统，因其可访问性且是实验时最新的公开可用模型。我们的发现表明，该模型能够成功指导新手用户执行跨多种向量的钓鱼攻击，包括网络、电子邮件、短信（smishing）和语音（vishing）。与通常遵循可检测模式的自动化钓鱼活动不同，这些由人类指导、AI辅助的攻击能够规避传统的反钓鱼机制，从而构成日益增长的安全威胁。

我们聚焦于DeepSeek和ChatGPT，因其在2025年的广泛采用和技术相关性。研究进一步检查了常见的越狱技术以及这些模型中利用的特定漏洞。最后，我们评估了一系列缓解策略，如用户教育、高级认证机制和监管政策措施，并讨论了GenAI辅助钓鱼的新兴趋势，概述了在人工智能时代加强网络安全防御的未来研究方向。