人工智能和自动化：网络安全的双刃剑

　　近年来，网络安全格局发生了重大变化，尤其是随着防御者和攻击者都采用了人工智能 (AI) 和自动化技术。ReliaQuest 年度网络威胁报告：2024 强调了一个令人担忧的趋势：威胁行为者越来越多地利用人工智能和自动化来提高攻击的效率和有效性。这包括开发恶意版本的人工智能模型，如 ChatGPT，它们被用于生成恶意软件、进行拒绝服务 (DoS) 攻击，甚至为网络钓鱼页面编写 HTML 代码。

　　这些发展的影响是深远的。通过利用人工智能，威胁行为者可以自动化其攻击链的各个阶段，例如利用 Citrix Bleed (CVE-2023-4966) 等漏洞，从而提高攻击的速度和规模。例如，已经开发了名为 WormGPT 和 FraudGPT 的人工智能驱动模型，能够自动执行以前需要大量人力和技术知识的任务。

　　勒索和复杂攻击不断增加

　　报告还揭示了勒索活动的急剧增加，勒索数据泄露网站上列出的实体数量创下了历史新高。使用“双重勒索”策略的情况持续增加，攻击者不仅加密组织的数据，还威胁如果不支付赎金，就公开发布数据。值得注意的是，LockBit 勒索软件组织创下了新纪录，一年内列出了一千多个实体的名字。

　　此外，网络犯罪分子中人工智能工具的激增增强了他们进行复杂社会工程攻击的能力。网络钓鱼仍然是获得网络初始访问权限的主要方法，人工智能的进步使得创建更具说服力的网络钓鱼诱饵和场景成为可能。

　　ReliaQuest 报告解释说：“GenAI 还可能自动化 BEC 中使用的鱼叉式网络钓鱼策略。机器学习算法可以分析网上大量可用的个人信息，以创建受害者的个性化档案。通过‘学习’目标的偏好、关系和活动，人工智能系统可以制作极具欺骗性的电子邮件。”

　　主动防御策略

　　为了应对这些不断演变的威胁，我们敦促各组织将人工智能和机器学习整合到其网络安全策略中，以实现更主动的防御。通过利用人工智能，组织可以增强其检测能力，自动响应安全事件，并进行更全面的行为分析，以尽早发现可疑活动。

　　为了有效应对报告中讨论的威胁，ReliaQuest 建议安全防御者采用多层防御策略。这包括加强电子邮件安全性、实施强大的可移动媒体策略以及通过严格的测试和修补来保护面向公众的资产。此外，采用能够识别和缓解人工智能攻击的先进检测和响应技术至关重要。

　　人工智能在网络安全中的双重用途

　　人工智能在网络安全中的双重用途既带来了机遇，也带来了挑战。

　　虽然人工智能可以显著增强组织抵御攻击的能力，但它也使攻击者能够执行更复杂和自动化的攻击。网络防御者和攻击者之间正在进行的军备竞赛凸显了网络安全策略需要不断创新，并采用先进技术以跟上不断变化的威胁形势。

　　通过了解人工智能驱动的网络威胁并主动将人工智能融入网络安全实践，组织可以更好地准备应对这些新兴挑战。成功的关键在于不仅要利用人工智能进行防御，还要更深入地了解威胁行为者的策略、技术和程序，从而能够更明智、更有效地应对网络威胁。

　　作者： Tony Bradley