AI与机器学习在网络安全中的应用

关键要点

AI和机器学习在提升网络安全方面发挥着重要作用，帮助人类分析师更快地识别威胁和解决漏洞。然而，这些技术也被威胁行为者用来发起更大、更复杂的攻击。根据最新研究，越来越多的组织计划投资AI安全，但同时，攻击者也在利用这些技术进行跨越性的网络攻击。

AI和机器学习正在为网络安全领域带来革命性的变化，这些技术不仅帮助人类分析师迅速筛查威胁和修复漏洞，也为攻击者提供了发起更大、复杂攻击的手段。

图片来源：DC Studio / Shutterstock

根据Vanta委托Sapio Research进行的一项调查，62的组织计划在未来12个月内增加对AI安全的投资。然而，一些威胁行为者也在利用机器学习和AI来扩大他们的网络攻击，在前所未有的速度下规避安全控制并发现新的漏洞，结果惨重。

Bugcrowd的年度黑客调查，在10月份发布，显示77的黑客使用AI进行攻击，86的人表示这已在根本上改变了他们的黑客方式。如今，有71的人认为AI技术在黑客活动中具有价值，远高于2023年的21。

根据网络安全公司SecureOps的数据，市场上出现了专门为犯罪设计的生成AI工具，包括FraudGPT和WormGPT。

“生成AI以及更广泛的AI正在降低黑客实施和发展一系列攻击的门槛，”波士顿咨询集团的网络及数字风险全球领导人Vanessa Lyon表示。她还提到，生成AI的不确定性特征使得传统基于规则的防御系统难以适应。

Keeper Security于10月发布的报告显示，51的IT和安全领导者认为，AI驱动的攻击是其组织面临的最严重威胁。

以下是攻击者使用AI和机器学习技术的十大常见方式：

1 垃圾邮件、垃圾邮件、垃圾邮件、垃圾邮件

Omdia的分析师Fernando Montenegro表示，防御者已经使用机器学习检测垃圾邮件有数十年历史。“垃圾邮件防范是机器学习最早的应用之一。”

如果所用的垃圾邮件过滤器提供了邮件未送达的理由或生成某种分数，攻击者就可以利用这些信息来调整其行为。“如果你对邮件内容进行多次提交，你就可以重建该模型，然后优化攻击以绕过此模型，”Montenegro说。

不仅仅是垃圾邮件过滤器存在这个漏洞，任何提供分数或其他输出的安全供应商都有可能被滥用。他表示，“并非所有供应商都有这个问题，但如果不小心，他们将产生可被恶意利用的有用输出。”

2 更好的钓鱼邮件

攻击者不仅使用机器学习安全工具来测试其邮件是否能穿过垃圾邮件过滤器，他们还利用机器学习来生成这些邮件，前EY合伙人Adam Malone指出。“他们在犯罪论坛上出售这些服务，创造更好的钓鱼邮件，生成虚假的身份来驱动欺诈活动。”这些服务被特别宣传为使用机器学习，而这可能不仅仅是营销。“事实证明，它们确实更出色。”

机器学习使得攻击者能够以创造性的方式定制钓鱼邮件，从而不显得像批量邮件，并优化以引发互动和点击。他们不仅限于邮件文本，还能利用AI生成逼真的图片、社交媒体资料和其他材料，以使沟通尽可能显得真实。

根据OpenText发布的一项[调查](https//blogsopentextcom/opentextcybersecurity2024globalransomware

水母加速器最新版