新的研究警告说，人工智能代理的进步可能会为新的网络安全威胁打开大门：自适应计算机蠕虫能够动态生成攻击策略并在网络中自主传播。
来自多伦多大学、Vector Institute、剑桥大学和 ServiceNow 的研究人员的论文描述了一种基于人工智能的概念验证蠕虫，它可以识别漏洞、设计定制的攻击路径、破坏系统并在网络中自我复制，同时根据不同的目标调整其策略。
“我们必须为自主生成对手做好准备，”研究人员写道。 “恶意软件系统无需人工操作即可传播，并且不是由固定的漏洞利用代码定义，而是由推理目标、适应观察和实时合成攻击逻辑的能力定义。”
计算机蠕虫是一种自我复制的恶意软件，可在易受攻击的网络中自动传播。蠕虫爆发，包括 2000 年的 ILOVEYOU 恶意软件和 2017 年的 WannaCry，感染了全球数百万台计算机，中断了关键业务服务并造成数十亿美元的损失。
最近，Shai-Hulud 恶意软件展示了自我传播攻击如何在线传播，感染大公司使用的软件，包括 OpenAI 和 米斯特拉尔。
根据这项新研究，研究人员表示，他们的人工智能蠕虫与早期版本的不同之处在于它能够适应不同的目标，使用大型语言模型来识别漏洞并实时生成攻击策略，而不是依赖于一组固定的漏洞。
“像 WannaCry 这样的传统蠕虫利用了预先确定的漏洞，可以通过修补这些漏洞来阻止它们的传播，”他们写道。 “在这里，我们展示了人工智能代理带来了一种全新的威胁：一种蠕虫病毒，可以针对遇到的每个目标生成量身定制的攻击策略。”
在这项研究中，该团队在一个隔离的虚拟网络中测试了该蠕虫病毒，该网络包含 33 个存在常见漏洞的 Linux、Windows 和 IoT 系统。在 15 次实验中，该蠕虫平均识别出 31.3 个漏洞，成功入侵 23.1 个主机，并在 7 天的自主运行期间传播到大约 20 台计算机。
在一些测试中，研究称该恶意软件能够达到七代自我复制，并且与许多人工智能应用程序不同，该蠕虫不依赖于访问人工智能云服务。
该恶意软件不依赖 AWS、Microsoft Azure 或 Google Cloud 等提供商的云基础设施，而是直接在受感染的计算机上运行 AI 模型。随着它的传播，受感染的系统实际上成为其计算基础设施的一部分。
研究人员还发现，该系统可以通过在运行时摄取新发布的安全建议来利用模型训练截止后披露的漏洞，从而使其能够合并不属于模型原始训练数据的信息。
虽然测试是在受控环境中进行的，但作者承认该工作的双重用途性质，并故意隐瞒了一些技术细节，以降低误用的风险。
“在发布此预印本之前，我们编辑了手稿，以确保我们的方法的呈现能够平衡社区研究这种新型威胁所需的细节深度与恶意行为者使用我们的方法创建恶意软件的风险，”他们说。
尽管如此，研究人员表示，该项目旨在更好地了解自适应计算机蠕虫带来的风险，并提供人工智能支持的网络能力已取得多大进展的证据。
“因此，解决这一威胁需要研究、安全、行业和政策界采取协调一致的行动：测试线束级能力的评估框架、针对自主代理行为特征进行调整的检测系统，以及考虑开放权重推理的去中心化性质的监管措施，”他们写道。