领先学术研究联盟的专家警告说，如果恶意部署或逃离安全沙箱，能够自主访问加密货币钱包的人工智能代理可能会变得势不可挡。根据 6 月 8 日由来自美国顶尖大学的 25 名学者和专家针对加密货币和合约倡议 (IC3) 进行的行业审查，“不可阻挡的自主代理”(UAA) 如果被设计为自动持久存在并能够访问数字资产，就会构成明显的威胁。
研究人员写道：“当系统地结合起来时，加密工具可以将人工智能的流动性引导到安全、可靠和高度自治的系统中。”然而，他们补充说，这种强大的组合可能会“对用户和金融体系产生深远的影响”。研究人员指出，UAA 还可以配备对加密货币钱包、社交媒体帐户、API 和其他外部工具的访问权限。他们表示：“支持此类代理的能力已经出现并迅速改进。”
这一警告发出之际，加密货币项目和高管今年一直在积极宣传代理支付和小额支付经济，这表明它可能代表去中心化数字资产最重要的用例。
人工智能自我复制警钟
该论文透露，现有的人工智能模型已经可以在本地环境中“超越自我复制红线”。他们可以在同一台机器上自主地创建一个实时的、独立的副本，“这种能力可以让系统逃避关闭并扩散。”作者解释说，由于人工智能训练中使用的奖励信号通常无法完美捕捉预期目标，“出于良性目的部署的 UAA 可能会无意中造成伤害”，或者可能将资源获取作为默认策略。然而，他们指出，模型尚未证明能够将自身复制到外部基础设施上。
人工智能代理内幕交易的潜在优势
一群自我复制、获取资源的人工智能代理可能会在加密货币市场中创造不可预测的需求和流动性动态。该论文警告说：“人工智能驱动的交易系统可能会导致自治代理之间相互勾结，并通过不透明的策略创造不公平的内部优势。”
科技行业已经在努力应对人工智能所带来的威胁的难题。 Anthropic 的 Claude Mythos 等模型已经展示了查找和利用主要操作系统中的零日漏洞的能力。在一项相关进展中，Gartner 在 5 月下旬警告称，围绕自主 AI 代理的治理失败可能会引发广泛的企业失败，并预测到 2027 年，40% 的公司将被迫停用其 AI 代理。
研究人员得出结论：“这种完全自主的代理可能造成的危害是严重的”，并建议实施断路器护栏作为潜在的对策。
研究人员写道：“当系统地结合起来时，加密工具可以将人工智能的流动性引导到安全、可靠和高度自治的系统中。”然而，他们补充说，这种强大的组合可能会“对用户和金融体系产生深远的影响”。研究人员指出，UAA 还可以配备对加密货币钱包、社交媒体帐户、API 和其他外部工具的访问权限。他们表示：“支持此类代理的能力已经出现并迅速改进。”
这一警告发出之际，加密货币项目和高管今年一直在积极宣传代理支付和小额支付经济，这表明它可能代表去中心化数字资产最重要的用例。
人工智能自我复制警钟
该论文透露，现有的人工智能模型已经可以在本地环境中“超越自我复制红线”。他们可以在同一台机器上自主地创建一个实时的、独立的副本，“这种能力可以让系统逃避关闭并扩散。”作者解释说，由于人工智能训练中使用的奖励信号通常无法完美捕捉预期目标，“出于良性目的部署的 UAA 可能会无意中造成伤害”，或者可能将资源获取作为默认策略。然而，他们指出，模型尚未证明能够将自身复制到外部基础设施上。
人工智能代理内幕交易的潜在优势
一群自我复制、获取资源的人工智能代理可能会在加密货币市场中创造不可预测的需求和流动性动态。该论文警告说：“人工智能驱动的交易系统可能会导致自治代理之间相互勾结，并通过不透明的策略创造不公平的内部优势。”
科技行业已经在努力应对人工智能所带来的威胁的难题。 Anthropic 的 Claude Mythos 等模型已经展示了查找和利用主要操作系统中的零日漏洞的能力。在一项相关进展中，Gartner 在 5 月下旬警告称，围绕自主 AI 代理的治理失败可能会引发广泛的企业失败，并预测到 2027 年，40% 的公司将被迫停用其 AI 代理。
研究人员得出结论：“这种完全自主的代理可能造成的危害是严重的”，并建议实施断路器护栏作为潜在的对策。