人工智能的进展正在彻底改变网络安全的格局。 高级语言模型 凭借其新颖而令人畏惧的威胁载体功能而出现。这项技术现在允许独立地执行 勒索软件 攻击，为网络犯罪分子提供强大的工具以妥协各种系统。 此类能力的经济和技术影响 令人担忧，危及敏感数据的安全。 为此做好适当反击 成为应对这一不断演变的威胁的防御者的优先事项，其特征是前所未有的复杂性。
由人工智能驱动的自主勒索软件攻击
最近由纽约大学坦登工程学院团队进行的一项研究揭示了一个令人担忧的现象：高级语言模型现在可以独立执行勒索软件攻击。这项研究发布在预印本服务器 arXiv 上，开发了一个名为“勒索软件 3.0”的勒索软件系统。该原型能够映射系统，识别敏感文件，窃取或加密数据，以及撰写赎金消息。
勒索软件 3.0 系统的运作方式
该恶意系统被设计用来展示人工智能主导攻击每一步的能力。被网络安全公司 ESET 称为“PromptLock”的勒索软件 3.0，在 VirusTotal 平台的测试中被发现。研究人员能够证明，该实验室设计的原型能够生成功能代码，最初误导了部分专家以为他们发现了真正由恶意演员开发的现役勒索软件。
人工智能生成攻击的复杂性
人工智能生成的攻击以独特的执行方式为特点。与传统的预先编写的攻击代码不同，恶意软件集成了以程序形式编写的指令，而这些指令由语言模型解释。每次激活恶意软件时，都会与人工智能模型进行通信，以生成适合于每个特定目标机器配置的 Lua 脚本。
网络空间中的防御与检测
这项研究的经济影响表明，勒索软件的操作方式将发生重大转变。过去，需要合格的开发团队及大量的基础设施投资。勒索软件 3.0 原型每次攻击仅需大约 23,000 个人工智能令牌，成本约为 0.70 美元。使用开源人工智能模型因此消除了与商业服务相关的成本。
当前的检测系统面临重大挑战。传统的安全软件依赖于检测已知的恶意签名或典型行为。然而，人工智能生成的攻击产生的代码多样，可以轻易绕过这些防御系统。测试表明，人工智能模型能够根据环境类型识别 63% 至 96% 的敏感文件，这突显了这些新技术的有效性。
准备措施和建议
研究人员强调了扩大对敏感文件访问监控和限制人工智能外发服务连接的重要性。此外，开发专用于识别人工智能生成攻击行为的检测能力至关重要。这些建议旨在帮助网络安全社区准备应对利用先进人工智能能力的出现威胁。
这项有价值的研究在机构伦理指南的规定下提供了关键的见解和技术细节，帮助网络安全社区更好地理解这一新威胁。目前的挑战是加强对这些自主系统的防御，并应对可能重新配置网络犯罪格局的新勒索软件技术。
常见问题：研究表明高级语言模型可以自主执行勒索软件攻击
什么是勒索软件 3.0，它是如何工作的？
勒索软件 3.0，也称为 PromptLock，是一个能够利用高级语言模型自主执行勒索软件攻击的恶意系统。它执行多个步骤，包括系统映射、敏感文件识别、数据窃取或加密，以及生成赎金消息。
与 AI 驱动的勒索软件攻击相关的危险是什么？
与 AI 驱动的勒索软件攻击存在多种风险，尤其是其通过生成独特代码来更有效地绕过网络安全防御的能力，因为它们不依赖于已知的恶意软件签名。
企业如何保护自己免受这些 AI 威胁？
企业应监控对敏感文件的访问模式，控制与人工智能服务的外发连接，并开发特定的检测能力以识别 AI 生成的攻击行为。
这种自主勒索软件会影响哪些类型的系统？
这种类型的勒索软件可以针对各种系统，包括个人电脑、企业服务器和工业控制系统，因为它具有灵活和可互操作的设计。
勒索软件 3.0 的研究对网络安全社区有多重要？
这项研究至关重要，因为它帮助网络安全专业人士理解和预见新的威胁。它提供了关键的技术信息，以准备有效的对策。
降低攻击启动成本如何影响网络犯罪的格局？
由于使用开源人工智能模型，攻击勒索软件的成本降低，使得更不复杂的行为者能够进行高级活动，从而增加潜在攻击的数量。
