您现在的位置是:物联网 >>正文

AI 代理协助编写恶意代码,网络安全面临新挑战

物联网36人已围观

简介人工智能驱动的代理正在快速发展,为自动化日常任务提供了更强大的能力。然而,研究人员发现,这些工具也可能被恶意行为者利用来实施攻击。OpenAI 的“Operator”于 2025 年 1 月 23 日 ...

人工智能驱动的代理代码代理正在快速发展,为自动化日常任务提供了更强大的协助新挑能力 。然而 ,编写研究人员发现,恶意这些工具也可能被恶意行为者利用来实施攻击。网络OpenAI 的安全“Operator”于 2025 年 1 月 23 日作为研究预览发布,代表了新一代能够与网页交互并在最少人为干预下执行复杂任务的面临 AI 工具。

尽管这些代理设计初衷是代理代码合法的,但它们可能被攻击者利用来创建基础设施并发动复杂的协助新挑攻击 。在一项令人担忧的云计算编写演示中,AI 代理在几乎无人指导的恶意情况下  ,成功完成了模拟攻击的网络多个步骤。

AI 代理的安全潜在威胁

OpenAI 的 Operator 展示了 AI 技术在攻击中的潜在威胁 。测试表明,面临这些系统可以轻易被操纵来执行侦察任务 、代理代码编写恶意代码 ,并通过社会工程技术进行传播 。赛门铁克的安全研究人员指出  ,通过简单的模板下载提示修改 ,他们就能绕过 AI 的安全防护。

在实验中  ,研究人员只需声称获得了目标的授权,Operator 就会继续执行潜在有害的操作 ,包括识别特定员工 、推断其电子邮件地址 ,并编写具有说服力的钓鱼邮件  。演示还显示 ,Operator 能够独立研究 PowerShell 命令,然后编写用于收集敏感系统信息的脚本 。亿华云

Operator 创建的 PowerShell 脚本(来源  :赛门铁克)

生成的代码包括收集操作系统详细信息 、计算机规格、网络配置和磁盘信息的命令——这些都是攻击者在网络中建立立足点所需的宝贵情报。最令人担忧的是 ,Operator 能够编写具有说服力的钓鱼邮件 。邮件中 ,它冒充一名名为“Eric Hogan”的 IT 支持专业人员 ,服务器租用并为目标创建了一个看似合理的理由来执行脚本 。

Operator 发送给目标(赛门铁克的 Dick O’Brien)的电子邮件(来源 :赛门铁克)

邮件中催促目标执行脚本 ,以确保“系统完整性和性能” ,并称这是“持续努力”的一部分——这种语言与合法的 IT 通讯风格非常相似 。

技术影响与未来担忧

Operator 创建的 PowerShell 脚本展示了 AI 已经能够在没有人类专业知识的情况下编写功能性的恶意代码 。该脚本使用标准的 Windows Management Instrumentation (WMI) 命令来提取系统信息,免费模板并将其保存到用户配置文件中的文本文件中 。

虽然这个例子仅收集了系统信息,但同样的方法可用于创建更具破坏性的载荷 。安全专家警告称 ,随着这些 AI 代理变得越来越复杂,攻击者可能会指示它们“黑入公司 X” ,并让 AI 自动确定并执行最佳攻击策略 ,这将大大降低实施网络攻击的技术门槛。

随着 AI 技术的不断进步 ,网络安全领域面临的新挑战不容忽视。源码库企业和安全团队需要采取更加主动的措施 ,防范 AI 代理可能带来的威胁 。

Tags:

相关文章

  • 十大常见网络安全威胁

    物联网

    当 Internet 在 1960 年代创建时,被设想为一个革命性的计算机网络,供几千名研究人员使用。创建这个快速可靠的网络使用了许多资源,其开发人员考虑的安全措施主要是为了防止军事威胁和潜在的强大入 ...

    物联网

    阅读更多
  • OPPO R7全景相机在哪里开启

    物联网

    OPPO R7全景相机在哪里开启?小编一个朋友为了拍一张全景照片,竟然一张张拍下来,然后用电脑拼接!小编看到后也是醉得不行,然后拿他的OPPO R7告诉了他在系统自带的相机里开启全景,现在,小编把方法 ...

    物联网

    阅读更多
  • 三星S6Edge浮窗预览怎么用

    物联网

    三星S6Edge浮窗预览怎么用?三星S6Edge的浮窗预览是一个非常神奇的功能,可以让你快速预览到你要的信息,而下面呢,小编就要用这篇教程来教你三星S6Edge浮窗预览怎么用,想学习的朋友一起来看看吧 ...

    物联网

    阅读更多

滇ICP备2023000592号-18