“CopyPasta”攻击表明即时注入可以大规模感染人工智能

报道：

黑客现在只需一个带有陷阱的许可证文件就能将人工智能编程助手武器化，将开发者工具变成恶意代码的静默传播者。这是根据一份新报告报告来自网络安全公司 HiddenLayer，它展示了如何诱骗人工智能盲目地将恶意软件复制到项目中。aXx - 区块链数字货币实时行情平台

这项概念验证技术被称为“CopyPasta许可证攻击”，利用了AI工具处理LICENSE.txt和README.md等常见开发者文件的方式。通过在这些文档中嵌入隐藏指令（或称“即时注入”），攻击者可以操纵AI代理在用户不知情的情况下注入恶意代码。aXx - 区块链数字货币实时行情平台

HiddenLayer 研究员兼报告作者 Kenneth Yeung 表示：“我们建议在运行时采取防御措施，以防止间接提示注入，并确保对文件进行的任何更改都经过彻底审查。”解密。aXx - 区块链数字货币实时行情平台

Yeung 解释说，CopyPasta 被认为是病毒而不是蠕虫，因为它仍然需要用户操作才能传播。“用户必须采取某种行动才能使恶意负载传播，”他说。.aXx - 区块链数字货币实时行情平台

尽管需要一些用户交互，但该病毒旨在通过利用开发人员依赖人工智能代理处理常规文档的方式来逃避人类的注意。aXx - 区块链数字货币实时行情平台

“CopyPasta 会将自己隐藏在 README 文件中不可见的注释中，而开发人员通常会将这些注释委托给 AI 代理或语言模型来编写，”他说，“这使得它能够以一种隐秘、几乎无法察觉的方式传播。”aXx - 区块链数字货币实时行情平台

CopyPasta 并非首次尝试感染 AI 系统。早在 2024 年，研究人员就提出了一种名为莫里斯二世旨在操纵人工智能电子邮件代理传播垃圾邮件和窃取数据。虽然该攻击理论上的成功率很高，但由于代理能力有限，在实践中失败了，而且迄今为止，人工审核措施已阻止此类攻击在野外发生。aXx - 区块链数字货币实时行情平台

虽然 CopyPasta 攻击目前还只是实验室概念验证，但研究人员表示，它凸显了人工智能助手如何成为不知情的帮凶攻击.aXx - 区块链数字货币实时行情平台

研究人员表示，核心问题是信任。人工智能代理被编程为将许可证文件视为重要文件，并且它们经常不加审查地执行嵌入的指令。这为攻击者利用漏洞打开了方便之门——尤其是在这些工具获得越来越多的自主权之后。aXx - 区块链数字货币实时行情平台

CopyPasta 是近期一系列关于针对 AI 工具的快速注入攻击的警告之后发布的。aXx - 区块链数字货币实时行情平台

7 月，OpenAI 首席执行官 Sam Altman警告该公司在推出 ChatGPT 代理时就曾警告过提示注入攻击，并指出恶意提示可能会劫持代理的行为。今年 8 月，Brave Software 也发出了类似的警告。证明Perplexity AI 浏览器扩展程序中存在提示注入缺陷，显示 Reddit 评论中的隐藏命令如何导致助手泄露私人数据。aXx - 区块链数字货币实时行情平台

欧意交易所最新推荐
OK交易所下载	USDT钱包下载	比特币平台下载
挖比特币方法	买稳定币教程	钱包注册指南

本文标签：

声明：本文由代码号注册/游客用户【澜漪】供稿发布，本站不对用户发布的“CopyPasta”攻击表明即时注入可以大规模感染人工智能信息内容原创度和真实性等负责。如内容侵犯您的版权或其他权益，请留言并加以说明。站长审查之后若情况属实会及时为您删除。

很赞哦！ ()