【安全资讯】网络犯罪分子利用AI“氛围编码”工具开发恶意软件，安全风险加剧

概要：

随着AI辅助编程工具的普及，网络安全领域正面临新的威胁。Palo Alto Networks Unit 42团队的研究表明，网络犯罪分子已开始利用“氛围编码”平台快速生成恶意软件、勒索信及社交工程邮件，这标志着攻击手段的自动化和智能化进入新阶段。尽管AI生成的攻击代码可能存在缺陷，但其带来的安全漏洞和加速攻击开发的风险不容忽视。

主要内容：

Palo Alto Networks高级咨询总监Kate Middagh指出，调查发现恶意软件开发者正直接调用OpenAI等大型语言模型的API，将生成恶意代码的指令嵌入程序中，这构成了其使用AI工具开发恶意软件的“直接且无可辩驳的证据”。攻击者利用LLM生成包括数据提取工具的规避技术在内的攻击代码，但这些代码往往因缺乏环境定制而无效，沦为“安全表演”。

技术层面，AI生成的恶意软件常包含明显错误，例如将勒索说明文件错误命名为“readme.txtt”，这种基础失误在传统攻击中极为罕见，反映了攻击者为追求速度而牺牲了代码验证环节。同时，AI辅助编码本身会引入大量安全漏洞，例如开发速度超越安全团队响应能力、AI代理越权访问数据以及提示词注入攻击等风险。

为应对风险，Palo Alto Networks提出了名为“SHIELD”的安全框架，其核心包括职责分离、保持人工代码审查环节、输入输出验证、部署专注于安全的辅助模型、实施最小权限原则以及采用防御性技术控制。然而，目前约半数企业未对AI工具的使用设置任何限制，安全控制严重滞后。

总体而言，AI驱动的“氛围编码”虽能提升效率，但也显著降低了恶意软件的制作门槛，可能导致个性化攻击软件激增。企业需尽快建立针对AI编码工具的风险评估与监控体系，平衡创新效率与安全保障。