【安全资讯】微软报告：黑客滥用人工智能贯穿网络攻击全流程

概要：

随着人工智能技术的普及，网络威胁格局正经历深刻变革。微软最新威胁情报报告揭示，黑客正将生成式人工智能工具深度整合到网络攻击的各个阶段，从侦察、钓鱼到恶意软件开发和基础设施配置，AI已成为威胁行为体的关键“力量倍增器”，显著降低了攻击的技术门槛并加速了攻击执行。

主要内容：

微软威胁情报团队观察到，当前AI的恶意使用主要集中在利用语言模型生成文本、代码或媒体内容。威胁行为体利用生成式AI来起草钓鱼诱饵、翻译内容、总结窃取的数据、生成或调试恶意软件，以及搭建脚本或基础设施。AI在此过程中充当了减少技术摩擦、加速执行的工具，而人类操作者则保留对目标、瞄准和部署决策的控制权。

报告点名了多个将AI融入攻击的威胁组织，例如朝鲜背景的Jasper Sleet和Coral Sleet。这些组织利用AI技术作为远程IT工作者计划的一部分，通过生成逼真的身份、简历和沟通内容，以获取西方公司的职位并维持访问权限。Jasper Sleet利用生成式AI平台简化欺诈性数字身份的创建，例如生成符合特定文化背景的姓名列表和电子邮件地址格式。

AI还被用于辅助恶意软件开发和基础设施创建。威胁行为体使用AI编码工具来生成和优化恶意代码、排查错误，或将恶意软件组件移植到不同的编程语言。微软观察到一些恶意软件实验显示出AI赋能恶意软件的迹象，能够动态生成脚本或在运行时修改行为。当AI安全防护试图阻止此类滥用时，威胁行为体则采用越狱技术诱骗大语言模型生成恶意代码或内容。

微软建议组织将这些利用合法访问权限的AI驱动攻击视为内部风险。防御者应重点关注检测异常的凭证使用、加固身份系统以防范钓鱼攻击，并保护AI系统本身，防止其成为未来攻击的目标。这一趋势表明，AI正成为网络攻防两端的关键变量。