【安全资讯】微软起诉滥用AI服务的“外国犯罪团伙”

概要：

微软近日对一群未具名的网络犯罪分子提起诉讼，指控他们开发工具以绕过其生成式AI工具的安全防护。这些工具被用于创建有害内容，并作为服务出售给其他不法分子。此案在美国地区法院于去年12月提交，涉及10名被告，指控他们使用从多个微软客户那里窃取的API密钥以及定制软件，侵入运行微软Azure OpenAI服务的计算机。

主要内容：

微软在2024年7月揭露了这一犯罪计划，但具体的API密钥窃取方式尚不清楚。尽管法律诉状未指明10名被告的身份，微软数字犯罪部门的助理总法律顾问Steven Masada将这些犯罪分子描述为“外国威胁行为者”。诉状指控这10名被告违反了包括《计算机欺诈和滥用法》、《数字千年版权法》和《影响和腐败组织法》在内的联邦法律，并寻求与“创建、控制、维护、贩卖和持续使用非法计算机网络及盗版软件以对微软、其客户和公众造成伤害”相关的救济和赔偿。

此外，法院新解封的文件还包括一项允许微软查封用于犯罪活动的网络域名的法院命令。Masada表示，这将“帮助我们收集关于这些操作背后个人的重要证据，解密这些服务的货币化方式，并破坏我们发现的其他技术基础设施”。根据诉状，犯罪分子利用窃取的客户凭证侵入Azure后，非法访问被用于“创建违反微软政策的有害内容，并绕过微软的技术保护措施”。

这些数字窃贼还将这种访问作为“黑客即服务”方案转售给其他犯罪分子。诉状指出，被告首先创建了一种被称为“de3u”的客户端软件工具，并通过“rentry.org/dc3u”域名公开提供。其次，被告开发了一个反向代理服务软件，专门用于处理和路由来自de3u软件的通信到微软系统。微软随后加强了其生成式AI的安全防护措施，增加了新的安全缓解措施，以防止此类滥用行为。