【安全资讯】微软警告：AI推荐投毒攻击激增，威胁用户信任与安全

概要：

随着人工智能技术的广泛应用，其安全性问题日益凸显。微软近期发布警告，揭示了一种名为“AI推荐投毒”的新型攻击手法，攻击者通过操纵AI模型的“记忆”来植入偏见性建议，严重威胁用户在健康、金融等关键领域的决策安全。这一技术类似SEO投毒，但目标直指AI系统，其隐蔽性和持久性使得用户难以察觉和防范。

主要内容：

微软安全团队发现，攻击者利用网站上的“AI总结”按钮或链接，通过URL参数嵌入隐蔽的操纵性提示文本，从而“毒化”AI模型的记忆。例如，攻击者可指令AI以特定偏见总结新闻文章。微软已识别出来自14个行业、31家公司的超过50个独特恶意提示，且相关工具易于获取，降低了攻击门槛。

这种攻击的核心在于，一旦AI模型被“投毒”，它会将注入的指令视为合法的用户偏好，并影响后续所有响应。攻击效果可能随时间变化，因平台防护措施而减弱，但其隐蔽性使得用户难以意识到AI已被操控，尤其是当AI以自信的语气输出内容时，用户更易轻信。

微软建议用户谨慎点击AI相关链接，定期检查并清理AI助手的存储记忆，删除可疑条目。企业安全团队则应扫描租户邮箱和通讯应用中的AI推荐投毒尝试。这一威胁不仅侵蚀用户对AI服务的信任，还可能在不经意间引导用户做出有害决策，凸显了AI系统安全防护的紧迫性。