【安全资讯】生成式AI聊天机器人如何成为企业数据后门

概要：

随着生成式AI在企业客户服务中的广泛应用，其安全漏洞正成为黑客入侵的新突破口。趋势科技最新研究揭示，攻击者可通过间接提示注入等技术，将AI聊天机器人转化为窃取敏感数据的后门。这一威胁对金融、科技等行业构成严重风险，凸显了构建多层防御体系的紧迫性。

主要内容：

攻击者首先会像普通用户一样与AI聊天机器人交互，通过精心构造的异常查询触发错误信息泄露。在模拟攻击中，攻击者利用FinBot返回的错误信息确认其使用Python技术栈并依赖外部数据源，这为后续攻击提供了关键情报。

第二阶段采用间接提示注入攻击，攻击者在第三方论坛发布隐藏恶意指令的评论。当FinBot解析这些数据时，被操控泄露了系统提示词，暴露出可访问的内部API工具。这种系统提示泄漏漏洞让攻击者掌握了机器人的核心权限。

利用过度的代理权限漏洞，攻击者伪装内部任务指令，通过internal_api_summarizer工具直接查询客户数据库。由于API缺乏足够安全措施，导致包含社保号码和账户余额的原始数据通过聊天界面直接泄露。

最终攻击者通过命令注入漏洞实现远程代码执行，不仅窃取了RAG系统的向量数据库凭证，还获取了云端存储的专有AI模型。这一连锁攻击充分利用了AI生态中各环节的安全弱点，从应用层一直渗透到底层基础设施。