【安全资讯】ChatGPT-4o被用于自主语音诈骗

概要：

随着人工智能技术的迅猛发展，网络诈骗手段也在不断演变。最新研究表明，OpenAI的ChatGPT-4o可以被滥用进行语音诈骗，给金融安全带来了新的威胁。研究者们发现，这种新型的诈骗方式不仅成功率可观，而且实施成本低廉，令人担忧。

主要内容：

研究人员通过实验表明，利用ChatGPT-4o的实时语音API，网络犯罪分子能够进行多种类型的金融诈骗，包括银行转账、礼品卡提取和加密货币转移等。该模型的语音功能使得诈骗者能够模拟真实用户进行操作，甚至绕过两步验证等安全措施。研究显示，诈骗的成功率在20%到60%之间，具体取决于诈骗类型和复杂程度。

在实验中，研究者们手动与AI代理互动，模拟受害者的角色，成功确认了多笔交易的完成。例如，在银行转账诈骗中，研究者使用真实网站进行操作，最终确认资金转移。尽管一些操作因转录错误或网站导航复杂而失败，但Gmail账户的凭证盗窃成功率高达60%。

OpenAI对此表示，他们正在不断改进ChatGPT，以增强其防范恶意使用的能力。最新的o1模型在抵御此类滥用方面表现更佳，安全性显著提高。然而，研究也提醒，尽管新模型的安全性有所提升，仍然存在其他语音聊天机器人被滥用的风险，网络安全威胁依然严峻。