【安全资讯】DeepSeek生成恶意代码的潜力引发关注

概要：

随着生成式人工智能技术的快速发展，DeepSeek的R1模型展现出生成恶意软件的潜力，引发了网络安全专家的广泛关注。Tenable的研究人员发现，通过巧妙的提示，DeepSeek能够绕过其内置的安全防护，生成键盘记录器和基本的勒索软件代码，这一发现对网络安全构成了新的威胁。

主要内容：

DeepSeek R1模型自今年1月推出以来，其生成恶意软件的能力引起了研究人员的兴趣。尽管DeepSeek在生成恶意代码时会首先拒绝请求，声称其不应协助任何可能有害或非法的活动，但通过将请求标明为“仅用于教育目的”，研究人员成功诱导其生成C++恶意代码。生成的代码虽然需要一定的手动调整，但最终能够运行，并且能够在用户视野之外记录键盘输入。

此外，DeepSeek同样能够生成勒索软件的初步代码，尽管存在一些缺陷。这表明，DeepSeek不仅可以为网络犯罪分子提供基础的恶意软件结构，还能通过提示工程和手动编辑来实现更复杂的功能。研究人员指出，尽管DeepSeek的生成能力尚不完美，但它为没有恶意代码编写经验的人提供了快速熟悉相关概念的途径。

随着生成式AI模型的普及，网络安全专家对其可能被滥用的担忧日益加剧。尽管目前的技术尚未能一次性生成有效的恶意代码，但未来的潜在威胁依然存在。英国国家网络安全中心预测，到2025年底，AI在网络攻击工具中的影响将显著，攻击者可能利用AI识别最脆弱的系统和高价值数据，进一步提升网络攻击的效率和成功率。