赛门铁克披露劫持未防护模型的攻击智能体

赛门铁克称发现一个劫持互联网上未防护语言模型、可自主执行攻击的AI智能体，但截获的会话尚未实际运行攻击工具。该智能体最多连续执行10万步而无需人工介入，算力费用由模型所有者承担；赛门铁克把盗用模型访问权称为LLMjacking，其蜜罐记录到来自数万个地址的超过12.7万次请求。 赛门铁克称该智能体配备五层越狱提示词和74个攻击模块，可执行扫描、入侵、窃取数据库和植入挖矿程序。不过其蜜罐未运行这些工具，会话在通用系统回复后结束；分析未评估越狱能否真正攻破当前商用模型，截获提示词附带的任务只是无害编程练习，显示运营者可能先以安全目标测试工具。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。