IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容西宁市某某广告售后客服中心便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。

该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功西宁市某某广告售后客服中心实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容

IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”

• ·上海市虹口区民政局公告：担任蒋婷遗产管理人
• ·渝昆高铁长水机场站正式进入主体结构施工阶段
• ·五一假期临近，国际旅行警惕登革热
• ·放风筝有益颈椎健康？医生：适度很重要
• ·台湾台东县发生5.8级地震，高雄等地交通受影响
• ·上海交大这颗探月卫星随嫦娥六号飞天，师生现场观看发射
• ·北京稳楼市政策“小步快跑”
• ·女子因值机起冲突被航空公司永久拒载，法院这样判
• ·现货黄金首次涨破4500美元
• ·平安抵京！神十七航天员将进入隔离恢复期
• ·一线城市住房“以旧换新”扩围，上海30余个新房项目率先参与
• ·DMO+云辇
• ·商家套路还是时令美味？冬日霜打菜大起底
• ·2024美仑品牌家族酒店投资峰会，探讨存量酒店资产升级
• ·《猩球崛起：新世界》：缺乏新意的大型预告片
• ·半两财经