研究:用诗歌就能让AI说违禁内容,成功率达62%
IT之家 12 月 1 日消息,研究用诗事实证明,违禁只需一点创意,内容咸阳市某某照明服务中心便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的率达一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,研究用诗成功绕过了多种大语言模型(LLM)的违禁安全限制。
![]()
该研究指出,内容“诗歌形式可作为一种通用型越狱操作符”,成功咸阳市某某照明服务中心实验结果显示,率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容,包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到,成功研究测试了多款主流大语言模型,率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”
- ·我国单月汽车产量首次超过350万辆
- ·回去要加练了,勇士对快船一战罚球仅19中9,快船则18罚16中
- ·回去要加练了,勇士对快船一战罚球仅19中9,快船则18罚16中
- ·拍不完的“狄仁杰”,又有新片问世,惊现已故“大侠”徐少强
- ·电线杆老化倒塌引发野火 美国得州起诉电力公司
- ·美股三大指数集体收涨 奈飞连续四个交易日续创新高
- ·字母哥关键封盖+利拉德制胜球 雄鹿终结火箭5连胜
- ·继续因伤缺阵,米体:道格拉斯
- ·美联邦航空局建议在委方飞行情报区保持警惕
- ·美当选总统特朗普获准撤销其“封口费”刑事案件
- ·华为 Mate 70 系列手机有望支持全新拍摄玩法和隐私保护功能
- ·这个大乌龙,让全世界虚惊一场
- ·张纪中发长文悼念何晴:愿在天堂安息
- ·中国男篮合影号码公布:队长胡明轩3号杨瀚森51号 剑指两战全胜
- ·字母哥关键封盖+利拉德制胜球 雄鹿终结火箭5连胜
- ·远藤航:之前我们利用了主场优势,这次在开局必须格外小心
