您的当前位置:首页 > 热点 > 研究:用诗歌就能让AI说违禁内容,成功率达62% 正文
时间:2025-12-22 13:38:11 来源:网络整理 编辑:热点
IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》
IT之家 12 月 1 日消息,研究用诗事实证明,违禁只需一点创意,内容成都市某某国际贸易服务中心便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的率达一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,研究用诗成功绕过了多种大语言模型(LLM)的违禁安全限制。
![]()
该研究指出,内容“诗歌形式可作为一种通用型越狱操作符”,成功成都市某某国际贸易服务中心实验结果显示,率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容,包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到,成功研究测试了多款主流大语言模型,率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”
韩外长:将推进总统李在明明年访华事宜2025-12-22 13:34
打演员、洁癖到病态,周姓女星被曝耍大牌,童谣、胡先煦是受害者2025-12-22 13:27
格瓦:自己过圣诞时自己买礼物;最喜欢圣诞电影《小鬼当家》2025-12-22 12:59
2025中乙官方最佳门将候选:沈博凯、袁建锐在列,李晨入选2025-12-22 12:27
暴雪+大风+大雾预警齐发!新一轮冷空气来了2025-12-22 12:19
央企“创二代”阿维塔闯港股,资本买账吗?2025-12-22 12:16
钟汉良上海马拉松庆生,脱掉外套秀出一身腱子肉,身材管理绝了2025-12-22 12:02
众星为香港大火捐款,韩红基金会捐款千万,霍启刚代表家族支援2025-12-22 11:27
以军连续空袭加沙南部 致4人死亡2025-12-22 11:09
2025中乙官方最佳门将候选:沈博凯、袁建锐在列,李晨入选2025-12-22 11:08
“插座一哥”公牛怒了2025-12-22 13:11
布朗19+12+11绿军拒骑士21分逆转 普里查德42分赛季新高2025-12-22 13:06
公开招水军吹捧日本、抹黑中国,金主是谁?2025-12-22 12:40
新纪录!我国快递年业务量首次突破1800亿件2025-12-22 12:35
谷歌凌晨炸场,Pro级智商只卖“白菜价”,OpenAI还怎么玩?2025-12-22 12:29
破禁忌!93岁胡枫执意为老友扶灵,临终一幕让刘德华都送花圈2025-12-22 12:23
格瓦:自己过圣诞时自己买礼物;最喜欢圣诞电影《小鬼当家》2025-12-22 12:22
卡拉格:维尔茨本场数据相当亮眼,他的踢法、位置像德布劳内2025-12-22 12:10
把“大床房”玩明白的方盒子 福特智趣烈马售22.98万起2025-12-22 12:01
TA:曼联展现出了韧性,但他们还需提升运动战创造机会的能力2025-12-22 11:56