研究：用诗歌就能让AI说违禁内容，成功率达62%
2025-12-24 17:14:46 [热点] 来源：常德市某某餐饮管理客服中心
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容吕梁市某某软件科技有限公司便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功吕梁市某某软件科技有限公司实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
(责任编辑：热点)
央视曝光“陈皮”造假骗局！提醒：喝陈皮时，千万多留意这几点！
骄傲转存！盘点2025大国重器新突破
至高可省1.5万 问界/深蓝/蔚来等车企自掏腰包兜底购置税推荐文章
-
俄罗斯总统普京19日表示，俄罗斯曾在北约东扩问题上“多次受骗”。 普京说，北约军事基础设施在向俄边境移动，这引发了俄方的合理担忧。 普京说，曾有过俄罗斯加入北约的讨论，但俄方意识到俄罗斯加入北
...[详细]
-
人民日报健康客户端记者 张炳钰）12月2日，北京市最高气温降至冰点，人们的讨论多聚焦在“冷”字上，“才知道原来100%纯棉不是棉”话题登上热搜。纯棉的四种叫法乍看之下，“100%”和“纯”字同时出现，
...[详细]
-
爸妈高孩子就一定高？内分泌科专家破解身高八大谣言 来源：网易健康）
...[详细]
-
你是不是明明知道喝奶茶、吃甜品不友好，还是忍不住买回来炫几口？其实，这并不是你的错。因为我们的身体里每秒钟要消耗1万万亿的葡萄糖分子，而最直接、最快速获得能量的办法就是食物摄入。不过，对于很多需要控糖
...[详细]
-
新华社快讯：韩国宪法法院宣布通过对警察厅厅长赵志浩的弹劾，赵志浩即刻被罢免职务。 相关报道： 韩国法院对警察厅厅长赵志浩进行拘捕必要性审查央视新闻 2024年12月13日） 韩国警察厅厅长赵
...[详细]
-
来源:人民日报海外版11月25日神舟二十二号飞船成功发射，中国载人航天工程首次应急发射任务取得圆满成功。图为11月18日拍摄的逃逸塔转运画面。庞朝琪摄新华社发）11月1日在北京航天飞行控制中心飞控大厅
...[详细]
-
一氧化碳中毒近期高发，三种场景最易中招2025-12-12 15:11:43 来源：“国家应急广播”微信公众号
...[详细]
-
人民日报健康客户端记者 张炳钰）12月2日，北京市最高气温降至冰点，人们的讨论多聚焦在“冷”字上，“才知道原来100%纯棉不是棉”话题登上热搜。纯棉的四种叫法乍看之下，“100%”和“纯”字同时出现，
...[详细]
-
来源：央视新闻客户端 记者今天17日）从自然资源部中国地质调查局获悉，经国际矿物学会新矿物命名与分类专业委员会评审投票，由中国地质科学院科研人员发现并申请的新矿物——镍铋锑砷硫化物获得正式批准，
...[详细]
-
颈动脉报告别瞎猜！这3个指标才是重点 来源：网易健康）
...[详细]
热点阅读
