Distract Large Language Models for Automatic Jailbreak Attack

作者
Zeguan Xiao,Yan T. Yang,Guanhua Chen,Yun Chen
出处
期刊: [Association for Computational Linguistics]
卷期号:: 16230-16244 被引量:35
标识
DOI:10.18653/v1/2024.emnlp-main.908
摘要

Extensive efforts have been made before the public release of Large language models (LLMs) to align their behaviors with human values.However, even meticulously aligned LLMs remain vulnerable to malicious manipulations such as jailbreaking, leading to unintended behaviors.In this work, we propose a novel black-box jailbreak framework for automated red teaming of LLMs.We designed malicious content concealing and memory reframing with an iterative optimization algorithm to jailbreak LLMs, motivated by the research about the distractibility and over-confidence phenomenon of LLMs.Extensive experiments of jailbreaking both open-source and proprietary LLMs demonstrate the superiority of our framework in terms of effectiveness, scalability and transferability.We also evaluate the effectiveness of existing jailbreak defense methods against our attack and highlight the crucial need to develop more effective and practical defense strategies.Warning: This paper contains unfiltered content generated by LLMs that may be offensive to readers.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
LeleZ999完成签到,获得积分10
刚刚
欢呼音响完成签到,获得积分10
1秒前
jing发布了新的文献求助10
1秒前
Firsterchao发布了新的文献求助30
1秒前
丫丫发布了新的文献求助10
1秒前
2秒前
hhh完成签到,获得积分10
2秒前
2秒前
荞栎发布了新的文献求助10
3秒前
3秒前
动听的乐驹完成签到,获得积分10
3秒前
4秒前
4秒前
qlw123发布了新的文献求助10
4秒前
lee发布了新的文献求助30
4秒前
Lotus完成签到,获得积分10
4秒前
CodeCraft的应助被自信的依波采纳,获得10
5秒前
5秒前
5秒前
anlan发布了新的文献求助10
6秒前
南屿发布了新的文献求助10
6秒前
大气糖豆发布了新的文献求助10
6秒前
丘比特的应助被知有采纳,获得10
7秒前
7秒前
若晨完成签到,获得积分10
8秒前
吴晨曦发布了新的文献求助10
8秒前
ubless607的应助被hochorsin采纳,获得10
8秒前
IH完成签到,获得积分10
8秒前
荞栎完成签到,获得积分10
9秒前
9秒前
Rebmetpes完成签到,获得积分10
9秒前
单纯如柏完成签到,获得积分10
9秒前
称心言发布了新的文献求助10
9秒前
9秒前
9秒前
10秒前
10秒前
qi完成签到,获得积分10
10秒前
赘婿的应助被朱梦伟采纳,获得10
10秒前
无极微光的应助被无语的冷卉采纳,获得20
10秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
八旗制度の研究 600
plantTFDB 508
Resource Recovery Handbook 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8175707
求助须知:如何正确求助?哪些是违规求助? 9567353
关于积分的说明 21792214
捐赠科研通 7770334
什么是DOI,文献DOI怎么找? 3431908
关于科研通互助平台的介绍 2556260
邀请新用户注册赠送积分活动 2477417