已入深夜,您辛苦了!由于当前在线用户较少,发布求助请尽量完整地填写文献信息,科研通机器人24小时在线,伴您度过漫漫科研夜!祝你早点完成任务,早点休息,好梦!

Generative AI Misuse: A Taxonomy of Tactics and Insights from Real-World Data

分类学(生物学) 生成语法 数据科学 计算机科学 人工智能 生物 动物
作者
Nahema Marchal,Rachel Xu,Rasmi Elasmar,Iason Gabriel,Beth Goldberg,William Isaac
出处
期刊:Cornell University - arXiv [Cornell University]
被引量:3
标识
DOI:10.48550/arxiv.2406.13843
摘要

Generative, multimodal artificial intelligence (GenAI) offers transformative potential across industries, but its misuse poses significant risks. Prior research has shed light on the potential of advanced AI systems to be exploited for malicious purposes. However, we still lack a concrete understanding of how GenAI models are specifically exploited or abused in practice, including the tactics employed to inflict harm. In this paper, we present a taxonomy of GenAI misuse tactics, informed by existing academic literature and a qualitative analysis of approximately 200 observed incidents of misuse reported between January 2023 and March 2024. Through this analysis, we illuminate key and novel patterns in misuse during this time period, including potential motivations, strategies, and how attackers leverage and abuse system capabilities across modalities (e.g. image, text, audio, video) in the wild.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
辛勤的鹰完成签到 ,获得积分10
刚刚
drirshad完成签到,获得积分10
刚刚
listen完成签到,获得积分20
1秒前
孤独难胜完成签到,获得积分10
3秒前
科研通AI6.3的应助被橘子味采纳,获得10
4秒前
风中的雨真完成签到 ,获得积分10
5秒前
木木完成签到,获得积分10
5秒前
6秒前
思源的应助被xx2026采纳,获得10
7秒前
8秒前
Dandelion完成签到,获得积分10
9秒前
汤圆完成签到,获得积分0
9秒前
超帅蛋挞完成签到 ,获得积分10
10秒前
科目三的应助被璐璐采纳,获得10
10秒前
MUHE发布了新的文献求助10
10秒前
独特静枫完成签到,获得积分20
11秒前
11秒前
12秒前
temp发布了新的文献求助10
12秒前
12秒前
13秒前
13秒前
明天就毕业完成签到,获得积分10
15秒前
欣喜的若山完成签到 ,获得积分10
17秒前
Proustian发布了新的文献求助10
17秒前
17秒前
火星上笑珊完成签到,获得积分10
17秒前
Rina发布了新的文献求助10
18秒前
18秒前
limo完成签到 ,获得积分10
20秒前
20秒前
缺粥完成签到 ,获得积分20
21秒前
22秒前
pandaslamma完成签到,获得积分10
22秒前
xx2026发布了新的文献求助10
22秒前
邱皓完成签到,获得积分10
22秒前
23秒前
24秒前
橘络完成签到 ,获得积分10
24秒前
MUHE发布了新的文献求助10
27秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 2000
Handbook of Sport Coaching Research 1000
Orthognathic Surgery - 2 Volume Set 500
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
基于结构调控的功能化水诱导发电材料与器件研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8194853
求助须知:如何正确求助?哪些是违规求助? 9580564
关于积分的说明 21871986
捐赠科研通 7794485
什么是DOI,文献DOI怎么找? 3437769
关于科研通互助平台的介绍 2561095
邀请新用户注册赠送积分活动 2484486