Enhancing Low-Resource Joint Entity and Relation Extraction Using Large Language Models within Semi-Supervised Learning

计算机科学 关系抽取 杠杆(统计) 标记数据 人工智能 瓶颈 一致性(知识库) 机器学习 数据挖掘 概化理论 正规化(语言学) 水准点(测量) 接头(建筑物) 关系(数据库) 多任务学习 组分(热力学) 任务(项目管理) 数据建模 语言模型 估计员 自然语言处理 可比性 过度拟合 稳健性(进化) 成对比较 数据集成 结构化预测 统一模型 信息抽取 粒度 面子(社会学概念)
作者
Xiyang Liu,Hang Shen,Honglei Qi,Yuanfei Dai
出处
期刊:ACM Transactions on Knowledge Discovery From Data [Association for Computing Machinery]
标识
DOI:10.1145/3799423
摘要

Joint entity and relation extraction represents a critical task in knowledge representation, but often suffers from the bottleneck of requiring large amounts of labeled data, which is expensive and laborious to obtain. While semi-supervised learning (SSL) offers a way to leverage unlabeled data, traditional methods face limitations in generating high-quality, diverse augmentations for text. This paper introduces a novel framework that synergistically combines SSL with large language models (LLMs) to improve joint entity and relation extraction, especially in low-resource settings. Our approach utilizes LLMs to generate semantically coherent and diverse augmented data from unlabeled samples. These augmented samples, along with limited labeled data, are used within an SSL framework employing consistency regularization and pseudo-labeling to train the extraction model. Crucially, the framework incorporates an iterative refinement mechanism where the performance of the SSL component informs the parameter-efficient fine-tuning of the LLM, leading to progressively better data augmentation and model accuracy. We demonstrate through extensive experiments on four benchmark datasets that our proposed method significantly outperforms existing state-of-the-art approaches, particularly when labeled data is scarce. The framework’s design is adaptable and can be integrated with various existing joint extraction models, showcasing its generalizability and practical utility.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
小糊涂仙发布了新的文献求助10
1秒前
小张完成签到 ,获得积分10
3秒前
3秒前
WXX完成签到,获得积分10
3秒前
zcf发布了新的文献求助10
3秒前
科滴滴发布了新的文献求助10
3秒前
4秒前
传奇3的应助被藏莫汪汪采纳,获得10
4秒前
4秒前
蔡徐坤发布了新的文献求助10
4秒前
爆米花的应助被ling采纳,获得10
5秒前
传奇3的应助被libaokuu采纳,获得10
5秒前
kyle完成签到,获得积分10
5秒前
Lucas的应助被Lingxiink采纳,获得10
6秒前
6秒前
8秒前
中中中中发布了新的文献求助10
8秒前
DW的应助被科研通管家采纳,获得10
9秒前
9秒前
10秒前
11111的应助被机智友灵采纳,获得10
10秒前
10秒前
Ava的应助被科研通管家采纳,获得10
10秒前
M_Bi发布了新的文献求助10
10秒前
10秒前
10秒前
科研通AI6.4的应助被ngkz采纳,获得10
10秒前
orixero的应助被科研通管家采纳,获得10
10秒前
10秒前
研友_VZG7GZ的应助被科研通管家采纳,获得10
11秒前
11秒前
11秒前
NexusExplorer的应助被科研通管家采纳,获得10
11秒前
11秒前
11秒前
NexusExplorer的应助被科研通管家采纳,获得10
11秒前
充电宝的应助被科研通管家采纳,获得10
11秒前
11秒前
Owen的应助被科研通管家采纳,获得10
11秒前
12秒前
高分求助中
(应助此贴封号)通过应助OA文献获取积分 10000
Rosenblum, Global Change Biology 800
Management and the Arts 510
Production Logging: Theoretical and Interpretive Elements 400
Geschichtliche Grundbegriffe (GGB), Band 5: Pro–Soz 300
Die Religion in Geschichte und Gegenwart (RGG), 4. Auflage, Band 7: R–S 300
Die Religion in Geschichte und Gegenwart (RGG), 4. Auflage, Band 1: A–B 300
热门求助领域 (近24小时)
化学 材料科学 医学 生物 计算机科学 工程类 纳米技术 内科学 物理 有机化学 化学工程 生物化学 复合材料 光电子学 细胞生物学 心理学 量子力学 催化作用 物理化学 电极
热门帖子
关注 科研通微信公众号,转发送积分 7818630
求助须知:如何正确求助?哪些是违规求助? 9346779
关于积分的说明 20537602
捐赠科研通 7411223
什么是DOI,文献DOI怎么找? 3332056
关于科研通互助平台的介绍 2478263
邀请新用户注册赠送积分活动 2351809