基于bert实现关系三元组抽取python源码+数据集+项目说明.zip

使用bert进行关系三元组抽取。 模型和数据下载地址：https://cowtransfer.com/s/c5e2422d2e0b40 点击链接查看 [ BERT-Relation-Extraction ] ，或访问奶牛快传 cowtransfer.com 输入传输口令 vvf067 查看； # 依赖 ```python scikit-learn==1.1.3 scipy==1.10.1 seqeval==1.2.2 transformers==4.27.4 pytorch-crf==0.7.2 ``` # 目录结构 ```python --checkpoint：模型和配置保存位置 --model_hub：预训练模型 ----chinese-bert-wwm-ext: --------vocab.txt --------pytorch_model.bin --------config.json --data：存放数据 ----dgre --------ori_data：原始的数据 --------ner_data：处理之后的数据 ------------labels.txt：标签 ------------train.txt：训练数据 ------------dev.txt：测试数据 --------re_data： ------------labels.txt：关系标签 ------------train.txt：训练数据 ------------dev.txt：测试数据 ------------rels.txt：该数据集没有，因为实体只有两类，有的话则是哪些实体之间具有关系 --config.py：配置 --model.py：模型 --process.py：处理ori数据得到ner数据和re数据 --predict.py：加载训练好的模型进行预测 --ner_main.py：实体识别训练和测试 --re_main.py：关系识别训练和测试 ``` # 说明 使用的方法： - 1、利用BERT-BILSTM-CRF识别出文本里面的实体。 - 2、根据rels之间实体对之间的关系，将可能有关系的两类实体和文本拼接后输入到模型里面进行分类。 这里以dgre数据为例。 ```python 1、去https://huggingface.co/hfl/chinese-bert-wwm-ext/tree/main下载相关文件到chinese-bert-wwm-ext下。 2、在process.py里面定义将ori_data里面的数据处理得到ner_data下的数据和re_data下的数据。 ner_data下数据样本是这样的： --labels.txt 故障设备 故障原因 --train.txt/dev.txt {"id": "AT0001", "text": ["6", "2", "号", "汽", "车", "故", "障", "报", "告", "综", "合", "情", "况", ":", "故", "障", "现", "象", ":", "加", "速", "后", "，", "丢", "开", "油", "门", "，", "发", "动", "机", "熄", "火", "。"], "labels": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-故障设备", "I-故障设备", "I-故障设备", "B-故障原因", "I-故障原因", "O"]} 一行一条样本，格式为BIO。 re_data下的数据样本是这样的： --labels.txt 性能故障 部件故障 检测工具 组成 没关系 --train.txt/dev.txt {"text": "故障原因：车轮悬架臂支座表面与车架接触面两者之间的表面接触不平整，在车辆低速急加速时，车轮悬架臂支座瞬间的推力，刚好车轮悬架臂支座表面与车架接触面接触不平整，车轮悬架臂支座表面与车架表面产生相对位移，使两者表面之间有摩擦，产生金属异响声解决方法：根据车轮悬架臂支座表面与车架接触面两者之间的表面接触不平整现象，对车轮悬架臂支座表面与车架表面进行平整化处理", "labels": ["车架接触面", "表面接触不平整", "部件故障"], "id": "1380_2"} 如果还有rels.txt，则是这样的 { "故障设备_故障原因": ["性能故障", "部件故障", "检测工具", "组成"] } 可参考duie/re_data下的rels.txt 也就是不同类型的实体对之间存在的关系。 3、在config.py里面定义一些参数，比如： --max_seq_len：句子最大长度，GPU显存不够则调小。 --epochs：训练的epoch数 --train_batch_size：训练的batchsize大小，GPU显存不够则调小。 --dev_batch_size：验证的batchsize大小，GPU显存不够则调小。 --save_step：多少step保存模型 其余的可保持不变。注意：实体识别最大长度和关系抽取最大长度要保持一致。 4、在ner_main.py里面修改data_name为数据集名称。需要注意的是名称和data下的数据集名称保持一致。最后运行：python ner_main.py 5、在re_main.py里面修改data_name为数据集名称。需要注意的是名称和data下的数据集名称保持一致。最后运行：python re_main.py 5、在predict.py修改data_name并加入预测数据，最后运行：python predict.py ``` ## DGRE数据集 ```python max_seq_len=512 epochs=3 train_batch_size=12 dev_batch_size=12 ``` ```python 实体识别： precision recall f1-score support 故障原因 0.70 0.74 0.72 490 故障设备 0.75 0.79 0.77 484 micro avg 0.72 0.76 0.74 974 macro avg 0.72 0.76 0.74 974 weighted avg 0.72 0.76 0.74 974 关系识别： precision recall f1-score support 性能故障 0.96 0.87 0.91 30 部件故障 0.89 0.99 0.94 464 检测工具 1.00 0.67 0.80 3 组成 0.60 0.95 0.73 19 没关系 0.96 0.62 0.75 176 accuracy 0.89 692 macro avg 0.88 0.82 0.83 692 weighted avg 0.90 0.89 0.88 692 联合预测： 文本>>>>>： 492号汽车故障报告故障现象一辆车用户用水清洗发动机后，在正常行驶时突然产生铛铛异响，自行熄火 实体>>>>>： {'故障原因': [('异响', 40, 41), ('熄火', 45, 46)]} 关系>>>>>： [] ==================================================================================================== 文本>>>>>： 故障现象：空调制冷效果差。 实体>>>>>： {'故障设备': [('空调', 5, 6)], '故障原因': [('制冷效果差', 7, 11)]} 关系>>>>>： [('空调', '制冷效果差', '部件故障')] ==================================================================================================== 文本>>>>>： 原因分析：1、遥控器失效或数据丢失;2、ISU模块功能失效或工作不良;3、系统信号有干扰导致。处理方法、体会：1、检查该车发现，两把遥控器都不能工作，两把遥控器同时出现故障的可能几乎是不存在的，由此可以排除遥控器本身的故障。2、检查ISU的功能，受其控制的部分全部工作正常，排除了ISU系统出现故障的可能。3、怀疑是遥控器数据丢失，用诊断仪对系统进行重新匹配，发现遥控器匹配不能正常进行。此时拔掉ISU模块上的电源插头，使系统强制恢复出厂设置，再插上插头，发现系统恢复，可以进行遥控操作。但当车辆发动在熄火后，遥控又再次失效。4、查看线路图发现，在点火开关处安装有一钥匙行程开关，当钥匙插入在点火开关内，处于ON位时，该开关接通，向ISU发送一个信号，此时遥控器不能进行控制工作。当钥匙处于OFF位时，开关断开，遥控器恢复工作，可以对门锁进行控制。如果此开关出现故障，也会导致遥控器不能正常工作。同时该行程开关也控制天窗的自动回位功能。测试天窗发现不能自动回位。确认该开关出现故障 实体>>>>>： {'故障设备': [('遥控器', 7, 9), ('ISU模块', 20, 24), ('系统信号', 37, 40), ('遥控器', 66, 68), ('遥控器', 158, 160), ('遥控器', 182, 184), ('开关', 434, 435)], '故障原因': [('失效', 10, 11), ('数据', 13, 14), ('丢失', 15, 16), ('功能失效', 25, 28), ('工作不良', 30, 33), ('干扰', 42, 43), ('不能工作', 70, 73), ('数据丢失', 161, 164), ('失效', 260, 261), ('不能自动回位', 424, 429), ('故障', 438, 439)]} 关系>>>>>： [('遥控器', '失效', '部件故障'), ('遥控器', '丢失', '部件故障'), ('ISU模块', '功能失效', '部件故障'), ('ISU模块', '工作不良', '部件故障'), ('系统信号', '干扰', '部件故障'), ('遥控器', '不能工作', '部件故障'), ('遥控器', '数据丢失', '部件故障'), ('遥