基于对抗训练和多头注意力机制的火灾事故信息提取方法

赵宝熙; 王明达; 冷高强

doi:10.12404/j.issn.1671-1815.2501485

科学技术与工程 ›› 2026, Vol. 26 ›› Issue (3) :1307-1313 DOI: 10.12404/j.issn.1671-1815.2501485

论文：环境科学、安全科学

基于对抗训练和多头注意力机制的火灾事故信息提取方法

作者信息 +

Fire Accident Information Extraction Method Based on Adversarial Training and Multi-head Attention Mechanism

Author information +

文章历史 +

摘要

为解决火灾事故信息抽取任务中存在的实体分布不均衡、部分实体边界模糊的问题,提出一种基于对抗训练和多头注意力机制的火灾信息抽取模型RA-BMAF (residual attention-based multi-head fusion)。以264篇火灾事故报告为样本进行实体标签标注,构建了火灾文本试验数据;采用RoBERTa-wwn-ext模型生成动态词向量,通过对抗训练对词向量扰动生成对抗样本,并与原始输入共同嵌入模型进行联合训练,缓解火灾样本实体分布不平衡问题;在特征提取层中通过引入多头注意力机制对BiGRU (bidirectional gated recurrent unit)模型提取的序列特征进一步优化权重分布,增强对实体模糊边界的关注;在解码层利用条件随机场预测序列特征。实验结果表明,本文模型在精确率、召回率和F₁上分别达83.10%、91.13%和86.89%,均优于RoBERTa-wwn-ext-BiGRU-CRF基线模型,在解决火灾事故实体提取过程中的实体不均衡和边界模糊问题上取得了显著进展。

Abstract

In order to tackle the challenges of uneven entity distribution and fuzzy boundaries in fire accident information extraction, a fire information extraction model RA-BMAF (residual attention-based multi-head fusion) based on adversarial training and multi-head attention mechanism was proposed. A total of 264 fire accident reports were used as samples for entity labeling, and fire text test data were constructed. The RoBERTa-wwn-ext model was employed to generate dynamic word vectors, and adversarial samples were generated by perturbing these vectors through adversarial training. These samples were then co-embedded with the original inputs for joint training, thereby alleviating the problem of entity distribution imbalance in fire samples. Additionally, in the feature extraction layer, the multi-head attention mechanism was incorporated to further optimize the weight distribution of the sequence features extracted by the BiGRU (bidirectional gated recurrent unit) model and to enhance focus on the fuzzy boundaries of entities. In the decoding layer, conditional random fields were used to predict the sequence features. The results show that the model achieved precision, recall, and F₁ scores of 83.10%, 91.13%, and 86.89%, respectively, outperforming the RoBERTa-wwn-ext-BiGRU-CRF (conditional random field) baseline model. It is concluded that the proposed approach significantly enhances the entity extraction process by addressing both entity imbalance and fuzzy boundaries in fire accident reports.

Graphical abstract

关键词

火灾事故文本 / 命名实体识别 / 自然语言处理 / 多头注意力机制 / FGM对抗训练

Key words

fire accident text / named entity recognition / natural language processing / multi-head attention mechanism / FGM adversarial training

引用本文

引用格式 ▾

赵宝熙, 王明达, 冷高强. 基于对抗训练和多头注意力机制的火灾事故信息提取方法[J]. 科学技术与工程, 2026, 26(3): 1307-1313 DOI:10.12404/j.issn.1671-1815.2501485

ZHAO Bao-xi, WANG Ming-da, LENG Gao-qiang. Fire Accident Information Extraction Method Based on Adversarial Training and Multi-head Attention Mechanism[J]. Science Technology and Engineering, 2026, 26(3): 1307-1313 DOI:10.12404/j.issn.1671-1815.2501485

登录浏览全文

4963

注册一个新账户忘记密码

近年来,建筑及居民区等领域的火灾事故频发,对社会安全与财产造成了严重威胁。火灾事故调查报告作为记录事故全过程的关键文档,包含了事故发生的时间、事故原因、事故影响、责任认定及整改措施等重要信息。命名实体识别作为自然语言处理中的核心任务,通过从非结构化文本中出具有特定意义的实体,为后续的安全管理、事故防控和决策提供更为精准的信息支持。

早期基于规则^[1]和统计机器学习^[2]的方法在命名实体识别中存在人工规则设计、标注成本高和特征工程复杂等问题。随着深度学习^[3]的发展,这些局限逐渐得到克服,深度学习模型在多样化和复杂文本处理上的实体识别^[4-6]表现出更好的性能。在法律、服装、农学等专业领域,研究者们提出了多种方法和模型。王霄等^[7]通过引入全局注意力信息、LDA (latent dirichlet allocation) 模型获取主题向量、多个语义粒度结合及辅助优化训练,提升了法律文书命名实体识别的鲁棒性和有效性;蒲攀等^[8]通过结合字向量与词向量拼接、引入方向和距离感知的注意力机制,并结合条件随机场(conditional random field, CRF)约束上下文标注结果完成苹果生产领域实体的有效识别;陈进东等^[9]通过BERT(bidirectional encoder representations from transforms)模型获得字符动态字向量输入到TENER(transformer encoder with relative positional encoding)模块,改进的Transformer模型进一步捕捉字符与字符之间的距离和方向信息,增强模型对识别服装质量抽检通告等小类别文本内容的理解能力。

在事故领域命名实体识别方面,成全等^[10]构建了联合训练模型和局部特征增强模型,从而进一步消除上下文语义指代和复杂领域内容对命名实体识别的影响;王明达等^[11]使用BiLSTM (bidirectional long short-term memory)-CFR模型结合强化学习算法对命名实体识别提升了城市燃气领域命名实体识别模型的性能。随着预训练模型BERT^[12]、RoBERTa(robustly optimized bert pretraining approach)^[13]等模型的引入,郝宽东等^[14]提出了一种基于BERT-BiLSTM-CRF的实体识别模型,应对航行通告中专业名词较多、格式不统一及语义复杂等问题;为解决实体识别模型对于领域边界性能较差的问题,许雅玺等^[15]基于BERT预训练语言模型提出融合领域词典嵌入的领域语义信息增强的方法,有效提升实体边界的识别率。研究者利用命名实体识别技术逐渐火灾事故报告调查识别关键信息,季峰^[16]利用BiLSTM模型和注意力机制,构建了语句级燃烧物提取模型,旨在有效从火灾事故报告抽取燃烧物相关的详细信息;由于火灾领域数据的稀少性,夏占杰等^[17]提出了一种新的命名实体识别数据增强方法,通过分离和替换命名实体,优化噪声数据并自动标注,为火灾领域数据增强提供思路;关斯琪等^[18]利用BERT-CRF模型结合数据增强技术,对火灾事故报告中的关键信息进行有效的命名实体识别。

深度学习和预训练命名实体识别模型在火灾事故调查报告数据量较小,模型难以捕捉到全局语义信息,均无法有效处理实体分布不均衡和边界模糊。针对此问题现提出一种基于对抗训练和多头注意力机制的火灾信息抽取模型,利用FGM(fast gradient method)对抗训练解决火灾文本标注中实体分布不均衡,引入多头注意力机制优化BiGRU(bidirectional gated recurrent unit)模型提取的序列特征得权重分布,增强对实体模糊边界的关注。搭建模型进行实验测试,验证本文方法对于火灾事故调查报告关键实体识别得有效性,为火灾事故调查研究提供技术基础,推动提升火灾事故安全管理水平。

1 火灾事故语料集构建

1.1 文本获取与预处理

通过爬虫技术从安全管理网等专业安全领域信息网站自动爬取了1 085篇火灾事故调查报告,并随机抽取其中264篇进行文本预处理。由于火灾领域具有较高的专业性,需要人工手写规则进行总结提取关键段落。因此,设计用于总结火灾事故文本的领域Prompt,并调用大语言模型ChatGLM^[19]的API(application programming interface)对事故报告进行自动摘要,有效降低人工总结时间。

1.2 实体划分与标注

根据火灾事故调查报告编制原则和关键信息需求确定实体类别划分和标注策略。

(1)实体类别划分:实体标签设定基于现有研究。如关斯琪等^[18]在火灾事故确定时间、地点、人员、组织机构、火灾损失、标准法规、火灾性质共7类实体。在上述研究基础上,对于事故原因、事故责任、整改措施进行实体标定义和标注。本文根据火灾事故报告编制规则并结合火灾事故需识别的关键实体,划分为9类实体,具体如表1所示。

(2)标注策略:采用BMES(begin, middle, end, single)标注策略,以解决重叠实体问题。其中,B-SGMC表示事故名称实体的开始位置,M-SGMC表示实体的中间部分,E-SGMC表示实体的结束部分,如表1所示。标注工具选用Label-Studio,并结合人工标注与自动化辅助工具,生成高质量且细粒度高的火灾事故实体语料库。

构建46 410条火灾事故语料集进行命名实体识别,将语料按照8∶1∶1的比例划分为训练集(包含37 128条数据)、测试集(包含46 41条数据)、验证集(包含4 641条数据),其中测试集共标注322个实体。

针对火灾事故报告数据的特点,提出一种基于对抗训算法和多头注意力机制的火灾事故信息抽取模型。如图1所示,本文模型的架构设计由4个主要模块组成:文本嵌入层转化为向量表示,BiGRU层提取序列特征,多头注意力机制层优化特征表示,最后CRF层^[20]用于标签解码。

模型的流程如下:预训练模型RoBERTa-wwn-ext作为模型输入层,对火灾事故报告样本进行文本编码。通过FGM对抗训练算法生成扰动样本,并将这些扰动样本与原始嵌入向量一同输入到BiGRU网络进行特征提取,使用注意力机制优化序列标签分布的权重。最后,CRF层负责对标签序列进行精确解码和优化,以确保生成最符合条件的最优标签序列。

2 模型构建

2.1 RoBERTa-wwn-ext嵌入层

为了更好地表示获取到的中文文本的输入特征,使用RoBERTa-wwn-ext预训练模型火灾事故报告进行特征提取。相比于BERT,在预训练阶段使用了基于中文的全词掩码(whole word mask,WWM)技术,能够处理更复杂的上下文信息和语义关系。该模型由12层Transformer堆叠而成,每层包含768个隐层单元。

火灾事故数据的句子先被转换为词向量序列,每个词用对应的嵌入向量表示,定义输入句子为s={x₁,x₂,…,x_n},x₁~x_n表示句子第一个到最后一个字,在句子起始和结束分别加入[CLS]和[SEP]标记,经过模型处理后生成相应的句子表示后得到句子的初始向量为{E_CLS,E₁,E₂,…,E_SEP},该向量包含丰富的上下文信息,有助于后续BiGRU模型进特征提取和标签预测。

2.2 FGM对抗训练

根据对火灾事故报告中标注实体的统计分析,不同类型实体在事故报告中的出现频次存在显著差异。如图2所示为各类实体在火灾事故报告中的出现频次分布,可知存在实体分布不均衡的问题,例如,事故原因、整改措施等实体类型的出现频次明显高于事故性质等实体类型。针对上述问题, 使用FGM对抗训练算法^[21]对RoBERTa-wwn-ext模型生成的整体序列向量引入扰动,生成的对抗样本与原始输入嵌入到模型进行联合训练,从而优化模型参数,提升对于火灾报告中少样本实体边界的识别能力。

通过学习对抗训练样本,模型能学习更为显著的特征表示,尤其是在样本量少的实体类别表现出更好的泛化能力,提升模型识别的准确性和鲁棒性。对抗训练的核心目标生成扰动样本,对抗训练的公式为

(1)min_θE₍_x_,_y₎_~D[

m a x r a d v ∈ S

L(x+r_adv,y;θ)]

式(1)中:θ为模型的参数;E为对抗样本的期望损失;D为火灾事故数据集;L为数据集中单个样本损失;x、y分别为输入数据和对应的标签;S为扰动空间范围;r_adv为模型增加的对抗扰动,模型以此学习到与原本数据不一样的输入,此过程为内部函数损失最大化,再在参数上进行梯度下降,使得模型尽可能正确识别正确标签。

2.3 BiGRU特征提取层

由于火灾事故文本数据较长,传统的单向模型难以有效捕捉长距离的上下文信息。因此,采用更适合长文本序列的BiGRU模型提取更完整的火灾实体特征。GRU(gated recurrent unit)是在LSTM(long short-term memory)基础上简化而来,具有更新门z_t、重置门r_t和候选隐藏状态

h ~ t

,GRU单元的计算过程可表示为

(2)z_t=σ(W_z[h_t_-1,x_t]+b_z)

(3)r_t=σ(W_r[h_t_-1,x_t]+b_r)

(4)

h ~ t

=tanh(W_h[r_t☉h_t_-1,x_t]+b_h)

(5)h_t=(1-z_t)☉h_t_-1+z_t☉

h ~ t

式中:σ和tanh为激活函数;W_z、W_r、W_h分别为模型中的权重矩阵;b_z、b_r、b_h分别为偏置向量;x_t为t时刻的输入向量;h_t_-1和h_t为t-1时刻和t时刻的隐藏状态;☉为哈达玛积,表示两个向量中对应位置的元素相互相乘。

GRU其单向性传播策略限制了其对上下文信息的充分捕获。为了解决这一问题,正向GRU和反向GRU的隐藏状态结合构成BiGRU模型,从而能够同时获取序列的前后文信息。BiGRU模型通过捕捉序列数据的双向依赖关系,显著提升了对上下文信息的理解能力,具体结构如图3所示。

2.4 多头注意力机制层

在火灾事故报告中的命名实体识别任务中,BiGRU模型能够有效地提取序列特征,但在捕捉实体与上下文之间复杂的语义依赖关系方面存在一定局限。例如,在火灾文本“火灾事故”和“一般生产安全责任事故”中,实体“事故名称”和“事故性质”实体之间边界模糊、上下文存在较强的语义关联,这种依赖关系对于准确识别实体至关重要,而BiGRU模型在特征提取过程中难以完全捕捉到这种上下文依赖。为了解决这一问题,本文提出将多头自注意力机制集成到BiGRU模型的特征提取层中。在火灾文本中存在紧密关系的语义联赋予较高的权重,反之赋予低权重,通过动态加权上下文信息,提升模型对实体之间上下文依赖关系的敏感度,从而提高火灾事故报告中关键实体的识别准确性。

如图4所示,BiGRU层输出的特征向量H_t经过多头注意力机制的线性变换得到查询向量Q、键向量K和值向量V向量序列,接着利用缩放点积计算Q与K之间的相似度,基于相似度分数对V进行加权,以提取语义关联度高的实体之间的关键特征。最后经过Softmax归一化处理得到注意力得分矩阵为

(6)Attention(Q,K,V)=Softmax

Q K T d k

式(6)中:d_k为Q和K的维度,缩放因子

d k

用于防止缩放点积结果过大,避免梯度爆炸。

在火灾事故报告的实体识别任务中,采用多头自注意力机制将句子中的语义信息映射到多个特征空间,捕捉与关键实体如“事故原因”等相关的上下文特征。每个注意力头聚焦于不同的语义相关信息,经过拼接(Concat)和线性变换后,生成最终的注意力得分。表达式为

(7)head_i=Attention(Q${W}_{i}^{Q}$,K${W}_{i}^{K}$,V${W}_{i}^{V}$)

(8)Multihead(Q,K,V)=Concat(head_i, head_i₊₁,…,head_h_-1head_h)W_o

式中:W_i为第i个注意力头的投影矩阵;W_o为输出矩阵。

2.5 CRF解码层

BiGRU特征提取层根据输入的火灾事故文本的词句特征生成标签解码。然而,BiGRU本身无法有效处理标签之间的依赖关系,可能会导致标签序列的不合理排列。对于本文BMES标注策略而言,标签间I-SGSJ不能位于B-SGDD标注之后,M-SGDD紧接在之后,对于标签的限制本文引入CRF对给定的标签序列进行联合建模,计算标签间的依赖关系,从而优化标签预测过程,确保得到全局最优标签序列,避免不合理标签的产生。

CRF通过建模输入序列与标签间的依赖关系,精确优化标签的预测结果。在模型中,BiGRU输出特征为Χ={x₁,x₂,…,x_n},以及经过BiGRU层标注后的标签序列为Y={y₁,y₂,…,y_n},序列Χ、Y对应条件概率表示为

(9)Score(X,Y)=

∑ i = 1 n P x i, y i

∑ i = 1 n A y i, y i + 1

式(9)中:Score(X,Y)表示序列X、Y的概率分值;${P}_{{x}_{i},{y}_{i}}$为输入词x_i映射标签到y_i的发射概率;${A}_{{y}_{i},{y}_{i+1}}$为从第y_i个标签到第y_i₊₁的转移概率。

CRF对条件概率Score(X,Y)进行Softmax归一化操作处理,归一化公式为

(10)p(Y|X)=

e S c o r e (X, Y) ∑ Y ~ ∈ Y a l l e S c o r e (X, Y ~)

式(10)中:p为归一化分值;Y_all为所有可能出现的标签序列集合;

Y ~

为真实标签。为了方便计算,用优化CRF模型最大似然函数来预测标签序列,最终得到降噪后的有效输出序列。公式为

(11)lnp(Y|X)=Score(X,Y)-ln

∑ Y ~ ∈ Y a l l e S c o r e (X, Y ~)

在预测阶段,CRF通过Viterbi算法对标签序列进行解码,得到最大概率的标签序列,即最优标签序列。表达式为

(12)Y^*=arg

m a x Y ∈ Y a l l

Score(X,

Y ~

)

3 模型训练

3.1 试验参数设置

经过多轮试验调优参数,为了确保火灾长样本的识别精度,设置最大样本长度256,注意力头数量为4,对抗训练扰动为0.005;在BiGRU层采用Dropout以防止过拟合,设置Dropout为0.5。实验采用Adam作为优化器,学习率为0.001,批处理大小为32,epoch为50。

3.2 试验结果分析

3.2.1 模型性能对比

为验证本文方法的有效性并确保实验的严谨性,设计了模型对比实验。通过RoBERTa-wwn-ext模型生成动态词向量,对抗训练对词向量扰动生成对抗样本后联合训练BiGRU-CRF模型,迭代次数为50次,模型训练损失变化如图5所示。

从图5中可知,当模型训练迭代次数到40~50时,损失值保持平稳状态,模型趋向收敛状态,该迭代次数能够有效地使模型达到最佳训练状态。

通过比较主流模型在火灾事故实体识别任务中的准确率P、召回率R和F₁,模型对比试验和实体识别预测结果如表2和表3所示。

由表2可知,相较于BiGRU-CRF模型,基于BERT和RoBERTa-wwn-ext的预训练模型的加入能够更好的学习文本的语义信息,进而增强实体识别的性能。根据试验结果对比,RoBERTa-wwn-ext模型在P、R、F₁上均表现出明显的提升,证明其在处理火灾文本的优势。基于对抗训练和多头注意力机制的RA-BMAF模型相比于RoBERTa-wwn-ext-BiGRU-CRF模型,在F₁上提升3.27%,说明融合对抗训练和多头注意力机制能进一步提高模型的性能,优化实体识别的准确性和鲁棒性。

如表3所示,通过对比预测标签和原始标签发现,例如,“事故原因”此类标注规范、无歧义特征的实体识别效果好;而像“一般生产安全责任事故”和“某火灾事故”具有同一“事故”后缀的实体,边界不清晰,但在经过多头注意力机制处理之后,模型识别正确,表明模型具有模糊边界的识别能力。

3.2.2 消融试验

为验证本文所提对抗训练和多头注意力机制的有效性以及各模块对此模型的影响程度,以RoBERTa-wwn-ext-BiGRU-CRF为基准模型进行消融试验对比。

如图6所示,基线模型在少样本实体识别任务中的表现较为欠佳。在引入对抗训练后的模型在“火灾等级(HZDJ)”和“事故性质(SGXZ)”等少样本标签上的F₁显著提升,整体F₁的变化趋于更加均衡,进一步验证了对抗训练通过引导模型学习高质量的负样本,能够在少样本条件下更好地应对类别不均问题,同时增强了模型的鲁棒性和泛化能力。

如表4所示,加入多头注意力机制后,BiGRU-MAT-CRF和RoBERTa-wwn-ext-BiGRU-MAT-CRF模型的实体识别精度均显著提高,F₁分别提升了1.07%和1.57%。试验结果表明,多头注意力机制通过关注不同语义层次的相关信息能够与有效提取文本信息特征,增强实体间的语义关联,从而提升了模型的实体识别性能。

4 结论

针对火灾事故命名实体识别中存在的实体分布不均衡和边界模糊问题,提出了一种结合对抗学习和多头注意力机制的信息提取模型。对抗学习通过生成高质量的负样本,缓解数据不平衡问题。多头注意力机制则帮助模型更好地聚焦于不同语义信息,提升对模糊边界实体的识别精度。

参考文献

原文顺序 | 出版日期 | 本文引用

[1]	Hanisch D, Fundel K, Mevissen H T, et al. ProMiner: rule-based protein and gene entity recognition[J]. BMC Bioinformatics, 2005, 6: 1-9.

[2]	Quimbaya A P, Munera A S, Rivera R A G, et al. Named entity recognition over electronic health records through a combined dictionary-based approach[J]. Procedia Computer Science, 2016, 100: 55-61.

[3]	Srivastava S, Paul B, Gupta D. Study of word embeddings for enhanced cyber security named entity recognition[J]. Procedia Computer Science, 2023, 218: 449-460.

[4]	Li D Y, Li Y, Yang J Z, et al. Dependency syntax guided BERT-BiLSTM-GAM-CRF for Chinese NER[J]. Expert Systems with Applications, 2022, 196: 116682.

[5]	Huang Y, Li Y, Zhang X. DTDM: dynamic temporal convolutional network and dynamic multihead attention for Chinese named entity recognition[J]. IEEE Access, 2023, 11: 128153-128161.

[6]	张继元, 钱育蓉, 冷洪勇, 等. 基于深度学习的命名实体识别研究综述[J]. 现代电子技术, 2024, 47(6): 32-42.

[7]	Zhang Jiyuan, Qian Yurong, Leng Hongyong, et al. Survey of named entity recognition research based on deep learnin[J]. Modern Electronics Technique, 2024, 47(6): 32-42.

[8]	王霄, 万玉晴. 一种面向法律文书的命名实体识别方法[J]. 计算机应用与软件, 2023, 40(8): 180-186.

[9]	Wang Xiao, Wan Yuqing. A named entity identification method for legal documents[J]. Computer Applications and Software, 2023, 40(8): 180-186.

[10]	蒲攀, 张越, 刘勇, 等. Transformer优化及其在苹果病虫命名实体识别中的应用[J]. 农业机械学报, 2023, 54(6): 264-271.

[11]	Pu Pan, Zhang Yue, Liu Yong, et al. Transformer optimization and application in named entity recognition of apple diseases and pests[J]. Transaction of the Chinese Society for Agricultural Machinery, 2023, 54(6): 264-271.

[12]	陈进东, 胡超, 郝凌霄, 等. 基于BERT-TENER的服装质量抽检通告命名实体识别[J]. 科学技术与工程, 2024, 24(34): 14754-14764.

[13]	Chen Jindong, Hu Chao, Hao Lingxiao, et al. Named entity recognition for clothing quality sampling notice based on BERT-TENER[J]. Science Technology and Engineering, 2024, 24(34): 14754-14764.

[14]	成全, 张双宝. 基于深度学习的特征增强式安全事故文本实体识别模型研究[J]. 中国安全生产科学技术, 2024, 20(6): 58-66.

[15]	Cheng Quan, Zhang Shuangbao. Research on feature-enhanced model for entity recognition of safety accident text based on deep leaning[J]. Journal of Safety Science and Technology, 2024, 20(6): 58-66.

[16]	王明达, 张榜, 吴志生, 等. 基于强化学习的城镇燃气事故信息抽取方法[J]. 中国安全生产科学技术, 2023, 19(3): 39-45.

[17]	Wang Mingda, Zhang Bang, Wu Zhisheng, et al. A method for information extraction of urban gas accidents based on reinforcement learning[J]. Journal of Safety Science and Technology, 2023, 19(3): 39-45.

[18]	Devlin J. Bert: pre-training of deep bidirectional transformers for language understanding[J]. arXiv Preprint, arXiv: 1810. 04805, 2018.

[19]	Liu Y. Roberta: a robustly optimized bert pretraining approach[J]. arXiv Preprint, arXiv: 1907. 11692, 2019.

[20]	郝宽公, 董兵, 吴悦, 等. 基于BERT-BiLSTM-CRF模型的机场类中文航行通告要素实体识别[J]. 科学技术与工程, 2024, 24(10): 4182-4188.

[21]	Hao Kuangong, Dong Bing, Wu Yue, et al. Airport class based on BERT-BiLSTM-CRF model Chinese navigation notice element entity recognition[J]. Science Technology and Engineering, 2024, 24(10): 4182-4188.

[22]	许雅玺, 孟天宇, 王欣, 等. 融合领域词典嵌入的航空不安全事件命名实体识别[J]. 科学技术与工程, 2024, 24(8) : 3284-3290.

[23]	Xu Yaxi, Meng Tianyu, Wang Xin, et al. Named entity recognition of aviation unsafe events embedded with fusion domain dictionary[J]. Science Technology and Engineering, 2024, 24(8) : 3284-3290.

[24]	季峰. 火灾事故文本中的信息抽取[J]. 青海师范大学学报(自然科学版), 2020, 36(3): 14-21.

[25]	Ji Feng. Information extraction from fire accident texts[J]. Journal of Qinghai Normal University(Natural Science), 2020, 36(3): 14-21.

[26]	夏占杰, 张贝克, 高东. 基于数据增强的HSE检查纪要命名实体识别[J]. 中国安全科学学报, 2022, 32(12): 53-62.

[27]	Xia Zhanjie, Zhang Beike, Gao Dong. Named entity recognition of HSE inspection minutes based on data enhancement[J]. China Safety Science Journal, 2022, 32(12): 53-62.

[28]	关斯琪, 董婷婷, 万子敬, 等. 基于BERT-CRF模型的火灾事故案例实体识别研究[J]. 消防科学与技术, 2023, 42(11): 1529-1534.

[29]	Guan Siqi, Dong Tingting, Wan Zijing, et al. Fire accident case named entity recognition based on BERT-CRF model[J]. Fire Science and Technology, 2023, 42(11): 1529-1534.

[30]	Team G L M. ChatGLM: a family of large language models from GLM-130B to GLM-4 all tools[J]. arXiv Preprint, arXiv: 2406. 12793, 2024.

[31]	Lafferty J, McCallum A, Pereira F. Conditional random fields: probabilistic models for segmenting and labeling sequence data[C]// Proceedings of the Eighteenth International Conference on Machine Learning. San Francisco: Morgan Kaufmann Publishers Inc., 2001: 282-289.