节点文献
基于RoBERTa-WWM的多特征情感分析模型
【摘要】 针对传统词向量模型无法有效解决多义词表征、经典网络模型存在文本特征提取不足和无法捕捉特征的关键信息等问题,提出了一种基于RoBERTa-WWM的多特征情感分析模型。首先采用RoBERTa-WWM模型动态生成词向量,解决了多义词表征问题,丰富了语义特征;接着将多个BIGRU进行堆叠形成Multi-Layer BIGRU,并与TextCNN结合提取局部和全局特征,让模型从不同角度学习语义特征;最后通过多头注意力机制,将局部和全局特征进行融合赋予不同的权重,以突出关键信息和文本的情感极性。在酒店评论数据集和商品评论数据集上进行了实验,结果显示,所提出的模型与其他模型相比,准确率和F1值都有显著提升。
【关键词】 情感分析;
RoBERTa-WWM;
卷积神经网络;
多层双向门控循环单元;
多头注意力机制;
【基金】 黑龙江省省属高等学校基本科研业务费科研项目(145209124)
- 【文献出处】 信息技术与信息化 ,Information Technology and Informatization , 编辑部邮箱 ,2024年05期
- 【分类号】TP391.1
- 【下载频次】70