基于RoBerta-BiGRU-Attention的景区评论情感分析研究——以沈阳市为例

游客在评论中所表达的意见和感受，能够直观地反映他们对旅游目的地的评价，同时语气鲜明、情感强烈。由此带来的巨大而动态的信息空间需要消费者和产品/服务提供者共同理解和导航。针对目前景区在线评论文本情感分类准确性不高的问题，提出一种基于RoBerta词向量和双向门控循环单元(BiGRU)的改进模型，使用能够表征文本丰富语义特征的Roberta模型进行词向量表示，结合能够长期保留文本上下文关联信息的BiGRU神经网络提高模型的分类效果，并在此基础上引入注意力(Attention)机制，突出文本中更能表达分类结果的情感词权重，提高情感分类的准确率。将上述模型分别在沈阳市3个景区评论数据上进行情感极性分类和预测，实验结果表明，该模型在各数据集上都获得了良好的性能。同时结合LDA主题模型分析，得到游客评论的期望和诉求，为沈阳市旅游业发展提供技术支撑以及未来发展意见。

随着Web2.0 时代的到来， 互联网技术在旅游行业的广泛应用， 使得越来越多的游客能够在旅游平台上发布自己的个人体验和旅游评价。大量真实的、独立的、有价值的网络评论数据由此产生，同时也带来了一个新的方向：利用这些游客评论文本进行情感分析研究，获取游客在旅游目的地的感受与体验， 为旅游业服务提供者提供宝贵的意见至关重要。然而，庞大的数据源也给人工分析带来了很大的困难。

自然语言处理技术(Natural Language Processing, NLP)的发展使大规模数据分析变的高效，从而为景区在线评论情感分析研究提供技术支持。

目前情感分析领域，主流的方法之一是基于深度学习，在神经网络进行情感倾向分析时，通常会采用语言表示模型以考虑不同词汇之间的关系。为此，预训练的词嵌入模型(如Word2Vec、GloVe 或Bert等)被广泛应用。这些词嵌入模型将词汇映射到高维向量空间，使得在向量空间中具有相似含义的词具有较近的距离。这种方法有助于捕捉词汇之间的语义关联，提取句子的特征，并协助神经网络更好地理解文本的情感倾向。现有的深度学习模型解决了某些问题，但忽略了其他问题。例如，Chatterjee 等人[1]利用两个预先训练好的单词嵌入和长短期记忆神经网络(Long Short Term Memory Network, LSTM)来提取情绪和语义进行情绪识别，但他们的模型没有考虑句子不同部分重要性的差异。Rezaeinia 等人[2]改进