КЛАССИФИКАЦИЯ ТЕКСТОВЫХ ЭМОЦИЙ НА ОСНОВЕ МОДЕЛИ BERT

Чжан Ю

Об авторах

Чжан Ю

Санкт-Петербургский Политехнический университет Петра Великого Россия, г. Санкт-Петербург, Политехническая улица, 29, 191144

Скачать PDF

УДК: 004.06:004.9
DOI: 10.24412/2413-7383-2026-1-40-102-111
Язык: Русский

Аннотация: Целью данного исследования является разработка эффективного метода классификации эмоций в текстах, а также подробная оценка его производительности на стандартизированных наборах данных. В ходе эксперимента проводился всесторонний теоретический анализ существующих подходов к классификации эмоций, а также методическое сравнение результатов, полученных с использованием BERT и традиционных алгоритмов машинного обучения, таких как SVM и наивный байесовский классификатор. Результаты показали, что модель BERT, учитывая контекст и грамматические связи, значительно превосходит другие методы в классификации эмоций. Высокая точность экспериментов подтверждает её эффективность. Исследование открывает пути для дальнейших работ и практического применения BERT в анализе текстов, представляя интерес для теоретиков и практиков работы с текстовыми данными.

Ключевые слова: текстовые эмоции, классификация эмоций, модель BERT, естественный язык, машинное обучение

Список литературы

1. Афанасьев Г.И. Афанасьев А.Г. Бурмистрова М.В. Тэт В.Я. Исследование методов машинного обучения для прогнозирования эффективных бизнес-решений в системах электронной коммерции // E-Scio. 2022. № 11 (74). С. 59–72. DOI: 10.31078/es20221174.
2. Афанасьев Г.И. Афанасьев А.Г. Зо Х.А. Анализ возможностей применения компьютерного зрения в рекомендательных интернет-системах // E-Scio. 2022. № 11 (74). С. 73–82. DOI: 10.31078/es20221175.
3. Афанасьев Г.И. Гой А.В. Ковалева Н.А. Анализ и сравнение методов Process Mining // Аспирант и соискатель. 2020. № 1 (115). С. 195–199. DOI: 10.31078/as20201157.
4. Ч. Чжан, Афанасьев Г.И. Основные технологии и перспективы эволюции персонализированных рекомендательных систем // E-SCIO. 2022. № 4 (67). С. 309–320. DOI: 10.31078/es20220467.
5. Ч. Чжан, Афанасьев Г.И. Применение моделей глубокого обучения в области рекомендательных систем, основанных на содержании // Искусственный интеллект в автоматизированных системах управления и обработки данных. Москва: МГТУ им. Н.Э. Баумана, 2022. Т. 1. С. 278–284. DOI: 10.31078/iais2022278. Ч Чжан Ю.
6. Гусенков А.М. Ситтикова А.Р. Применение машинного обучения к задаче генерации поисковых запросов // Электронные библиотеки. 2021. Т. 24, № 2. С. 272-293. DOI: 10.24411/2587-3867-2021-10014.
7. Йылдырым С. Асгари-Ченаглу М. Осваиваем архитектуру Transformer. Разработка современных моделей с помощью передовых методов обработки естественного языка / пер. с англ. В.С. Яценкова. М.: ДМК Пресс, 2022. 318 с. ISBN 978-5-94074-851-3.
8. Батура Т.В. Бручес Е.П. Паульс А.Е. Исаченко В.В. Щербатов Д.Р. Семантический анализ научных текстов: опыт создания корпуса и построения языковых моделей // Программные продукты и системы. 2021. № 1. С. 132-144. DOI: 10.1007/s10559-021-09707-y.
9. Гринчук А.В. Матричные и тензорные разложения в задачах обработки естественного языка: дис. … канд. физ.-мат. наук: 05.13.18 / А.В. Гринчук; Москов. физ. -тех. инст. М. 2021. 98 с. URL: https://dspace.mipt.ru/handle/2037/136151 (дата обращения: 22.09.2025).
10. Саврасов А.Е. Построение модели классификации обращений в службу поддержки // Математика, информационные технологии, приложения: межвузовская научная конференция молодых учёных и студентов. Воронеж, 2021. С. 211-216. DOI: 10.21469/2223-1723.mitp.v21n1.640.
11. Понкин Д.И. Концепт предобученных языковых моделей в контексте инженерии знаний // International Journal of Open Information Technologies. 2020. Т. 8, № 9. С. 18-29. URL: http://injoit.ru/jour/article/view/259 (дата обращения: 22.09.2025).
12. Ломов П.А. Малоземова М.Л. Аугментация обучающего набора при обучении нейросетевой языковой модели для наполнения онтологии // Труды Кольского научного центра РАН. Информа- ционные технологии. 2021. Т. 12, № 5. С. 22-34. DOI: 10.17586/2311-3084-2021-12-5-22-34.
13. Devlin, J. Chang, M.W. Lee, K. & Toutanova, K. BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding // Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies. – 2019. – P. 4171–4186. DOI: 10.18653/v1/N19-1423. URL: https://aclanthology.org/N19-1423/ (дата обращения: 22.09.2025).
14. Shaukat, Z. Zulfiqar, A.A. Xiao, C. Azeem, M. & Mahmood, T. Sentiment Analysis on IMDB using Lexicon and Neural Networks // SN Applied Sciences. 2020. 2. P. 1–10. DOI: 10.1007/s42452-020-00384-z.
15. Rogers, A. Kovaleva, O. & Rumshisky, A. A Primer in BERTology: What we know about how BERT works // Transactions of the Association for Computational Linguistics. 2020. 8. P. 842–866. DOI: 10.1162/tacl_a_00387.
16. Kuriuzov, E. Matlatipov, S. & Alonso, P. Natural Language Processing on Low-Resource Turkic Languages: A Comprehensive Survey // ACM Computing Surveys. 2023 55(12). P. 1-38. DOI: 10.1145/3599280.
17. Madrahimov, B. Absalomov, L. & Hodjaev, S. Tahririchi: Pretrained Transformer Models for Uzbek Language // Proceedings of the 3rd Workshop on NLP for Turkic Languages. 2023. P. 112–121. DOI: 10.18653/v1/2023.turkic-1.14.
18. Joshi, P. Santi, S. Budhiraaja, A. Bali, K. & Choudhury, M. The State and Prospects of Language Diversity and Inclusivity in NLP // Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics. 2020. P. 6282–6293. DOI: 10.18653/v1/2020.acl-main.236.
19. Mohammad, S. M. Practical and Ethical Aspects of Effectively Using Emotion and Sentiment Lexicons // Proceedings of the 13th Language Resources and Evaluation Conference. 2022. P. 1675–1684. DOI: 10.48550/arXiv.2201.05521.
20. Curating multimodal resources for improving human-AI collaborative storytelling // Proceedings of the 19th Conference of the European Chapter of the Association for Computational Linguistics. 2021. URL: https://aclanthology.org/2021.eacl-main.193 (дата обращения: 22.09.2025).
21. San, C. Qiu, S. Xu, Y. & Huang, S. How to Fine-Tune BERT for Text Classification? // Proceedings of the National Conference on Computational Linguistics in China 2020. P. 194–206. URL: http://aclweb.org/anthology/N19-1021 (дата обращения: 22.09.2025).
22. Alimova, I. & Tuychiev, G. Emotion Recognition in Uzbek Social Media Texts Generated with Transformer- Based Models // Proceedings of the 4th International Conference on NLP Applications in Turkic Languages. 2022. P. 78–86. URL: http://www. NLP-2022.turkol.org/ (дата обращения: 22.09.2025).
23. Ahmedova, D. & Khojaev, J. Transfer Learning for Sentiment Analysis on Uzbek Language with Limited Resources // Journal of Natural Language Processing. 2023. 15(2). P. 87–103. DOI: 10.11650/jnlp.15.2.87.
24. Wolf, T. Debut, L. Sanh, V. et al. Transformers: State-of-the-Art Natural Language Processing // Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing: Demonstrations. – 2020. – P. 38. DOI: 10.18653/v1/2020.emnlp-demos.20.
25. Solomin, A.A. & Ivanova, Yu.A. Modern Approaches to Multiclass Intent Classification Based on Pre- trained Transformers // Scientific and Technical Journal of Information Technologies, Mechanics and

Выпуск: 1(40)'2026
Раздел: ТЕОРЕТИЧЕСКАЯ ИНФОРМАТИКА, КИБЕРНЕТИКА
Как цитировать: Чжан Ю. КЛАССИФИКАЦИЯ ТЕКСТОВЫХ ЭМОЦИЙ НА ОСНОВЕ МОДЕЛИ BERT // Проблемы искусственного интеллекта. - 2026. - № 1 (40). - С. 102-111. - https://paijournal.guiaidn.ru/ru/2026/1(40)-9.html

Назад к выпуску 1(40)'2026