<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE article PUBLIC "-//NLM//DTD JATS (Z39.96) Journal Publishing DTD v1.3 20210610//EN" "JATS-journalpublishing1-3.dtd">
<article article-type="research-article" dtd-version="1.3" xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xml:lang="ru"><front><journal-meta><journal-id journal-id-type="publisher-id">mireabulletin</journal-id><journal-title-group><journal-title xml:lang="ru">Russian Technological Journal</journal-title><trans-title-group xml:lang="en"><trans-title>Russian Technological Journal</trans-title></trans-title-group></journal-title-group><issn pub-type="ppub">2782-3210</issn><issn pub-type="epub">2500-316X</issn><publisher><publisher-name>RTU MIREA</publisher-name></publisher></journal-meta><article-meta><article-id pub-id-type="doi">10.32362/2500-316X-2025-13-1-38-48</article-id><article-id custom-type="edn" pub-id-type="custom">HJHQTR</article-id><article-id custom-type="elpub" pub-id-type="custom">mireabulletin-1071</article-id><article-categories><subj-group subj-group-type="heading"><subject>Research Article</subject></subj-group><subj-group subj-group-type="section-heading" xml:lang="ru"><subject>ИНФОРМАЦИОННЫЕ СИСТЕМЫ. ИНФОРМАТИКА. ПРОБЛЕМЫ ИНФОРМАЦИОННОЙ БЕЗОПАСНОСТИ</subject></subj-group><subj-group subj-group-type="section-heading" xml:lang="en"><subject>INFORMATION SYSTEMS. COMPUTER SCIENCES. ISSUES OF INFORMATION SECURITY</subject></subj-group></article-categories><title-group><article-title>Тематическое моделирование в потоке коротких сообщений на русском языке</article-title><trans-title-group xml:lang="en"><trans-title>Topic modeling in the stream of short messages in Russian</trans-title></trans-title-group></title-group><contrib-group><contrib contrib-type="author" corresp="yes"><contrib-id contrib-id-type="orcid">https://orcid.org/0000-0002-7919-7963</contrib-id><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Мозаидзе</surname><given-names>Е. С.</given-names></name><name name-style="western" xml:lang="en"><surname>Mozaidze</surname><given-names>Elena S.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Мозаидзе Елена Сергеевна, аспирант, кафедра программного обеспечения вычислительной техники и автоматизированных систем,</p><p>308012, Белгород, ул. Костюкова, д. 46. </p></bio><bio xml:lang="en"><p>Elena S. Mozaidze, Postgraduate Student, Department of Computer Software and Automated Systems, </p><p>46, Kostyukova ul., Belgorod, 308012 .</p></bio><email xlink:type="simple">mozaidze95@mail.ru</email><xref ref-type="aff" rid="aff-1"/></contrib></contrib-group><aff-alternatives id="aff-1"><aff xml:lang="ru"><institution>ФГБОУ ВО «Белгородский государственный технологический университет им. В.Г. Шухова»</institution><country>Россия</country></aff><aff xml:lang="en"><institution>V.G. Shukhov Belgorod State Technological University</institution><country>Russian Federation</country></aff></aff-alternatives><pub-date pub-type="collection"><year>2025</year></pub-date><pub-date pub-type="epub"><day>04</day><month>02</month><year>2025</year></pub-date><volume>13</volume><issue>1</issue><fpage>38</fpage><lpage>48</lpage><permissions><copyright-statement>Copyright &amp;#x00A9; Мозаидзе Е.С., 2025</copyright-statement><copyright-year>2025</copyright-year><copyright-holder xml:lang="ru">Мозаидзе Е.С.</copyright-holder><copyright-holder xml:lang="en">Mozaidze E.S.</copyright-holder><license xml:lang="ru" license-type="creative-commons-attribution" xlink:href="https://creativecommons.org/licenses/by/4.0/" xlink:type="simple"><license-p>Данная работа распространяется под лицензией Creative Commons Attribution 4.0.</license-p></license><license xml:lang="en" license-type="creative-commons-attribution" xlink:href="https://creativecommons.org/licenses/by/4.0/" xlink:type="simple"><license-p>This work is licensed under a Creative Commons Attribution 4.0 License.</license-p></license></permissions><self-uri xlink:href="https://www.rtj-mirea.ru/jour/article/view/1071">https://www.rtj-mirea.ru/jour/article/view/1071</self-uri><abstract><sec><title>Цели</title><p>Цели. Работа посвящена тематическому моделированию коротких сообщений, поступающих посредством социальных сетей или другим способом в виде серии. Такая задача возникает в системах работы с населением в государственных и муниципальных структурах, в центрах опроса общественного мнения, а также в системах обслуживания клиентов и маркетинговых подразделениях. Цель работы – разработка и экспериментальная проверка набора алгоритмов тематической модели для автоматического определения основных тем обмена информацией и типичных сообщений, иллюстрирующих эти темы.</p></sec><sec><title>Методы</title><p>Методы. Используются методы переменных статистических распределений, примененных к статистике коллокаций, и подходы, характерные для решения задач тематического моделирования коротких текстов, но в применении к следующим друг за другом сообщениям. Таким образом, задачи онлайнового машинного обучения и тематического моделирования рассматриваются в совокупности.</p></sec><sec><title>Результаты</title><p>Результаты. Рассмотрено построение тематической модели, в которой найденные кластеры с предъявлением их типичных представителей и текущего веса могут помочь человеку в принятии решений в соответствии с тематикой этих наиболее важных сообщений. Предложенный метод был экспериментально протестирован на корпусе реальных сообщений. Результаты тематического моделирования (построенные тематические модели) согласуются с результатами, полученными вручную: выбранные сообщения, иллюстрирующие проблемные темы с наибольшим весом, являются таковыми и с точки зрения экспертов.</p></sec><sec><title>Выводы</title><p>Выводы. Предлагаемый алгоритм тематического моделирования позволяет автоматически выявлять наиболее важные темы в текущем общении, показывает посты, служащие индикаторами этих тем, что позволяет существенно упростить решение задачи.</p></sec></abstract><trans-abstract xml:lang="en"><sec><title>Objectives</title><p>Objectives. This work is devoted to the topic modeling of short messages received through social networks or in another way in the form of a series of short messages. This need arises in public relations systems in state and municipal structures, in public opinion polling centers, as well as in customer service systems and marketing departments. The aim of the work is to develop and experimentally test a set of algorithms for a thematic model for automatically determining the main topics of information exchange and typical messages illustrating these topics.</p></sec><sec><title>Methods</title><p>Methods. The work uses methods of variable statistical distributions applied to collocation statistics and approaches typical for resolving problems of topic modeling of short texts, but applied to successive messages. In this way, online machine learning and topic modeling are considered jointly.</p></sec><sec><title>Results</title><p>Results. The work considered the construction of a thematic model in which clusters found with the presentation of their typical representatives and current weight can help decision-making in accordance with the subject of these most important messages. The proposed method was experimentally tested on a corpus of real messages. The results of topic modeling (the constructed thematic models) are consistent with the results obtained manually. The messages selected illustrate that the topics with the highest weight are seen as such from the point of view of human experts.</p></sec><sec><title>Conclusions</title><p>Conclusions. The proposed algorithm of topic modeling allows the most important topics in current communication to be automatically identified. It shows posts that serve as indicators of these topics, and thereby significantly simplifies the solution of the problem.</p></sec></trans-abstract><kwd-group xml:lang="ru"><kwd>тематическое моделирование</kwd><kwd>EM-алгоритм</kwd><kwd>скрытое размещение</kwd><kwd>метод поточной перенормировки</kwd></kwd-group><kwd-group xml:lang="en"><kwd>topic modeling</kwd><kwd>EM-algorithm</kwd><kwd>hidden placement</kwd><kwd>streaming renormalization method</kwd></kwd-group><funding-group><funding-statement xml:lang="ru">Работа выполнена в рамках реализации федеральной программы поддержки университетов «Приоритет 2030» с использованием оборудования на базе Центра высоких технологий Белгородского государственного технологического университета им. В.Г. Шухова.</funding-statement><funding-statement xml:lang="en">This work was realized in the framework of the Priority 2030 Program using the equipment of High Technology Center at the V.G. Shukhov Belgorod State Technological University.</funding-statement></funding-group></article-meta></front><back><ref-list><title>References</title><ref id="cit1"><label>1</label><citation-alternatives><mixed-citation xml:lang="ru">Брусенцев А.Г., Зуева Е.С. Тематические модели и инструменты обработки естественного языка в применении к задачам муниципальных структур. В сб.: Актуальные теоретические и прикладные вопросы управления социально-экономическими системами: материалы II Международной научно-практической конференции. М.: Институт развития дополнительного профессионального образования; 2020. Т. 2. С. 262–269. https://elibrary.ru/fkgyxn</mixed-citation><mixed-citation xml:lang="en">Brusentsev A.G., Zueva E.S. Thematic models and tools for processing the natural language in application to the problems of municipal structures. In: Actual Theoretical and Applied Issues of the Socio-Economic Systems Management: Proc. Second International Scientific and Practical Conference. Moscow; 2020. V. 2. P. 262–269 (in Russ.). https://elibrary.ru/fkgyxn</mixed-citation></citation-alternatives></ref><ref id="cit2"><label>2</label><citation-alternatives><mixed-citation xml:lang="ru">Зуева Е.С. Вероятностная классификация входящих обращений на основе алгоритма управляемых рекуррентных нейронов. В сб.: Материалы Международной научно-технической конференции молодых ученых БГТУ им. В.Г. Шухова. Белгород: БГТУ им. В.Г. Шухова; 2021. С. 3564–3575. https://www.elibrary.ru/nhlzpv</mixed-citation><mixed-citation xml:lang="en">Zueva E.S. Probabilistic classification of incoming calls based on a controlled recurrent neurons algorithm. In: Proc. International Scientific and Technical Conference of Young Scientists of V.G. Shukhov BSTU. Belgorod: V.G. Shukhov BSTU; 2021. Р. 3564–3575 (in Russ.). https://www.elibrary.ru/nhlzpv</mixed-citation></citation-alternatives></ref><ref id="cit3"><label>3</label><citation-alternatives><mixed-citation xml:lang="ru">Поляков В.М., Мозаидзе Е.С. Алгоритм коллаборативной фильтрации как возможный инструмент выявления опасного твита (короткого сообщения) в социальных сетях представительства органа государственной власти Белгородской области. В сб.: Современные вопросы устойчивого развития общества в эпоху трансформационных процессов: материалы IV международной научно-практической конференции. М.: ООО «ИРОК»; 2022. С. 136–148. https://doi.org/10.34755/IROK.2022.14.90.027, https://www.elibrary.ru/mzrsgm</mixed-citation><mixed-citation xml:lang="en">Polyakov V.M., Mozaidze E.S. Collaborative filtering algorithm as a possible tool for detecting a dangerous tweet (short message) in social networks of a representative office of the government of the Belgorod region. In: Modern Issues of Sustainable Development of Society in the Era of Transformation Processes: Collection of Materials of the 4th International Scientific and Practical conference. Moscow; 2022. Р. 136–148 (in Russ.). https://doi.org/10.34755/IROK.2022.14.90.027, https://www.elibrary.ru/mzrsgm</mixed-citation></citation-alternatives></ref><ref id="cit4"><label>4</label><citation-alternatives><mixed-citation xml:lang="ru">Papadimitriou C.H., Tamaki H., Raghavan P., Vempala S. Latent semantic indexing: A probabilistic analysis. In: Proceedings of the Seventeenth ACM SIGACT-SIGMOD-SIGART Symposium on Principles of Database Systems. ACM; 1998. P. 159–168. https://doi.org/10.1145/275487.275505</mixed-citation><mixed-citation xml:lang="en">Papadimitriou C.H., Tamaki H., Raghavan P., Vempala S. Latent semantic indexing: A probabilistic analysis. In: Proceedings of the Seventeenth ACM SIGACT-SIGMOD-SIGART Symposium on Principles of Database Systems. ACM; 1998. P. 159–168. https://doi.org/10.1145/275487.275505</mixed-citation></citation-alternatives></ref><ref id="cit5"><label>5</label><citation-alternatives><mixed-citation xml:lang="ru">Hofmann T. Probabilistic latent semantic indexing. In: Proceedings of the 22nd annual international ACM SIGIR conference on Research and development in information retrieval. ACM; 1999. P. 50–57. https://doi.org/10.1145/312624.312649</mixed-citation><mixed-citation xml:lang="en">Hofmann T. Probabilistic latent semantic indexing. In: Proceedings of the 22nd Annual International ACM SIGIR Conference on Research and Development in Information Retrieval. ACM; 1999. P. 50–57. https://doi.org/10.1145/312624.312649</mixed-citation></citation-alternatives></ref><ref id="cit6"><label>6</label><citation-alternatives><mixed-citation xml:lang="ru">Blei D., McAuliffe J. Supervised topic models. In: Advances in Neural Information Processing Systems 20 (NIPS 2007). 2008. P. 121–128.</mixed-citation><mixed-citation xml:lang="en">Blei D., McAuliffe J. Supervised topic models. In: Advances in Neural Information Processing Systems 20 (NIPS 2007). 2008. P. 121–128.</mixed-citation></citation-alternatives></ref><ref id="cit7"><label>7</label><citation-alternatives><mixed-citation xml:lang="ru">Blei D.M., Lafferty J.D. Dynamic topic models. In: Proceedings of the 23rd International Conference on Machine learning (ICML ‘06). ACM; 2006. P. 113–120. https://doi.org/10.1145/1143844.1143859</mixed-citation><mixed-citation xml:lang="en">Blei D.M., Lafferty J.D. Dynamic topic models. In: Proceedings of the 23rd International Conference on Machine learning (ICML ‘06). ACM; 2006. P. 113–120. https://doi.org/10.1145/1143844.1143859</mixed-citation></citation-alternatives></ref><ref id="cit8"><label>8</label><citation-alternatives><mixed-citation xml:lang="ru">Blei D.M. Probabilistic topic models. Communications of the ACM. 2012;55(4):77–84. https://doi.org/10.1145/2133806.2133826</mixed-citation><mixed-citation xml:lang="en">Blei D.M. Probabilistic topic models. Communications of the ACM. 2012;55(4):77–84. https://doi.org/10.1145/2133806.2133826</mixed-citation></citation-alternatives></ref><ref id="cit9"><label>9</label><citation-alternatives><mixed-citation xml:lang="ru">Воронцов К.В. Аддитивная регуляризация тематических моделей коллекций текстовых документов. Доклады академии наук. 2014;456(3):268–271. https://doi.org/10.7868/S0869565214090096</mixed-citation><mixed-citation xml:lang="en">Vorontsov K.V. Additive regularization for topic models of text collections. Dokl. Math. 2014;89(3):301–304. https://doi. org/10.1134/S1064562414020185 [Original Russian Text: Additive regularization for topic models of text collections. Doklady Akademii Nauk. 2014;456(3): 268–271 (in Russ.). https://doi.org/10.7868/S0869565214090096 ]</mixed-citation></citation-alternatives></ref><ref id="cit10"><label>10</label><citation-alternatives><mixed-citation xml:lang="ru">Воронцов К.В., Потапенко А.А. Модификации EM-алгоритма для вероятностного тематического моделирования. Машинное обучение и анализ данных. 2013;1(6):657–686.</mixed-citation><mixed-citation xml:lang="en">Vorontsov K.V., Potapenko A.A. EM-like algorithms for probabilistic topic modeling. Mashinnoe obuchenie i analiz dannykh = Machine Learning and Data Analysis. 20131(6):657–686 (in Russ).</mixed-citation></citation-alternatives></ref><ref id="cit11"><label>11</label><citation-alternatives><mixed-citation xml:lang="ru">Нокель М.А., Лукашевич Н.В. Тематические модели: добавление биграмм и учет сходства между униграммами и биграммами. Вычислительные методы и программирование. 2015;16(2):215–234. https://doi.org/10.26089/NumMet.v16r222</mixed-citation><mixed-citation xml:lang="en">Nokel M.A., Lukashevich N.V. Topic Models: Adding Bigrams and Taking Account of the Similarity between Unigramsand Bigrams. Vychislitel’nye metody i programmirovanie = Numerical Methods and Programming. 2015;16(2):215–234 (in Russ.). https://doi.org/10.26089/NumMet.v16r222</mixed-citation></citation-alternatives></ref><ref id="cit12"><label>12</label><citation-alternatives><mixed-citation xml:lang="ru">Коршунов А., Гомзин А. Тематическое моделирование текстов на естественном языке. Труды Института системного программирования РАН (Труды ИСП РАН). 2012;23:215–242. https://doi.org/10.15514/ISPRAS-2012-23-13</mixed-citation><mixed-citation xml:lang="en">Korshunov A., Gomzin A. Topic modeling in natural language texts. Trudy Instituta sistemnogo programmirovaniya RAN (Trudy ISP RAN) = Proceedings of the Institute for System Programming of the RAS (Proceedings of ISP RAS). 2012;23: 215–240 (in Russ.). https://doi.org/10.15514/ISPRAS-2012-23-13</mixed-citation></citation-alternatives></ref><ref id="cit13"><label>13</label><citation-alternatives><mixed-citation xml:lang="ru">Nakshatri N., Liu S., Chen S., Roth D., Goldwasser D., Hopkins D. Using LLM for Improving Key Event Discovery: Temporal-Guided News Stream Clustering with Event Summaries. Findings of the Association for Computational Linguistics: EMNLP. 2023:4162–4173. https://doi.org/10.18653/v1/2023.findings-emnlp.274</mixed-citation><mixed-citation xml:lang="en">Nakshatri N., Liu S., Chen S., Roth D., Goldwasser D., Hopkins D. Using LLM for Improving Key Event Discovery: Temporal-Guided News Stream Clustering with Event Summaries. Findings of the Association for Computational Linguistics: EMNLP. 2023:4162–4173. https://doi.org/10.18653/v1/2023.findings-emnlp.274</mixed-citation></citation-alternatives></ref><ref id="cit14"><label>14</label><citation-alternatives><mixed-citation xml:lang="ru">Rijcken E., Scheepers F., Zervanou K., Spruit M., Mosteiro P., Kaymak U. Towards Interpreting Topic Models with ChatGPT. 2023. Paper presented at The 20th World Congress of the International Fuzzy Systems Association, Daegu, Republic of Korea. 2023. V. 5. URL: https://pure.tue.nl/ws/portalfiles/portal/300364784/IFSA_InterpretingTopicModelsWithChatGPT.pdf</mixed-citation><mixed-citation xml:lang="en">Rijcken E., Scheepers F., Zervanou K., Spruit M., Mosteiro P., Kaymak U. Towards Interpreting Topic Models with ChatGPT. 2023. Paper presented at The 20th World Congress of the International Fuzzy Systems Association, Daegu, Republic of Korea. 2023. V. 5. Available from URL: https://pure.tue.nl/ws/portalfiles/portal/300364784/IFSA_InterpretingTopicModelsWithChatGPT.pdf</mixed-citation></citation-alternatives></ref><ref id="cit15"><label>15</label><citation-alternatives><mixed-citation xml:lang="ru">Amigo E., Gonzalo J., Artiles J., Verdejo F. A comparison of extrinsic clustering evaluation metrics based on formal constraints. Information Retrieval. 2009;12(4):461486.</mixed-citation><mixed-citation xml:lang="en">Amigo E., Gonzalo J., Artiles J., Verdejo F. A comparison of extrinsic clustering evaluation metrics based on formal constraints. Information Retrieval. 2009;12(4):461486.</mixed-citation></citation-alternatives></ref></ref-list><fn-group><fn fn-type="conflict"><p>The authors declare that there are no conflicts of interest present.</p></fn></fn-group></back></article>
