mireabulletinRussian Technological JournalRussian Technological Journal2782-32102500-316XRTU MIREA10.32362/2500-316X-2026-14-4-125-136RCOVQRmireabulletin-1623Research ArticleМАТЕМАТИЧЕСКОЕ МОДЕЛИРОВАНИЕMATHEMATICAL MODELINGМодернизация алгоритма статистической обработки данных сети комплексного фонового мониторингаModernization of a statistical data processing algorithm for integrated background monitoringhttps://orcid.org/0009-0005-1001-8575ИвановВ. А.IvanovV. A.

Иванов Владимир Алексеевич, аспирант, кафедра «Моделирование радиофизических процессов», Институт радиоэлектроники и информатики; младший научный сотрудник, отдел измерений фонового химического загрязнения континентальных природных систем

ResearcherID AFA-9383-2022

119454, Москва, пр-т Вернадского, д. 78; 107258, Россия, Москва, ул. Глебовская, д. 20Б

Vladimir A. Ivanov, Postgraduate Student, Department of Modeling of Radiophysical Processes, Institute of Radio Electronics and Informatics; Junior Researcher, Department of Measurements of Background Chemical Pollution of Continental Natural Systems

ResearcherID AFA-9383-2022

78, Vernadskogo pr., Moscow, 119454; 20B, Glebovskaya ul., Moscow, 107258

dunkelheit2015@yandex.ruhttps://orcid.org/0009-0004-6269-1262ПарамоновС. Г.ParamonovS. G.

Парамонов Сергей Геннадьевич, к.г.н., ведущий научный сотрудник, отдел оценки загрязнения окружающей среды

Scopus Author ID 35581383300, ResearcherID Z-5928-2019

107258, Москва, ул. Глебовская, д. 20Б

Sergey G. Paramonov, Cand. Sci. (Geogr.), Leading Researcher, Environmental Pollution Assessment Department

Scopus Author ID 35581383300, ResearcherID Z-5928-2019

20B, Glebovskaya ul., Moscow, 107258

sgpar@mail.ruhttps://orcid.org/0000-0003-2477-8653ЖигачеваЕ. С.ZhigachevaE. S.

Жигачева Екатерина Сергеевна, к.с.-х.н., научный сотрудник, отдел измерений фонового химического загрязнения континентальных природных систем

Scopus Author ID 57323176200, ResearcherID U-4242-2018

107258, Москва, ул. Глебовская, д. 20Б

Ekaterina S. Zhigacheva, Cand. Sci. (Agricult.), Researcher, Department of Measurements of Background Chemical Pollution of Continental Natural Systems

Scopus Author ID 57323176200, ResearcherID U-4242-2018

20B, Glebovskaya ul., Moscow, 107258

kosjatko@gmail.comhttps://orcid.org/0009-0009-3169-9575ПоздняковаЕ. А.PozdnyakovaE. A.

Позднякова Екатерина Александровна, заведующий отделом, старший научный сотрудник, отдел измерений фонового химического загрязнения континентальных природных систем

Scopus Author ID 59693836300, ResearcherID AAA-4825-2019

107258, Москва, ул. Глебовская, д. 20Б

Ekaterina A. Pozdnyakova, Head of Department, Senior Researcher, Department of Measurements of Background Chemical Pollution of Continental Natural Systems

Scopus Author ID 59693836300, ResearcherID AAA-4825-2019

20B, Glebovskaya ul., Moscow, 107258 

e.pozdnyakova@igce.ruМИРЭА Российский технологический университет; Институт глобального климата и экологии имени академика Ю.А. ИзраэляРоссияMIREA Russian Technological University; Yu.A. Izrael Institute of Global Climate and EcologyRussian FederationИнститут глобального климата и экологии имени академика Ю.А. ИзраэляРоссияYu.A. Izrael Institute of Global Climate and EcologyRussian Federation202608082026144125136Copyright © Иванов В.А., Парамонов С.Г., Жигачева Е.С., Позднякова Е.А., 20262026Иванов В.А., Парамонов С.Г., Жигачева Е.С., Позднякова Е.А.Ivanov V.A., Paramonov S.G., Zhigacheva E.S., Pozdnyakova E.A.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://www.rtj-mirea.ru/jour/article/view/1623Цели

Цели. На территории Российской Федерации с 1980-х гг. функционирует сеть комплексного фонового мониторинга (КФМ) Росгидромета[1] . В задачи программы КФМ входит получение экспериментальных данных о фоновом содержании загрязняющих веществ в различных природных средах (атмосферный воздух, атмосферные осадки, поверхностные воды, почва, растительность). В рамках работы сети регулярно (1 раз в 5–10 лет) обновляются рекомендации и нормативные документы о методах химического анализа, требованиях к размещению станций наблюдения и пр. Однако статистический аппарат сети не подвергался пересмотру с 1995 г. (Алгоритм 1995). Цель работы модернизация выбранных шагов алгоритма статистической обработки данных о состоянии и загрязнении атмосферного воздуха, получаемых на сети КФМ.

Методы

Методы. Использованы методы корреляционного, трендового анализа, описательной математической статистики и структурной алгоритмизации.

Результаты

Результаты. Рассмотрены шаги Алгоритма 1995, требующие модернизации. Создана структура обновленного алгоритма обработки данных Алгоритм 2025, который предположительно позволит проводить совместный анализ данных Росгидромета, а также приведет к уменьшению влияния шумов и флуктуаций во временных рядах данных о фоновых концентрациях загрязняющих веществ в атмосферном воздухе. Предложены подходы к модернизации выбранных шагов Алгоритма 1995 и показана эффективность их модернизации.

Выводы

Выводы. Невозможно получить данные в формате, рекомендуемом Росгидрометом, без изменения некоторых шагов устаревшего Алгоритма 1995, и необходима его модернизация. Модернизация выбранных шагов алгоритма позволит сократить шумы посредством устранения до 70% основных типов случайных и систематических ошибок, обусловленных человеческим фактором. Необходимо разработать корректные подходы к модернизации оставшихся шагов алгоритма, которые не были рассмотрены в этой работе.

Objectives

Objectives. Since the 1980s, the Integrated Background Monitoring Network (IBMoN) operated by RosHydroMet[2] in the Russian Federation has been collecting experimental data on background levels of pollutants in environmental media, including atmospheric air, precipitation, surface water, soil, and vegetation. As part of its operations, IBMoN regularly updates recommendations and regulatory documents regarding chemical analysis methods and requirements for monitoring site placement every 5–10 years. However, the statistical framework of the network has not been revised since 1995 (Algorithm 1995). This paper sets out to modernize selected steps of the statistical algorithm for processing data on air quality obtained from IBMoN.

Methods

Methods. In the study, correlation analysis, trend analysis, descriptive mathematical statistics, and structural algorithmization methods were used.

Results

Results. Based on a review of Algorithm 1995 steps requiring modernization, a structure for the updated data processing algorithm version, Algorithm 2025, was developed. This new algorithm will enable the joint analysis of RosHydroMet data to mitigate the impact of noise and fluctuations in the time series of background concentrations of air pollutants. The effectiveness of the proposed methods for modernizing selected steps of Algorithm 1995 was substantiated.

Conclusions

Conclusions. Since it is not possible to obtain data in the format required by RosHydroMet without modifying some steps of the Algorithm 1995, this algorithm requires modernization. As a result of modernizing the selected steps, noise can be reduced by up to 70% to eliminate the main types of random and systematic errors caused by the human factor. However, future work is required to identify suitable approaches for modernizing the remaining steps that are not covered in this study.

алгоритмвременные рядыфоновый мониторингзагрязнение окружающей средыстатистическая обработка данныхтрендыalgorithmtime seriesbackground monitoringenvironmental pollutionstatistical processingtrendsИсследование частично выполнено в рамках темы 4.5 «Развитие и модернизация методов и технологий комплексного фонового мониторинга и комплексной оценки состояния и загрязнения окружающей среды РФ и ее динамики (по интегрированным результатам сетей мониторинга Росгидромета)» (регистрационный номер 125031703848-8).The research was partially implemented within the framework of the R&D project “Development and modernization of methods and technologies of complex background monitoring and comprehensive assessment of condition and pollution of the environment of the Russian Federation and its dynamics (based on the integrated results of RosHydroMet monitoring networks)” (Registration number 125031703848-8).ReferencesГромов С.А., Парамонов С.Г. Современное состояние и перспективы развития комплексного фонового мониторинга загрязнения природной среды. Проблемы экологического мониторинга и моделирования экосистем . 2015;26(1): 205–221. https://elibrary.ru/uybmodGromov S.А., Paramonov S.G. Current status and prospects for the development of integrated background monitoring of environmental pollution. Problemy ehkologicheskogo monitoringa i modelirovaniya ehkosistem = Problems of Ecological Monitoring and Ecosystem Modeling. 2015;26(1):205–221 (in Russ.). https://elibrary.ru/uybmodБурцева Л.В., Голубева Н.И., Конькова Е.С. Разработка методов обеспечения качества измерений тяжелых металлов в атмосферном воздухе и осадках в системе комплексного фонового мониторинга Росгидромета. Системы контроля окружающей среды. 2019;4(38):20–26. https://doi.org/10.33075/2220-5861-2019-4-20-26Burtseva L.V., Golubeva N.I., Konkova E.S. Development of quality assurance methods of heavy metal measurements in the atmospheric air and precipitations in the integrated background monitoring system of roshydromet. Sistemy kontrolya okruzhayushchei sredy = Monitoring Systems of Environment (MSoE). 2019;4(38):20–26 (in Russ.). https://doi.org/10.33075/2220-5861-2019-4-20-26Обзор состояния и загрязнения окружающей среды в Российской Федерации за 2021 год ; под ред. Г.М. Черногаевой. М.: Росгидромет; 2022, 219 с. https://www.meteorf.gov.ru/upload/iblock/dc8/Obzor_2021.pdfChernogaeva G.M. (Ed). Obzor sostoyaniya i zagryazneniya okruzhayushchei sredy v Rossiiskoi Federatsii za 2021 god (Review of the State and Pollution of the Environment in the Russian Federation for 2021) . Moscow: RosHydroMet; 2022, 219 p. (in Russ.). https://www.meteorf.gov.ru/upload/iblock/dc8/Obzor_2021.pdfТенденции и динамика состояния и загрязнения окружающей среды в Российской Федерации по данным многолетнего мониторинга за последние 10 лет: Аналитический обзор ; под ред. Г.М. Черногаевой. М.: Росгидромет; 2017, 47 с. ISBN 978-5-9500881-2-4Chernogaeva G.M. (Ed). Tendentsii i dinamika sostoyaniya i zagryazneniya okruzhayushchei sredy v Rossiiskoi Federatsii po dannym mnogoletnego monitoringa za poslednie 10 let: Analiticheskii obzor (Trends and Dynamics of the State and Pollution of the Environment in the Russian Federation According to Long-Term Monitoring Data over the Past 10 Years: Analytical Review). Moscow: RosHydroMet; 2017, 47 p. (in Russ.). ISBN 978-5-9500881-2-4Бурцева Л.В., Конькова Е.С. Оценка загрязнения атмосферы медью в фоновых районах Европы. Проблемы экологического мониторинга и моделирования экосистем . 2020;31(1-2):14–33. https://doi.org/10.21513/0207-2564-2020-1-14-33Burtseva L.V., Konkova E.S. Assessment of atmospheric pollution with copper in background areas of the Europe. Problemy ehkologicheskogo monitoringa i modelirovaniya ehkosistem = Problems of Ecological Monitoring and Ecosystem Modeling. 2020;31(1-2):14–33 (in Russ.). https://doi.org/10.21513/0207-2564-2020-1-14-33Salmi T., Maata A., Antilla P., Ruoho-Airola T., Amnell T. Detecting Trends of Annual Values of Atmospheric Pollutants by the Mann–Kendall Test and Sen’s Slope estimates—the Excel Template Application Makesens . Report code: FMI-AQ-31. Helsinki: Finnish Meteorological Institute; 2002, 36 p.Salmi T., Maata A., Antilla P., Ruoho-Airola T., Amnell T. Detecting Trends of Annual Values of Atmospheric Pollutants by the Mann–Kendall Test and Sen’s Slope estimates—the Excel Template Application Makesens. Report code: FMI-AQ-31. Helsinki: Finnish Meteorological Institute; 2002, 36 p.Perikhanyan Ye., Shahnazaryan G., Gabrielyan A. Long term trends of wet deposition and atmospheric concentrations of nitrogen and sulfur compounds at EMEP site in Armenia. J. Atmos. Chem . 2020;77(3):101–116. https://doi.org/10.1007/s10874-020-09408-3Perikhanyan Ye., Shahnazaryan G., Gabrielyan A. Long term trends of wet deposition and atmospheric concentrations of nitrogen and sulfur compounds at EMEP site in Armenia. J. Atmos. Chem. 2020;77(3):101–116. https://doi.org/10.1007/s10874-020-09408-3Павлова К.В. Применение коэффициента ранговой корреляции Спирмена в статистических исследованиях. Безопасность. Управление. Искусственный интеллект . 2023;3(3):28–32. https://elibrary.ru/ubhmwgPavlova K.V. Application of Spearman’s rank correlation coefficient in statistical research. Bezopasnost’. Upravlenie. Iskusstvennyi intellekt. 2023;3(3):28–32 (in Russ.). https://elibrary.ru/ubhmwgГолобокова Л.П., Бердашкинова О.И., Лоскутова М.А., Ризе Д.Д., Онищук Н.А., Сакерин С.М., Турчинович Ю.С. Результаты многолетних исследований химического состава аэрозоля в атмосфере на стационаре «Ледовая база «Мыс Баранова». Оптика атмосферы и океана. 2023;36(11):874–882. https://doi.org/10.15372/AOO20231102Golobokova L.P., Berdashkinova O.I., Loskutova M.A., et al. Long-term Studies of Atmospheric Aerosol Chemical Composition at the Cape Baranov Ice Base Station. Atmos. Ocean Opt. 202437(1):14–23. https://doi.org/10.1134/S1024856023700033 [Original Russian Text: Golobokova L.P., Berdashkinova O.I., Loskutova M.A., Rize D.D., Onishchuk N.A., Sakerin S.M., Turchinovich Yu.S. Long-term Studies of Atmospheric Aerosol Chemical Composition at the Cape Baranov Ice Base Station. Optika atmosfery i okeana. 2023;36(11):874–882 (in Russ.). https://doi.org/10.15372/AOO2023110210 ]Kukkonen J., Konttinen M., Bremer P., Salmi T., Saari H. The seasonal variation of urban air quality in northern European conditions. Int. J. Environ. Pollut. 2000;14(1-6):480–487. https://doi.org/10.1504/IJEP.2000.000571Kukkonen J., Konttinen M., Bremer P., Salmi T., Saari H. The seasonal variation of urban air quality in northern European conditions. Int. J. Environ. Pollut. 2000;14(1-6):480–487. https://doi.org/10.1504/IJEP.2000.000571Zareba M., Weglinska E., Danek T. Air pollution seasons in urban moderate climate areas through big data analytics. Sci. Rep . 2024;14(1):3058. https://doi.org/10.1038/s41598-024-52733-wZareba M., Weglinska E., Danek T. Air pollution seasons in urban moderate climate areas through big data analytics. Sci. Rep. 2024;14(1):3058. https://doi.org/10.1038/s41598-024-52733-wSköld M. Trend detection with non-detects in long-term monitoring, a mixed model approach. Environ. Monit. Assess . 2023;195(6):663. https://doi.org/10.1007/s10661-023-11285-8Sköld M. Trend detection with non-detects in long-term monitoring, a mixed model approach. Environ. Monit. Assess. 2023;195(6):663. https://doi.org/10.1007/s10661-023-11285-8Экспериандова Л.П., Беликов К.Н., Химченко С.В., Бланк Т.А. Еще раз о пределах обнаружения и определения. Журнал аналитической химии . 2010;65(3):229–234. https://elibrary.ru/kkilqdEhksperiandova L.P., Belikov K.N., Khimchenko S.V., et al. Once again about determination and detection limits. J. Anal. Chem. 2010;65(3):223–228. https://doi.org/10.1134/S1061934810030020 [Original Russian Text: Ehksperiandova L.P., Belikov K.N., Khimchenko S.V., Blank T.A. Once again about determination and detection limits. Zhurnal analiticheskoi khimii. 2010;65(3):229–234 (in Russ.). https://elibrary.ru/kkilqd ]Gilbert R.O. Statistical Methods for Environmental Pollution Monitoring . New York: Van Nostrand Reinhold Company Inc.; 1987, 334 p.Gilbert R.O. Statistical Methods for Environmental Pollution Monitoring. New York: Van Nostrand Reinhold Company Inc.; 1987, 334 p.Розенберг Г.С., Шитиков В.К., Брусиловский Г.Н. Экологическое прогнозирование ( Функциональные предикторы временных рядов ). Тольятти; 1994, 182 с. https://elibrary.ru/zumjspRozenberg G.S., Shitikov V.K., Brusilovskii G.N. Ehkologicheskoe prognozirovanie (Funktsional’nye prediktory vremennykh ryadov) (Environmental Forecasting (Functional Predictors of Time Series). Tol’yatti; 1994, 182 р. (In Russ.). https://elibrary.ru/zumjspЖексенбаева А.К. Статистические характеристики осадков в северном Казахстане в вегетационный период. Наука, новые технологии и инновации Кыргызстана. 2016;5:110–117. https://elibrary.ru/wdfhgbZheksenbaeva A.K. Statistical characteristics of rainfall in northern Kazakhstan during the vegetative period. Nauka, novye tekhnologii i innovatsii Kyrgyzstana = Science, New Technologies and Innovations of Kyrgyzstan. 2016;5:110–117 (in Russ.). https://elibrary.ru/wdfhgbБрюс П., Брюс Э. Практическая статистика для специалистов Data Science. БХВ-Петербург; 2018, 302 с. ISBN 978-5-9775-3974-6Bruce P., Bruce A. Prakticheskaya statistika dlya spetsialistov Data Science (Practical Statistics for Data Scientists) : transl. from Engl. BKHV-Petersburg; 2018, 302 p. (In Russ.). ISBN 978-5-9775-3974-6 [Bruce P., Bruce A. Practical Statistics for Data Scientists. O’Reilly; 2017, 368 p.]Боков В.Н., Воробьев В.Н., Серебрицкий И.А. Оценка фонового загрязнения атмосферного воздуха в СанктПетербурге и его пригородах. Ученые записки Российского государственного гидрометеорологического университета . 2011;20:36–41. https://elibrary.ru/onoexvBokov V.N., Vorobyev V.N., Serebritskyi I.A. Evaluation of the background pollution of atmosphere in St. Petersburg and suburbs. Uchenye zapiski Rossiiskogo gosudarstvennogo gidrometeorologicheskogo universiteta = Proceedings of the Russian State Hydrometeorological University. 2011;20:36–41 (in Russ.). https://elibrary.ru/onoexvЛенская О.Ю., Кулябова А.Б. О способах анализа нерегулярных наблюдений за составом загрязнения атмосферного воздуха. Вестник Челябинского государственного университета. 2007;6:80–84. https://elibrary.ru/mvmwmpLenskaya O.Yu., Kulyabova A.B. On the methods of analysis of irregular observations of the composition of atmospheric air pollution. Vestnik Chelyabinskogo gosudarstvennogo univrsiteta = Bulletin of Chelyabinsk State University. 2007;6:80–84 (in Russ.). https://elibrary.ru/mvmwmpVan Zoest V.M., Stein A., Hoek G. Outlier Detection in Urban Air Quality Sensor Networks. Water, Air, and Soil Pollution. 2018;229(4):111. https://doi.org/10.1007/s11270-018-3756-7Van Zoest V.M., Stein A., Hoek G. Outlier Detection in Urban Air Quality Sensor Networks. Water, Air, and Soil Pollution. 2018;229(4):111. https://doi.org/10.1007/s11270-018-3756-7

The authors declare that there are no conflicts of interest present.