mireabulletinRussian Technological JournalRussian Technological Journal2782-32102500-316XRTU MIREA10.32362/2500-316X-2023-11-5-7-18mireabulletin-759Research ArticleИНФОРМАЦИОННЫЕ СИСТЕМЫ. ИНФОРМАТИКА. ПРОБЛЕМЫ ИНФОРМАЦИОННОЙ БЕЗОПАСНОСТИINFORMATION SYSTEMS. COMPUTER SCIENCES. ISSUES OF INFORMATION SECURITYАвтоматическое обезличивание конфиденциальной информацииAutomatic depersonalization of confidential informationhttps://orcid.org/0000-0001-7129-1018БабакН. Г.BabakN G.

Бабак Никита Григорьевич, аспирант, кафедра вычислительных машин, систем и сетей;  главный эксперт по защите данных, Департамент кибербезопасности

111250, Москва, Красноказарменная ул., д. 14, стр. 1; 117312, Москва, ул. Вавилова, д. 19

ResearcherID HHY-9372-2022

Nikita G. Babak, Postgraduate Student, Department of Computing Machines, Systems and Networks; Chief Data Protection Officer, Cybersecurity Department

14/1, Krasnokazarmennaya ul.,Moscow, 111250; 19, Vavilova ul., Moscow 117312

ResearcherID HHY-9372-2022

nikita.enrollee@gmail.comhttps://orcid.org/0000-0002-8575-5773БелорыбкинЛ. Ю.BelorybkinL. Yu.

Белорыбкин Леонид Юрьевич, директор проектов по защите данных, Департамент кибербезопасности 

117312, Москва, ул. Вавилова, д. 19

Leonid Yu. Belorybkin, Director of Data Protection Projects, Cybersecurity Department

19, Vavilova ul., Moscow, 117312

lbelorybkin@gmail.comhttps://orcid.org/0000-0001-7451-5443ОцоковШ. А.OtsokovS. A.

Оцоков Шамиль Алиевич, д.т.н., профессор, кафедра КБ-4 «Интеллектуальные системы информационной безопасности» Института кибербезопасности и цифровых технологий

119454, Москва, пр-т Вернадского, д. 78

Scopus Author ID 57212622267

Shamil A. Otsokov, Dr. Sci. (Eng.), Professor, Department of Intelligent Information Security Systemss, Institute of Cybersecurity and Digital Technologies

78, Vernadskogo pr., Moscow, 119454

 Scopus Author ID 57212622267

shamil24@mail.ruhttps://orcid.org/0000-0002-6242-6117ТеренинА. А.TereninA. T.

Теренин Алексей Алексеевич, к.т.н., управляющий директор, Департамент кибербезопасности

117312, Москва, ул. Вавилова, д. 19

Alexey A. Terenin, Cand. Sci. (Eng.), Managing Director, Cybersecurity Department

19, Vavilova ul., Moscow, 117312

aaterenin@yandex.ruhttps://orcid.org/0000-0002-4315-3061ШаброваА. И.ShabrovaA. I.

Шаброва Анастасия Игоревна, архитектор по защите данных, Департамент кибербезопасности

117312, Россия, Москва, ул. Вавилова, д. 19

Anastasia I. Shabrova, Data Protection Architect, Cybersecurity Department

19, Vavilova ul., Moscow, 117312

shabrova1113@gmail.comНациональный исследовательский университет «МЭИ»; Публичное акционерное общество «Сбербанк России»РоссияNational Research University “Moscow Power Engineering Institute”; Sberbank of RussiaRussian FederationПубличное акционерное общество «Сбербанк России»РоссияSberbank of RussiaRussian FederationМИРЭА – Российский технологический университетРоссияMIREA – Russian Technological UniversityRussian Federation202305102023115718Copyright © Бабак Н.Г., Белорыбкин Л.Ю., Оцоков Ш.А., Теренин А.А., Шаброва А.И., 20232023Бабак Н.Г., Белорыбкин Л.Ю., Оцоков Ш.А., Теренин А.А., Шаброва А.И.Babak N.G., Belorybkin L.Y., Otsokov S.A., Terenin A.T., Shabrova A.I.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://www.rtj-mirea.ru/jour/article/view/759Цели

Цели. В то время как объем персональных данных, передаваемых по сети, продолжает расти, законодательные органы все более жестко регулируют процессы хранения и обработки цифровой информации. В работе рассматривается проблема защиты персональных данных и другой конфиденциальной информации (КИ), например, банковской или врачебной тайны, физических лиц. Одним из способов защиты конфиденциальных данных является их обезличивание – преобразование, в результате которого становится невозможно установить принадлежность этих данных конкретному субъекту. Цель работы – построение автоматической системы, позволяющей быстро и безопасно обезличивать данные с помощью технологий машинного обучения.

Методы

Методы. Предлагается использовать модели искусственного интеллекта для реализации системы автоматического обезличивания КИ, т.к. это дает возможность распознавать КИ даже в неструктурированных данных с достаточно высокой точностью без привлечения человеческого труда. Для повышения точности всей системы обезличивания предлагается использовать алгоритмы на основе правил.

Результаты

Результаты. На конфиденциальных данных, размеченных авторами для решения данной задачи, обучена модель распознавания именованных сущностей, которая в связке с алгоритмами на основе правил в результате имеет значение F1-меры больше, чем 0.9. Реализовано несколько вариаций алгоритмов обезличивания, что позволяет выбирать между ними для каждой конкретной задачи.

Выводы

Выводы. Разработанная система решает задачу автоматического обезличивания КИ. Это открывает возможность для безопасной обработки и передачи КИ во многих областях, например, в банковской деятельности, государственном управлении, рекламных кампаниях. Также автоматизация процесса обезличивания делает возможной передачу КИ в тех случаях, когда это необходимо, но невозможно в силу правовых ограничений. Отличительная особенность разработанного решения заключается в том, что обезличиваются как структурированные данные, так и неструктурированные, в т.ч. с сохранением контекста.

Objectives

Objectives. As the scope of personal data transmitted online continues to grow, national legislatures are increasingly regulating the storage and processing of digital information. This paper raises the problem of protecting personal data and other confidential information such as bank secrecy or medical confidentiality of individuals. One approach to the protection of confidential data is to depersonalize it, i.e., to transform it so that it becomes impossible to identify the specific subject to whom the data belongs. The aim of the work is to develop a method for the rapid and safe automation of the depersonalization process using machine learning technologies.

Methods

Methods. The authors propose the use of artificial intelligence models to implement a system for the automatic depersonalization of personal data without the use of human labor to preclude the possibility of recognizing confidential information even in unstructured data with sufficient accuracy. Rule-based algorithms for improving the precision of the depersonalization system are described.

Results

Results. In order to solve this problem, a model of named entity recognition is trained on confidential data provided by the authors. In conjunction with rule-based algorithms, an F1 score greater than 0.9 is achieved. For solving specific depersonalization problems, a choice between several implemented anonymization algorithm variants can be made.

Conclusions

Conclusions. The developed system solves the problem of automatic anonymization of confidential data. This opens an opportunity to ensure the secure processing and transmission of confidential information in many areas, such as banking, government administration, and advertising campaigns. The automation of the depersonalization process makes it possible to transfer confidential information in cases where it is necessary, but not currently possible due to legal restrictions. The distinctive feature of the developed solution is that both structured data and unstructured data are depersonalized, including the preservation of context.

автоматизированная системаанонимизациязащита информациикибербезопасностьконфиденциальная информациямашинное обучениенейросетиобезличиваниеперсональные данныераспознавание именованных сущностейautomated systemanonymizationinformation protectioncybersecuritysensitive informationmachine learningneural networksdepersonalizationpersonal datanamed entity recognitionReferencesШаброва А.И., Теренин А.А, Бабак Н.Г. Методика оценки риска от разглашения конфиденциальной информации в источниках данных с использованием интеллектуального анализа данных. Современные информационные технологии и ИТ-образование. 2022;18(3):666–679. https://doi.org/10.25559/SITITO.18.202203.666-679Shabrova A.I., Terenin A.A., Babak N.G. Methodology for risk assessment from confidential information disclosure in data sources using data mining. Sovremennye informacionnye tehnologii i IT-obrazovanie = Modern Information Technologies and IT-Education. 2022;18(3):666–679 (in Russ.). https://doi.org/10.25559/SITITO.18.202203.666-679Столбов А.П. Обезличивание персональных данных в здравоохранении. Врач и информационные технологии. 2017;3:76–91. URL: https://elibrary.ru/zgyvotStolbov A.P. De-identification of personal data in health care. Vrach i informacionnye tekhnologii = Medical Doctor and Information Technologies. 2017;3:76–91 (in Russ.). Available from URL: https://elibrary.ru/zgyvotСпеваков А.Г., Калуцкий И.В., Никулин Д.А., Шумайлова В.А. Обезличивание персональных данных при обработке в автоматизированных информационных системах. Телекоммуникации. 2016;10:16–20. URL: https://www.elibrary.ru/wwvxmtSpevakov A.G., Kalutskiy I.V., Nikulin D.A., Shumailova V.A. Depersonalization of personal data during processing of information in automated systems. Telekommunikatsii = Telecommunications. 2016;10:16–20 (in Russ.). Available from URL: https://www.elibrary.ru/wwvxmtOleksy M., Ropiak N., Walkowiak T. Automated anonymization of text documents in Polish. Procedia Computer Science. 2021;192(1):1323–1333. https://doi.org/10.1016/j.procs.2021.08.136Oleksy M., Ropiak N., Walkowiak T. Automated anonymization of text documents in Polish. Procedia Computer Science. 2021;192(1):1323–1333. https://doi.org/10.1016/j.procs.2021.08.136Saluja B., Kumar G., Sedoc J., Callison-Burch C. Anonymization of Sensitive Information in Medical Health Records. In: CEUR Workshop Proceedings. 2019;2421:647–653. URL: https://ceur-ws.org/Vol-2421/MEDDOCAN_paper_2.pdfSaluja B., Kumar G., Sedoc J., Callison-Burch C. Anonymization of Sensitive Information in Medical Health Records. In: CEUR Workshop Proceedings. 2019;2421:647–653. Available from URL: https://ceurws.org/Vol-2421/MEDDOCAN_paper_2.pdfRoy A. Recent Trends in Named Entity Recognition (NER). arXiv. 2021. https://doi.org/10.48550/arxiv.2101.11420Roy A. Recent Trends in Named Entity Recognition (NER). arXiv. 2021. https://doi.org/10.48550/arxiv.2101.11420Vaswani A., Shazeer N., Parmar N., Uszkoreit J., Jones L., Gomez A.N., Kaiser L., Polosukhin I. Attention is all you need. In: Advances in Neural Information Processing Systems. 2017. https://doi.org/10.48550/arXiv.1706.03762Vaswani A., Shazeer N., Parmar N., Uszkoreit J., Jones L., Gomez A.N., Kaiser L., Polosukhin I. Attention is all you need. In: Advances in Neural Information Processing Systems. 2017. https://doi.org/10.48550/arXiv.1706.03762Ratinov L., Roth D. Design Challenges and Misconceptions in Named Entity Recognition. In: Proceedings of the Thirteenth Conference on Computational Natural Language Learning (CoNLL 2009). 2009. P. 147–155. URL: https://aclanthology.org/W09-1119.pdfRatinov L., Roth D. Design Challenges and Misconceptions in Named Entity Recognition. In: Proceedings of the Thirteenth Conference on Computational Natural Language Learning (CoNLL 2009). 2009. P. 147–155. Available from URL: https://aclanthology.org/W09-1119.pdfFisher J., Vlachos A. Merge and label: A novel neural network architecture for nested NER. arXiv. 2019. https://doi.org/10.48550/arXiv.1907.00464Fisher J., Vlachos A. Merge and label: A novel neural network architecture for nested NER. arXiv. 2019. https://doi.org/10.48550/arXiv.1907.00464Fu Y., Tan C., Chen M., Huang S., Huang F. Nested named entity recognition with partially-observed TreeCRFs. In: Proceedings of the AAAI Conference on Artificial Intelligence. 2021;35(14):12839–12847. https://doi.org/10.1609/aaai.v35i14.17519Fu Y., Tan C., Chen M., Huang S., Huang F. Nested named entity recognition with partially-observed TreeCRFs. In: Proceedings of the AAAI Conference on Artificial Intelligence. 2021;35(14):12839–12847. https://doi.org/10.1609/aaai.v35i14.17519Dai X., Karimi S., Hachey B., Paris C. An effective transition-based model for discontinuous NER. arXiv. 2020. https://doi.org/10.48550/arXiv.2004.13454Dai X., Karimi S., Hachey B., Paris C. An effective transition-based model for discontinuous NER. arXiv. 2020. https://doi.org/10.48550/arXiv.2004.13454Lothritz C., Allix K., Veiber L., Klein J., BissyandeT.F.D.A. Evaluating pretrained transformer-based models on the task of fine-grained named entity recognition. In: Proceedings of the 28th International Conference on Computational Linguistics. 2020. P. 3750–3760. http://doi.org/10.18653/v1/2020.coling-main.334Lothritz C., Allix K., Veiber L., Klein J., BissyandeT.F.D.A. Evaluating pretrained transformer-based models on the task of fine-grained named entity recognition. In: Proceedings of the 28th International Conference on Computational Linguistics. 2020. P. 3750–3760. http://doi.org/10.18653/v1/2020.coling-main.334Kuratov Y., Arkhipov M. Adaptation of deep bidirectional multilingual transformers for Russian language. arXiv. 2019. https://doi.org/10.48550/arXiv.1905.07213Kuratov Y., Arkhipov M. Adaptation of deep bidirectional multilingual transformers for Russian language. arXiv. 2019. https://doi.org/10.48550/arXiv.1905.07213Conneau A., Khandelwal K., Goyal N., Chaudhary V., Wenzek G., Guzman F., Grave E., Ott M., Zettlemoyer L., Stoyanov V. Unsupervised cross-lingual representation learning at scale. arXiv. 2020. https://doi.org/10.48550/arXiv.1911.02116Conneau A., Khandelwal K., Goyal N., Chaudhary V., Wenzek G., Guzman F., Grave E., Ott M., Zettlemoyer L., Stoyanov V. Unsupervised cross-lingual representation learning at scale. arXiv. 2020. https://doi.org/10.48550/arXiv.1911.02116Patel A.A., Arasanipalai A.U. Applied Natural Language Processing in the Enterprise. O’Reilly Media, Inc.; 2021. 336 p. ISBN 978-1-4920-6257-8. URL: https://spacy.io/universe/project/applied-nlp-in-enterprise/Patel A.A., Arasanipalai A.U. Applied Natural Language Processing in the Enterprise. O’Reilly Media, Inc.; 2021. 336 p. ISBN 978-1-4920-6257-8. Available from URL: https://spacy.io/universe/project/applied-nlp-inenterprise/Singco V.Z., Trillo J., Abalorio C., Bustillo J.C., Bojocan J., Elape M. OCR-based Hybrid Image Text Summarizer using Luhn Algorithm with Finetune Transformer Models for Long Document. Int. J. Emerging Technol. Adv. Eng. 2023;13(02):47–56. http://doi.org/10.46338/ijetae0223_07Singco V.Z., Trillo J., Abalorio C., Bustillo J.C., Bojocan J., Elape M. OCR-based Hybrid Image Text Summarizer using Luhn Algorithm with Finetune Transformer Models for Long Document. Int. J. Emerging Technol. Adv. Eng. 2023;13(02):47–56. http://doi.org/10.46338/ijetae0223_07Soltau H., Shafran I., Wang M., Shafey L.E. RNN Transducers for Nested Named Entity Recognition with constraints on alignment for long sequences. arXiv. 2022. https://doi.org/10.48550/arXiv.2203.03543Soltau H., Shafran I., Wang M., Shafey L.E. RNN Transducers for Nested Named Entity Recognition with constraints on alignment for long sequences. arXiv. 2022. https://doi.org/10.48550/arXiv.2203.03543Абирхаев Е.А., Ерохин А.Ф., Пушкин П.Ю. Методы обезличивальных данных: обзор и анализ. Наукосфера. 2021;6(2):57–31. URL: https://www.elibrary.ru/item.asp?id=46561812Abirkhaev E.A., Erokhin A.F., Pushkin P.Yu. Methods of depersonalizing data: overview and analysis. Naukosfera. 2021;6(2):57–31 (in Russ.). Available from URL: https://www.elibrary.ru/item.asp?id=46561812Кротов А.Д., Серышев А.С., Ефанова Н.В. Разработка приложения для обезличивания персональных данных. В сб.: Цифровизация экономики: направления, методы, инструменты: сб. материалов III всероссийской научно-практической конференции. Краснодар: Кубанский государственный аграрный университет; 2021. С. 294–297. ISBN 978-5-9074-3005-1. URL: https://www.elibrary.ru/item.asp?id=44891383Seryshev A.S., Krotov A.D., Efanova N.V. Development of an application for personal data depersonalization. In: Digitalization of the Economy: Directions, Methods, Tools: Proceedings of the 3rd All-Russian Scientific and Practical Conference. Krasnodar: Kuban State Agrarian University; 2021. P. 294–297 (in Russ.). ISBN 978-5-9074-3005-1. Available from URL: https://www.elibrary.ru/item.asp?id=44891383Фот Ю.Д., Коробова Е.О. Обезличивание персональных данных в системе управления персоналом предприятий нефтегазового сектора. В сб.: Роль нефтегазового сектора в технико-экономическом развитии Оренбуржья: сб. трудов научно-практической конференции. Саратов: ООО «Амирит»; 2021. С. 161–168. ISBN 978-5-0014-0888-8. URL: https://www.elibrary.ru/item.asp?id=48392659Fot U.D., Korobova E.O. Depersonalization of personal data in the personnel management system of oil and gas sector enterprises. In: The Role of the Oil and Gas Sector in the Technical and Economic Development of the Orenburg Region: Proceedings of the scientific-practical conference. Saratov: Amirit; 2021. P. 161–168 (in Russ.). ISBN 978-5-0014-0888-8. Available from URL: https://www.elibrary.ru/item.asp?id=48392659Williams C.K.I. The effect of class imbalance on Precision-Recall Curves. Neural Computation. 2021;33(4): 853–857. https://doi.org/10.1162/neco_a_01362Williams C.K.I. The effect of class imbalance on Precision-Recall Curves. Neural Computation. 2021;33(4): 853–857. https://doi.org/10.1162/neco_a_01362Du Y., Li C., Guo R., Yin X., Liu W., Zhou J., Bai Y., Yu Z., Yang Y., Dang Q., Wang H. PP-OCR: A practical ultra lightweight OCR system. arXiv. 2020. https://doi.org/10.48550/arXiv.2009.09941Du Y., Li C., Guo R., Yin X., Liu W., Zhou J., Bai Y., Yu Z., Yang Y., Dang Q., Wang H. PP-OCR: A practical ultra lightweight OCR system. arXiv. 2020. https://doi.org/10.48550/arXiv.2009.09941Pan J., Shapiro J., Wohlwend J., Han K.J., Lei T., Ma T. ASAPP-ASR: Multistream CNN and self-attentive SRU for SOTA speech recognition. arXiv. 2020. https://doi.org/10.48550/arXiv.2005.10469Pan J., Shapiro J., Wohlwend J., Han K.J., Lei T., Ma T. ASAPP-ASR: Multistream CNN and self-attentive SRU for SOTA speech recognition. arXiv. 2020. https://doi.org/10.48550/arXiv.2005.10469Ryffel T., Trask A., Dahl M., Wagner B., Mancuso J., Rueckert D., Passerat-Palmbach J. A generic framework for privacy preserving deep learning. arXiv. 2018. https://doi.org/10.48550/arXiv.1811.04017Ryffel T., Trask A., Dahl M., Wagner B., Mancuso J., Rueckert D., Passerat-Palmbach J. A generic framework for privacy preserving deep learning. arXiv. 2018. https://doi.org/10.48550/arXiv.1811.04017

The authors declare that there are no conflicts of interest present.