digitallawJournal of Digital Technologies and LawJournal of Digital Technologies and Law2949-2483Kazan Innovative University named after V. G. Timiryasov10.21202/jdtl.2024.7acxhtodigitallaw-374Research ArticleARTICLESСТАТЬИPersonal Data in Artificial Intelligence Systems: Natural Language Processing TechnologyПерсональные данные в системах искусственного интеллекта: технология обработки естественного языкаhttps://orcid.org/0000-0003-1076-2765ИльинИ. Г.IlinI. G.

Ильин Илья Геннадьевич – магистр права в области информационных технологий, аспирант юридического факультета

199106, г. Санкт-Петербург, 22-я линия В.О., 7

Scopus Author ID: https://www.scopus.com/authid/detail.uri?authorId=57765898000

WoS Researcher ID: https://www.webofscience.com/wos/author/record/FDF-0979-2022 

Google Scholar ID: https://scholar.google.com/citations?user=YruuMK0AAAAJ

Ilya G. Ilin – Master of Arts in Information Technology Law, postgraduate student, 

22nd line of Vasilievsky Island, 7199106 Saint Petersburg

Scopus Author ID: https://www.scopus.com/authid/detail.uri?authorId=57765898000

WoS Researcher ID: https://www.webofscience.com/wos/author/record/FDF-0979-2022

Google Scholar ID: https://scholar.google.com/citations?user=YruuMK0AAAAJ

i.g.ilin@spbu.ruСанкт-Петербургский государственный университетРоссияSaint Petersburg State UniversityRussian Federation20242003202421123–140Copyright © Ilin I.G., 20242024Ильин И.Г.Ilin I.G.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://www.lawjournal.digital/jour/article/view/374Objective

Objective: to conceptualize, from the viewpoint of personal data protection legislation, the development of natural language processing technology, identifying possible legal barriers to such development and directions for further research of the issue.

Methods

Methods: the research is based on general scientific methods of cognition, along with which formal-legal and comparative-legal methods were applied, as well as the method of theoretical modeling.

Results

Results: it was found that the observance of personal data regime natural language processing in the development of natural language processing technology leads technology, to a conflict between private-legal and public-legal interests, which, personal data in turn, creates obstacles for further development of this technology. The shortcomings of the existing legal order are shown, namely, the insufficient correspondence to the technical features of technology development. This may lead to the risks of excessive regulation, or, on the contrary, to the risks of neglecting critical areas that require protection. Problems in qualifying the data involved in the technology development are outlined. An attempt is made to define the limits of ensuring the lawfulness of personal data processing within the natural language processing technology. The material, temporal and territorial effect of the legal regulation in this field is identified as the limits of ensuring the legality. The author touches upon the possibility of using personal data as a consideration, which is important for the development of natural language processing technology and for the improvement of the information and communication technology industry.

Scientific novelty

Scientific novelty: the paper supplements the scientific discussion on the legal regulation of personal data processing by artificial intelligence systems with an analysis of natural language processing technology. The latter is insufficiently studied, making it relevant to research information law, namely, the legal relations arising around artificial intelligence systems, and to assess the impact of a personal data regime on the development of natural language processing technology.

Practical relevance

Practical relevance: the applied aspects of the problems researched and the results obtained can be used to improve the legal regulation of public relations in the field of creation and development of artificial intelligence, as well as to identify and assess the legal risks arising in the personal data processing by developers of digital products based on natural language processing technology.

Цель

Цель: концептуализировать с точки зрения законодательства в области защиты персональных данных процесс развития технологии обработки естественного языка, выявив возможные правовые барьеры для такого развития и направления дальнейшего исследования проблемы.

Методы

Методы: в основе исследования находятся общенаучные методы познания, наряду с которыми применялись формально-юридический, сравнительно-правовой методы, а также метод теоретического моделирования.

Результаты

Результаты: установлено, что соблюдение режима персональных данных в процессе разработки технологии обработки естественного язык приводит к возникновению конфликта между частными и публично-правовыми интересами, что, в свою очередь, создает препятствия для дальнейшего развития обозначенной технологии. Показаны недостатки существующего правопорядка, который не в полной мере отвечает техническим особенностям развития технологии, что может привести к рискам излишнего регулирования, или же, напротив, к рискам оставления без внимания критических областей, требующих защиты. Обозначены проблемы при квалификации данных, задействованных в развитии рассматриваемой технологии. Предпринята попытка определить пределы обеспечения законности обработки персональных данных в составе технологии обработки естественного языка. Выделено в качестве пределов обеспечения законности материальное, временное и территориальное действие правового регулирования в данной области. Затрагивается проблема возможности использования персональных данных в качестве встречного представления, что является важным для развития технологии обработки естественного языка и для совершенствования отрасли информационно-коммуникационных технологий. 

Научная новизна

Научная новизна: данная работа дополняет научную дискуссию о правовом регулировании обработки персональных данных системами искусственного интеллекта аналитикой, выполненной в контексте технологии обработки естественного языка. Невысокая степень изученности последней обуславливает необходимость исследования области информационного права в части правоотношений по созданию систем искусственного интеллекта и оценки влияния режима персональных данных на развитие технологии обработки естественного языка.

Практическая значимость

Практическая значимость: затрагиваемые в статье прикладные аспекты исследуемой проблематики и полученные результаты могут быть использованы для совершенствования правового регулирования общественных отношений в области создания и развития искусственного интеллекта, а также для выявления и оценки правовых рисков, возникающих при обработке персональных данных разработчиками цифровых продуктов на базе технологии обработки естественного языка.

биометрические данныезаконностьзаконодательствоискусственный интеллектлигалтехтехнология обработки естественного языкаперсональные данныеправоправовой рискцифровые технологииartificial intelligencebiometric datadigital technologieslawlawfulnesslegal riskLegalTechlegislationnatural language processing technologypersonal dataReferencesВажорова, М. А. (2012). Соотношение понятий «Информация о частной жизни» и «Персональные данные». Вестник Саратовской государственной юридической академии, 4(87), 55–59.Arkhipov, V., & Naumov, V. (2016). The legal definition of personal data in the regulatory environment of the Russian Federation: Between formal certainty and technological development. Computer Law & Security Review, 32(6), 868–887. https://doi.org/10.1016/j.clsr.2016.07.009Егорова, М. А., Минбалеев, А. В., Кожевина, О. В., Ален, Д. (2021). Основные направления правового регулирования использования искусственного интеллекта в условиях пандемии. Вестник Санкт-Петербургского университета. Право, 12(2), 250–262. https://doi.org/10.21638/spbu14.2021.201Chang, K. H., Fisher, D., & Canny, J. (2011). Ammon: A speech analysis library for analyzing affect, stress, and mental health on mobile phones. Proceedings of PhoneSense, 2011.Конев, С. И. (2020). Административная ответственность за нарушения законодательства Российской Федерации в области персональных данных: новые вызовы. Вопросы российского и международного права, 10(10-1), 274–282. https://elibrary.ru/fasdwmEgorova, M. A., Minbaleev, A. V., Kozhevina, O. V., & Dufolt, A. (2021). Main directions of legal regulation of the use of artificial intelligence in the context of a pandemic. Vestnik of Saint Petersburg University. Law, 12(2), 250–262. (In Russ.). https://doi.org/10.21638/spbu14.2021.201Кривогин, М. С. (2017). Особенности правового регулирования биометрических персональных данных. Право. Журнал высшей школы экономики, 2, 80–89. EDN: https://elibrary.ru/zfcizt. DOI: https://doi.org/10.17323/2072-8166.2017.2.80.89Goldberg, Y. (2017). Neural network methods for natural language processing. Springer Nature. https://doi. org/10.1007/978-3-031-02165-7Савельев, А. И. (2021). Гражданско-правовые аспекты регулирования оборота персональных данных. Вестник гражданского права, 21(4), 104–129. EDN: https://elibrary.ru/vgyyau. DOI: https://doi.org/10.24031/1992-2043-2021-21-4-104-129Helberger, N., Borgesius, F. Z., & Reyna, A. (2017). The perfect match? A closer look at the relationship between EU consumer law and data protection law. Common Market Law Review, 54(5), 1427–1465. https://doi.org/10.54648/cola2017118Свиридова, Е. А. (2021). Открытые и персональные данные в системах искусственного интеллекта: правовые аспекты. Проблемы экономики и юридической практики, 17(6), 61–68. https://elibrary.ru/xokzikHirschberg, J., & Manning, C. D. (2015). Advances in natural language processing. Science, 349(6245), 261–266. https://doi.org/10.1126/science.aaa8685Талапина, Э. В. (2020). Закон об информации в эпоху больших данных. Вестник Санкт-Петербургского университета. Право, 11(1), 4–18. EDN: https://elibrary.ru/grjtqp. DOI: https://doi.org/10.21638/spbu14.2020.101Hobsbawn, E. (1996). Language, culture, and national identity. Social Research, 63(4), 1065–1080.Arkhipov, V., & Naumov, V. (2016). The legal definition of personal data in the regulatory environment of the Russian Federation: Between formal certainty and technological development. Computer Law & Security Review, 32(6), 868–887. https://doi.org/10.1016/j.clsr.2016.07.009Ilin, I. (2019). Legal Regime of the Language Resources in the Context of the European Language Technology Development. In Z. Vetulani, P. Paroubek, & M. Kubis (Eds.), Human Language Technology. Challenges for Computer Science and Linguistics. LTC 2019. Lecture Notes in Computer Science (vol 13212, pp. 367–376). Springer, Cham. https://doi.org/10.1007/978-3-031-05328-3_24Chang, K. H., Fisher, D., & Canny, J. (2011). Ammon: A speech analysis library for analyzing affect, stress, and mental health on mobile phones. Proceedings of PhoneSense, 2011.Ilin, I. (2020). The Voice and Speech Processing within Language Technology Applications: Perspective of the Russian Data Protection Law. Legal Issues in the digital Age, 1(1), 99–123. https://doi.org/10.17323/27132749.2020.1.99.123Goldberg, Y. (2017). Neural network methods for natural language processing. Springer Nature. https://doi.org/10.1007/978-3-031-02165-7Ilin, I., & Kelli, A. (2020). The use of human voice and speech for development of language technologies: the EU and Russian data-protection law perspectives. Juridica Int’l, 29, 71–85. https://doi.org/10.12697/ji.2020.29.07Helberger, N., Borgesius, F. Z., & Reyna, A. (2017). The perfect match? A closer look at the relationship between EU consumer law and data protection law. Common Market Law Review, 54(5), 1427–1465. https://doi.org/10.54648/cola2017118Jain, A. K., Ross, A., & Prabhakar, S. (2004). An introduction to biometric recognition. IEEE Transactions on circuits and systems for video technology, 14(1), 4–20. https://doi.org/10.1109/tcsvt.2003.818349Hirschberg, J., & Manning, C. D. (2015). Advances in natural language processing. Science, 349(6245), 261–266. https://doi.org/10.1126/science.aaa8685Jents, L., & Kelli, A. (2014). Legal aspects of processing personal data in development and use of digital language resources: the Estonian perspective. Jurisprudence, 21(1), 164–184. https://doi.org/10.13165/jur-14-21-1-08Hobsbawn, E. (1996). Language, culture, and national identity. Social Research, 63(4), 1065–1080.Kelli, A., Lindén, K., Kamocki, P., Vider, K., Labropoulou, P., Birštonas, R., Mantrov., V., Hannesschläger, V., Del Gratta, R., Värv, A., Tavits, G., & Vutt, A. (2021). The interplay of legal regimes of personal data, intellectual property and freedom of expression in language research. In M. Monachini & M. Eskevich (Eds.), Proceedings CLARIN Annual Conference 2021 (pp. 154–159). https://doi.org/10.3384/ecp1898Ilin, I. (2019). Legal Regime of the Language Resources in the Context of the European Language Technology Development. In Z. Vetulani, P. Paroubek, & M. Kubis (Eds.), Human Language Technology. Challenges for Computer Science and Linguistics. LTC 2019. Lecture Notes in Computer Science (vol. 13212, pp. 367–376). Springer, Cham. https://doi.org/10.1007/978-3-031-05328-3_24Kelli, A., Tavast, A., & Pisuke, H. (2012). Copyright and constitutional aspects of digital language resources: The Estonian approach. Juridica International, 19, 40.Ilin, I. (2020). The Voice and Speech Processing within Language Technology Applications: Perspective of the Russian Data Protection Law. Legal Issues in the digital Age, 1(1), 99–123. https://doi.org/10.17323/27132749.2020.1.99.123Kolain, M., Grafenauer, C., & Ebers, M. (2022). Anonymity Assessment – A Universal Tool for Measuring Anonymity of Data Sets under the GDPR with a Special Focus on Smart Robotics. Rutgers University Computer & Technology Law Journal, 48(2). https://ssrn.com/abstract=3971139Ilin, I., & Kelli, A. (2020). The use of human voice and speech for development of language technologies: the EU and Russian data-protection law perspectives. Juridica Int’l, 29, 71–85. https://doi.org/10.12697/ji.2020.29.07Konev, S. I. (2020). Administrative responsibility for violations of the legislation of the Russian Federation in the field of personal data: new challenges. Voprosy rossiiskogo i mezhdunarodnogo prava, 10(10-1), 274–282. (In Russ.).Jain, A. K., Ross, A., & Prabhakar, S. (2004). An introduction to biometric recognition. IEEE Transactions on circuits and systems for video technology, 14(1), 4–20. https://doi.org/10.1109/tcsvt.2003.818349Krivogin, M. (2017). Peculiarities of legal regulating biometric personal data. Law. Journal of the Higher School of Economics, 2, 80–89. (In Russ.). https://doi.org/10.17323/2072-8166.2017.2.80.89Jents, L., & Kelli, A. (2014). Legal aspects of processing personal data in development and use of digital language resources: the Estonian perspective. Jurisprudence, 21(1), 164–184. https://doi.org/10.13165/jur-14-21-1-08Lohsse, S., Schulze, R., & Staudenmayer, D. (Eds.) (2020). Data as counter-performance-Contract Law 2.0? Baden-Baden: Nomos Verlagsgesellschaft mbH & Company KG. https://doi.org/10.5771/9783748908531Kelli, A., Lindén, K., Kamocki, P., Vider, K., Labropoulou, P., Birštonas, R., Mantrov., V., Hannesschläger, V., Del Gratta, R., Värv, A., Tavits, G., & Vutt, A. (2021). The interplay of legal regimes of personal data, intellectual property and freedom of expression in language research. In M. Monachini & M. Eskevich (Eds.), Proceedings CLARIN Annual Conference 2021 (pp. 154–159). https://doi.org/10.3384/ecp1898Metzger, A. (2017). Data as counter-performance: what rights and duties do parties have. Journal of Intellectual Property, Information Technology and Electronic Commerce Law, 8(1), 2.Kelli, A., Tavast, A., & Pisuke, H. (2012). Copyright and constitutional aspects of digital language resources: The Estonian approach. Juridica International, 19, 40.Oostveen, M. (2016). Identifiability and the applicability of data protection to big data. International Data Privacy Law, 6(4), 299–309. https://doi.org/10.1093/idpl/ipw012Kolain, M., Grafenauer, C., & Ebers, M. (2022). Anonymity Assessment – A Universal Tool for Measuring Anonymity of Data Sets under the GDPR with a Special Focus on Smart Robotics. Rutgers University Computer & Technology Law Journal, 48(2). https://ssrn.com/abstract=3971139Purtova, N. (2018). The law of everything. Broad concept of personal data and future of EU data protection law. Law, Innovation and Technology, 10(1), 40–81. https://doi.org/10.1080/17579961.2018.1452176Lohsse, S., Schulze, R., & Staudenmayer, D. (Eds.). (2020). Data as counter-performance-Contract Law 2.0? Baden-Baden: Nomos Verlagsgesellschaft mbH & Company KG. https://doi.org/10.5771/9783748908531Sartor, G. (2020). New aspects and challenges in consumer protection. Digital services and artificial intelligence. European Parliament.Metzger, A. (2017). Data as counter-performance: what rights and duties do parties have. Journal of Intellectual Property, Information Technology and Electronic Commerce Law, 8(1), 2.Savelyev, A. (2016). Russia’s new personal data localization regulations: A step forward or a self-imposed sanction? Computer Law & Security Review, 32(1), 128–145. https://doi.org/10.1016/j.clsr.2015.12.003Oostveen, M. (2016). Identifiability and the applicability of data protection to big data. International Data Privacy Law, 6(4), 299–309. https://doi.org/10.1093/idpl/ipw012Savelyev, A. I. (2021). Civil law aspects of commercialization of personal data. Civil Law Review, 21(4), 104–129. (In Russ.). https://doi.org/10.24031/1992-2043-2021-21-4-104-129Purtova, N. (2018). The law of everything. Broad concept of personal data and future of EU data protection law. Law, Innovation and Technology, 10(1), 40–81. https://doi.org/10.1080/17579961.2018.1452176Svantesson, D. J. B. (2018). Enter the quagmire – the complicated relationship between data protection law and consumer protection law. Computer Law & Security Review, 34(1), 25–36. https://doi.org/10.1016/j.clsr.2017.08.003Sartor, G. (2020). New aspects and challenges in consumer protection. Digital services and artificial intelligence. European Parliament.Sviridova, E. A. (2021). Open and personal data in artificial intelligence systems: legal aspects. Economic Problems and Legal Practice, 17(6), 61–68. (In Russ.).Savelyev, A. (2016). Russia’s new personal data localization regulations: A step forward or a self-imposed sanction? Computer Law & Security Review, 32(1), 128–145. https://doi.org/10.1016/j.clsr.2015.12.003Talapina, E. V. (2020). The Law on information during an era of Big Data. Vestnik of Saint Petersburg University. Law, 11(1), 4–18. (In Russ.). https://doi.org/10.21638/spbu14.2020.101Svantesson, D. J. B. (2018). Enter the quagmire – the complicated relationship between data protection law and consumer protection law. Computer Law & Security Review, 34(1), 25–36. https://doi.org/10.1016/j.clsr.2017.08.003Tracy, J. M., Özkanca, Y., Atkins, D. C., & Ghomi, R. H. (2020). Investigating voice as a biomarker: deep phenotyping methods for early detection of Parkinson’s disease. Journal of Biomedical Informatics, 104, 103362. https://doi.org/10.1016/j.jbi.2019.103362Tracy, J. M., Özkanca, Y., Atkins, D. C., & Ghomi, R. H. (2020). Investigating voice as a biomarker: deep phenotyping methods for early detection of Parkinson’s disease. Journal of Biomedical Informatics, 104, 103362. https://doi.org/10.1016/j.jbi.2019.103362Truyens, M., & Van Eecke, P. (2014). Legal aspects of text mining. Computer Law & Security Review, 30(2), 153–170. https://doi.org/10.1016/j.clsr.2014.01.009Truyens, M., & Van Eecke, P. (2014). Legal aspects of text mining. Computer Law & Security Review, 30(2), 153–170. https://doi.org/10.1016/j.clsr.2014.01.009Vazhorova, M. A. (2012). The ratio of concepts “the information on private life” and “personal data”. Saratov State Law Academy Bulletin, 4(87), 55–59. (In Russ.).

The authors declare that there are no conflicts of interest present.