digitallawJournal of Digital Technologies and LawJournal of Digital Technologies and Law2949-2483Kazan Innovative University named after V. G. Timiryasov10.21202/jdtl.2023.17lbwsxwdigitallaw-186Research ArticleARTICLESСТАТЬИApproaches to Regulating Relations in the Sphere of Developing and Using the Artificial Intelligence Technologies: Features and Practical ApplicabilityПодходы к регулированию отношений в сфере разработки и применения технологий искусственного интеллекта: особенности и практическая применимостьhttps://orcid.org/0000-0002-9041-3487ЕрахтинаО. С.ErahtinaO. S.

Ерахтина Ольга Сергеевна – кандидат юридических наук, доцент, доцент кафедры гражданского и предпринимательского права

Web of Science Researcher ID: https://www.webofscience.com/wos/author/record/K­3149­2014

Google Scholar ID:

РИНЦ Author ID: https://www.elibrary.ru/author_items.asp?authorid=498773 

614070, г. Пермь, ул. Студенческая, 38

Olga S. Erahtina – Candidate of Sciences in Jurisprudence, Associate Professor, Department of Civil and Entrep reneurial Law

Web of Science Researcher ID: https://www.webofscience.com/wos/author/record/K-3149-2014

Google Scholar ID: https://scholar.google.ru/citations?hl=ru&user=WdwWB4kAAAAJ

RSCI Author ID: https://www.elibrary.ru/author_items.asp?authorid=498773

38 Studencheskaya Str., 614070 Perm

oerahtina@hse.ruПермский филиал Национального исследовательского университета «Высшая школа экономики»РоссияPerm branch of National Research University “Higher School of Economics”Russian Federation20232006202312421–437Copyright © Erahtina O.S., 20232023Ерахтина О.С.Erahtina O.S.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://www.lawjournal.digital/jour/article/view/186Objective

Objective: to review the modern scientific approaches to regulating relations in the sphere of using the artificial intelligence technologies; to reveal the main features and limitations of using the risk-oriented and technological approaches in order to determine the directions of their further development.

Methods

Methods: the methodological basis of the research is a set of scientific cognition methods, including the general scientific dialectic method and the universal scientific methods (analysis and synthesis, comparison, summarization, structural-functional, and formal-logical methods).

Results

Results: it was determined that the use of the risk-oriented approach implies building constructive models of risk management. A significant issue in using this approach is the bases of referring the artificial intelligence technologies to high-risk ones. When determining the risk level of using the artificial intelligence technologies, the following criteria should be applied:  the type of artificial intelligence technology, its sphere of use, and the level of potential harm for the environment, health and other fundamental human rights.

In turn, the central issue of using the technological approach is the necessity and limits of regulation in the sphere of developing and using the artificial intelligence technologies. First, interference into this sphere must not create obstacles for developing technologies and innovations. Second, a natural reaction of a regulator towards newly emerging objects and subjects of turnover is the “imperfect law syndrome”. At the same time, a false idea about a lack of legal regulation may produce an opposite effect – duplication of legal norms. To solve the problem of duplicating legal requirements, it is necessary, first of all, to solve the issue of the need to regulate the artificial intelligence technologies or certain types of software applications.

Scientific novelty

Scientific novelty: a review was carried out of the main approaches to regulating relations in the sphere of developing and using the artificial intelligence technologies; the opportunities and limitations of their use are revealed; further directions of their development are proposed.

Practical significance

Practical significance: the main provisions and conclusions of the research can be used for determining the optimal approaches to regulating the sphere of digital technologies and for improving the legal regulation of the studied sphere of social relations.

Цель

Цель: обзор сложившихся в науке подходов к регулированию отношений в сфере применения технологий искусственного интеллекта, выявление основных особенностей и ограничений применения рискориентированного и технологического подходов для определения направлений их дальнейшего развития.

Методы

Методы: методологическую основу исследования составляет совокупность методов научного познания, в том числе общенаучный диалектический и универсальные научные методы (анализ и синтез, сравнение, обобщение, структурно-функциональный, формально-логический).

Результаты

Результаты: определено, что применение рискориентированного подхода предполагает построение конструктивных моделей управления рисками. Значимым вопросом для применения данного подхода является вопрос об основаниях отнесения технологий искусственного интеллекта к высокорисковым. При определении уровня риска применения технологии искусственного интеллекта необходимо применять следующие критерии: тип технологии искусственного интеллекта, сферу ее применения, а также уровень ее потенциальной опасности для окружающей среды, здоровья, других фундаментальных прав граждан.

В свою очередь, центральным вопросом для применения технологического подхода является вопрос о необходимости и пределах регулирования сферы разработки и применения технологий искусственного интеллекта. Во-первых, вмешательство в данную сферу не должно создавать препятствий для развития технологий и инноваций.

Во-вторых, естественная реакция регулятора в ответ на появление новых объектов и субъектов оборота – «синдром несовершенного закона». Вместе с тем ложное представление об отсутствии правового регулирования может дать обратный эффект – дублирование правовых норм. В целях решения проблемы дублирования законодательных требований следует прежде всего решить вопрос о том, необходимо ли регулировать технологии искусственного интеллекта или некоторые виды использования программного обеспечения.

Научная новизна

Научная новизна: проведен обзор основных подходов к регулированию отношений в сфере разработки и применения технологий искусственного интеллекта, выявлены возможности и ограничения их применения, предложены дальнейшие направления их развития.

Практическая значимость

Практическая значимость: основные положения и выводы исследования могут быть использованы для определения оптимальных подходов к регулированию сферы цифровых технологий, а также в целях совершенствования правового регулирования рассматриваемой области общественных отношений.

Искусственный интеллектопасностьправопрограммное обеспечениерегулированиерискориентированный подходтехнологический подходуправление рискамицифровая экономикацифровые технологииArtificial intelligencedangerdigital economydigital technologieslawregulationrisk managementrisk-oriented approachsoftwaretechnologicalReferencesАлексеев, А. О., Ерахтина, О. С., Кондратьева, К. С., Никитин, Т. Ф. (2020). Подходы к гражданско-правовой ответственности разработчика технологий искусственного интеллекта: на основе классификации технологий. Информационное общество, 6, 47–57. https://elibrary.ru/ylddabAlekseev, A. O., Erahtina, O. S., Kondratyeva K. S., & Nikitin, T. Ph. (2020). Approaches to civil legal liability of the artificial intelligence technologies developer: based on the classification. Information Society, 6, 47–57. (In Russ.).Балашова, А. И. (2022). Искусственный интеллект в авторском и патентном праве: объекты, субъектный состав правоотношений, сроки правовой охраны. Журнал Суда по интеллектуальным правам, 2(36), 90–98. EDN: https://elibrary.ru/aplduaBalashova, A. I. (2022). Artificial intelligence in copyright and patent law: objects, subject structure of legal relations, terms of legal protection. Zhurnal Suda po intellektual’nym pravam, 2(36), 90–98. (In Russ.).Василевская, Л. Ю., Подузова, Е. Б., Тасалов, Ф. А. (2021). Цифровизация гражданского оборота: правовая характеристика «искусственного интеллекта» и «цифровых» субъектов (цивилистическое исследование) (в 5 т.). Москва: Проспект. https://elibrary.ru/nrjkdoCalo, R. (2011). Open robotics. Maryland Law Review, 70.3, 101–142.Войниканис, Е. А., Семенова, Е. В., Тюляев, Г. С. (2018). Искусственный интеллект и право. Вызовы и возможности самообучающихся алгоритмов. Вестник Воронежского государственного университета. Серия: Право, 4(35), 137–148. https://elibrary.ru/yumlnzEllul, J., Pace, G., McCarthy, S., Sammut, T., Brockdorf, J., & Scerri, M. (2021). Regulating artificial intelligence: a technology regulator’s perspective. In: Proceedings of the Eighteenth International conference on artificial intelligence and law (pp. 190–194). https://doi.org/10.1145/3462757.3466093Михалева, Е. С., Шубина, Е. А. (2019). Проблемы и перспективы правового регулирования робототехники. Актуальные проблемы российского права, 12(109), 26–35. https://doi.org/10.17803/19941471.2019.109.12.026-035Ellul, J. (2022). Should we regulate Artificial Intelligence or some uses of Software? Discover Artificial Intelligence, 2(5). https://doi.org/10.1007/s44163-022-00021-9Понкин, И. В., Редькина, А. И. (2018). Искусственный интеллект с точки зрения права. Вестник РУДН. Серия: Юридические науки, 22(1), 91–109. https://doi.org/10.22363/2313-2337-2018-22-1-91-109Erdélyi, O. J., & Goldsmith, J. (2018). Regulating artifcial intelligence: proposal for a global solution. In Proceedings of the 2018 AAAI/ACM conference on AI, ethics, and society (pp. 95–101).Савельев, А. И. (2016). Направления эволюции свободы договора под влиянием современных информационных технологий. В сб. М. А. Рожкова (рук. авт. кол. и отв. ред.), Свобода договора. Москва: Статут. https://elibrary.ru/xxooltGellert, R. (2021). The role of the risk-based approach in the General data protection Regulation and in the European Commission’s proposed Artificial Intelligence Act: Business as usual? Journal of Ethics and Legal Technologies, 3(2), 15–33.Calo, R. (2011). Open robotics. Maryland Law Review, 70.3, 101–142.Gonçalves, M. E. (2020). The risk-based approach under the new EU data protection regulation: a critical perspective. Journal of Risk Research, 23(2), 139–152. https://doi.org/10.1080/13669877.2018.1517381Ellul, J., Pace, G., McCarthy, S., Sammut, T., Brockdorf, J., & Scerri, M. (2021). Regulating artifcial intelligence: a technology regulator’s perspective. In Proceedings of the Eighteenth International conference on artifcial intelligence and law (pp. 190–194). https://doi.org/10.1145/3462757.3466093Hamon, R., Junklewitz, H., Sanchez, I., Malgieri, G., & De Hert, P. (2022). Bridging the gap between AI and explainability in the GDPR: towards trustworthiness-by-design in automated decision-making. IEEE ComputIntell Mag., 17(1), 72–85. https://doi.org/10.1109/mci.2021.3129960Ellul, J. (2022). Should we regulate Artificial Intelligence or some uses of Software? Discover Artificial Intelligence, 2(5). https://doi.org/10.1007/s44163-022-00021-9Leenes, R. (2019). Regulating New Technologies in Uncertain Times. https://doi.org/10.1007/978-94-6265-279-8_2Erdélyi, O. J., & Goldsmith, J. (2018). Regulating artifcial intelligence: proposal for a global solution. In Proceedings of the 2018 AAAI/ACM conference on AI, ethics, and society (pp. 95–101).Mikhaleva, E. S., & Shubina, E. A. (2019). Challenges and Prospects of the Legal Regulation of Robotics. Actual Problems of Russian Law, 1(12), 26–35. (In Russ.). https://doi.org/10.17803/1994-1471.2019.109.12.026-035Gellert, R. (2021). The role of the risk-based approach in the General data protection Regulation and in the European Commission’s proposed Artificial Intelligence Act: Business as usual? Journal of Ethics and Legal Technologies, 3(2), 15–33.Mogul, J. C. (2006). Emergent (mis)behavior vs. complex software systems. ACM SIGOPS Oper. Syst. Rev., 40(4), 293–304. https://doi.org/10.1145/1218063.1217964Gonçalves, M. E. (2020). The risk-based approach under the new EU data protection regulation: a critical perspective. Journal of Risk Research, 23(2), 139–152. https://doi.org/10.1080/13669877.2018.1517381Ponkin, I. V., & Redkina, A. I. (2018). Artificial Intelligence from the Point of View of Law. RUDN Journal of Law, 22(1), 91–109. (In Russ.). https://doi.org/10.22363/2313-2337-2018-22-1-91-109Hamon, R., Junklewitz, H., Sanchez, I., Malgieri, G., & De Hert, P. (2022). Bridging the gap between AI and explainability in the GDPR: towards trustworthiness-by-design in automated decision-making. IEEE Comput Intell Mag., 17(1), 72–85. https://doi.org/10.1109/mci.2021.3129960Savelyev, A. I. (2016). Directions of freedom of contract evolution under the influence of modern information technologies. In M. A. Rozhkova (head of authors’ collective and editor-in-chief), Svoboda dogovora. Moscow: Statut. (In Russ.).Leenes, R. (2019). Regulating New Technologies in Uncertain Times. https://doi.org/10.1007/978-94-6265-279-8_2Scherer, M. U. (2016). Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies. Harvard Journal of Law & Technology, 29(2), 353–400. https://doi.org/10.2139/ssrn.2609777Mogul, J. C. (2006). Emergent (mis) behavior vs. complex software systems. ACM SIGOPS Oper. Syst. Rev., 40(4), 293–304. https://doi.org/10.1145/1218063.1217964Smuha, N. A. (2021). From a ‘race to AI’ to a ‘race to AI regulation’: regulatory competition for artificial intelligence. Law. Innov. Technol., 13(1), 57–84. https://doi.org/10.1080/17579961.2021.1898300Scherer, M. U. (2016) Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies. Harvard Journal of Law & Technology, 29(2), 353–400. https://doi.org/10.2139/ssrn.2609777Vasilevskaya, L. Yu., Poduzova, E. B., & Tasalov, F. A. (2021). Digitalization of civil turnover: legal characteristics of “artificial intelligence’ and “digital” subjects (civilistic research) (In 5 Vol.). Moscow: Prospekt. (In Russ.).Smuha, N. A. (2021). From a ‘race to AI’ to a ‘race to AI regulation’: regulatory competition for artificial intelligence. Law. Innov. Technol., 13(1), 57–84. https://doi.org/10.1080/17579961.2021.1898300Voinikanis, E. A., Semenova, E. V., & Tyulyaev, G. S. (2018). Artificial intelligence and law: challenges and possibilities of self-learning algorithms. Proceedings of Voronezh State University. Series: Pravo, 4(35), 137–148. (In Russ.).Wagner, B. (2018). Ethics as an escape from regulation: from ethics-washing to ethics-shopping. In Being profling: cogitas ergo sum (pp. 86–90). Amsterdam: Amsterdam University Press. https://doi.org/10.1515/9789048550180-016Wagner, B. (2018). Ethics as an escape from regulation: from ethics-washing to ethics-shopping. In Being profiling: cogitas ergo sum (pp. 86–90). Amsterdam: Amsterdam University Press. https://doi. org/10.1515/9789048550180-016Zielke, T. (2020). Is artificial intelligence ready for standardization? In European conference on software process improvement (pp. 259–274). Springer.Zielke, T. (2020). Is artificial intelligence ready for standardization? In: European conference on software process improvement (pp. 259–274). Springer.

The authors declare that there are no conflicts of interest present.