digitallawJournal of Digital Technologies and LawJournal of Digital Technologies and Law2949-2483Kazan Innovative University named after V. G. Timiryasov10.21202/jdtl.2023.24sadrzwdigitallaw-193Research ArticleARTICLESСТАТЬИThe Possibility and Necessity of the Human-Centered AI in Legal Theory and PracticeВозможность и необходимость человеко-ориентированного искусственного интеллекта в юридической теории и практикеhttps://orcid.org/0000-0002-3918-835XРезаевА. В.RezaevA. V.

Резаев Андрей Владимирович – доктор философских наук, профессор, руководитель Международной исследовательской лаборатории ТАНДЕМ

Scopus Author ID: https://www.scopus.com/authid/detail.uri?authorId=13004674100

Web of Science Researcher ID: https://www.webofscience.com/wos/author/record/K-3472-2013

Google Scholar ID: https://scholar.google.ru/citations?user=Uzv39ccAAAAJ

РИНЦ Author ID: https://elibrary.ru/author_items.asp?authorid=648768

191124, г. Санкт-Петербург, ул. Смольного, 1/3 

Andrey V. Rezaev – Doctor of Philosophical Sciences, Professor, Head of the International Research Laboratory TANDEM at the Faculty of Sociology

Scopus Author ID: https://www.scopus.com/authid/detail.uri?authorId=13004674100

Web of Science Researcher ID: https://www.webofscience.com/wos/author/record/K-3472-2013

Google Scholar ID: https://scholar.google.ru/citations?user=Uzv39ccAAAAJ

РИНЦ Author ID: https://elibrary.ru/author_items.asp?authorid=648768

1/3 Smolnogo Str., 191124 Saint Petersburg

rezaev@hotmail.comhttps://orcid.org/0000-0003-3259-5566ТрегубоваН. Д.TregubovaN. D.

Трегубова Наталья Дамировна – кандидат социологических наук, доцент кафедры сравнительной социологии

Scopus Author ID: https://www.scopus.com/authid/detail.uri?authorId=56645016900

Web of Science Researcher ID: https://www.webofscience.com/wos/author/record/K-3487-2013

Google Scholar ID: https://scholar.google.com/citations?user=8dhGr3gAAAAJ&hl

РИНЦ Author ID: https://elibrary.ru/author_items.asp?authorid=832705

191124, г. Санкт-Петербург, ул. Смольного, 1/3 

Natalia D. Tregubova – PhD (Sociology), Associate Professor of the Departmentof Comparative Sociology

Scopus Author ID: https://www.scopus.com/authid/detail.uri?authorId=56645016900

Web of Science Researcher ID: https://www.webofscience.com/wos/author/record/K-3487-2013

Google Scholar ID: https://scholar.google.com/citations?user=8dhGr3gAAAAJ&hl

РИНЦ Author ID: https://elibrary.ru/author_items.asp?authorid=832705

1/3 Smolnogo Str., 191124 Saint Petersburg

n.tregubova@spbu.ruСанкт-Петербургский государственный университетРоссияSaint Petersburg State UniversityRussian Federation20232006202312564–580Copyright © Rezaev A.V., Tregubova N.D., 20232023Резаев А.В., Трегубова Н.Д.Rezaev A.V., Tregubova N.D.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://www.lawjournal.digital/jour/article/view/193Objective

Objective: the paper aims to define the problems juridical theory and practice face with the progress of AI technologies in everyday life and correlate these problems with the human-centered approach to exploring artificial intelligence (Human-Centered AI).

Methods

Methods: the research  critically analyzes  the relevant literature from various disciplines: jurisprudence, sociology, philosophy, and computer sciences.

Results

Results: the article articulates the prospects and problems the legal system confronts with the advancement of digital technologies in general and the tools of AI specifically. The identified problems are correlated with the provisions of the human-centered approach to AI. The authors acknowledge the necessity for AI inventors, as well as the owners of companies participating in the race to develop artificial intelligence technologies, to place humans, not machines, into the focus of attention as a primary value. In particular, special effort should be directed towards collecting and analyzing high-quality data for the organization of artificial intelligence tools development, taking into account that nowadays, the tools of AI are as practical as the data on which they are trained are effective.

The authors formulate three principles of human-centered AI for the legal sphere: 1) a human as a necessary link in the chain of making and executing legal decisions; 2) the need to regulate artificial intelligence at the international law level; 3) formulating “a taboo” for introducing the artificial intelligence technologies.

Scientific novelty

Scientific novelty: the article manifests one of the first attempts in the Russianlanguage scientific literature to outline the prospects of developing humancentered AI methodology in jurisprudence. Based on an analysis of special literature, the authors formulate three principles of including artificial intelligence into juridical theory and practice according to the assumptions of a human-centered approach to AI.

Practical significance

Practical significance: the principles and arguments the article advances can be helpful in the legal regulation of artificial intelligence technologies and their harmonious inclusion into legal practices.

Цель

Цель: определение проблем, которые ставит распространение технологий искусственного интеллекта перед юридической теорией и практикой, и соотнесение этих проблем с человеко-ориентированным подходом к искусственному интеллекту (Human-Centered AI).

Методы

Методы: исследование основано на критическом анализе релевантной литературы из разных дисциплинарных областей: юриспруденции, социологии, философии, компьютерных наук.

Результаты

Результаты: в статье сформулированы основные перспективы и проблемы, которые ставит перед правовой системой развитие цифровых технологий в целом и алгоритмов искусственного интеллекта в частности. Выделенные проблемы соотнесены с положениями человеко-ориентированного подхода к искусственному интеллекту. Авторы утверждают необходимость того, чтобы разработчики программ искусственного интеллекта, владельцы компаний, участвующих в гонке по внедрению технологий искусственного интеллекта, сосредоточивались на том, чтобы люди и человек как базовая ценность общества находились в центре внимания. В частности, специальные усилия следует направить на сбор и анализ высококачественных данных для организации разработок инструментов искусственного интеллекта, поскольку сегодня алгоритмы искусственного интеллекта эффективны настолько, насколько эффективны данные, на которых они обучаются. Авторы формулируют три принципа человеко-ориентированного искусственного интеллекта для правовой сферы: 1) человек как необходимое звено в цепочке принятия и исполнения правовых решений; 2) необходимость регулирования искусственного интеллекта на уровне международного права; 3) формулировка «табу» для внедрения технологий искусственного интеллекта.

Научная новизна

Научная новизна: статья представляет собой первую в русскоязычной научной литературе попытку обозначить перспективы развития области человеко-ориентированного искусственного интеллекта в юриспруденции. На основании анализа специальной литературы авторы формулируют три принципа включения искусственного интеллекта в юридическую теорию и практику с точки зрения человеко-ориентированного подхода к искусственному интеллекту.

Практическая значимость

Практическая значимость: принципы, сформулированные в статье, будут полезны как для правового регулирования технологий искусственного интеллекта, так и для гармоничного их включения в юридические практики.

Алгоритмискусственная социальностьискусственный интеллектправорегулированиесоциологияцифровая экономикацифровые технологиичеловекAlgorithmartificial intelligenceartificial socialitydigital economydigital technologieshumanhuman-centered artificial intelligencelawregulationsociologyReferencesАндреев, В. К., Лаптев, В. А., Чуча, С. Ю. (2020). Искусственный интеллект в системе электронного правосудия при рассмотрении корпоративных споров. Вестник Санкт-Петербургского университета. Право, 1, 19–34. https://doi.org/10.21638/spbu14.2020.102Andreev, V. K., Laptev, V. A., & Chucha S. Yu. (2020). Artificial intelligence in the system of electronic justice by consideration of corporate disputes. Vestnik of Saint Petersburg University. Law, 11(1), 19–34. (In Russ.). https://doi.org/10.21638/spbu14.2020.102Батурин, Ю. М., Полубинская, С. В. (2022). Искусственный интеллект: правовой статус или правовой режим? Государство и право, 10, 141–154. https://doi.org/10.31857/s102694520022606-7Baturin, Yu. M., & Polubinskaya, S. V. (2022). Artificial intelligence: legal status or legal regime? Gosudarstvoiparvo, 10, 141. (In Russ.). https://doi.org/10.31857/s102694520022606-7Быков, А. В., Нарская, А. И. (2022). Закон, мораль и машинное обучение: взгляд судей на сущность и перспективы роботизации правосудия. Мониторинг общественного мнения: экономические и социальные перемены, 5, 278–298. https://doi.org/10.14515/monitoring.2022.5.2137Bykov, A. V., & Narskaya, A. I. (2022). Law, Morality, and Machine Learning: Judges’ Perspective on the Essence of Justice and the Prospects of Its Robotization. Monitoring of Public Opinion: Economic and Social Changes Journal (Public Opinion Monitoring), 5, 278–298. (In Russ.). https://doi.org/10.14515/monitoring.2022.5.2137Вавилин, Е. В. (2021). Искусственный интеллект как участник гражданских отношений: трансформация права. Вестник Томского государственного университета. Право, 42, 135–146. https://doi.org/10.17223/22253513/42/11Dreyfus, H. (1978). What computers can’t do: A critique of artificial reason. Moscow: Progress. (In Russ.).Вейценбаум, Дж. (1982). Возможности вычислительных машин и человеческий разум. От суждений к вычислениям. Москва: Радио и связь.Efimova, L., Mikheeva, I., & Chub, D. (2020). Comparative Analysis of Doctrinal Concepts of Legal Regulating Smart Contracts in Russia and Foreign States. Journal of the Higher School of Economics, 4, 78–105. (In Russ.).Винер, Н. (1983). Кибернетика, или управление и связь в животном и машине (2-е изд.). Москва: Наука; Главная редакция изданий для зарубежных стран.Esposito, E. (2017). Artificial Communication? The Production of Contingency by Algorithms. Zeitschrift für Soziologie, 46(4), 249–265. https://doi.org/10.1515/zfsoz-2017-1014Войниканис, Е. А. (2020). Регулирование больших данных и право интеллектуальной собственности: общие подходы, проблемы и перспективы развития. Закон, 7, 135–156.Etzioni, A., & Etzioni, O. (2017). Should Artificial Intelligence Be Regulated? Issues in Science and Technology, 33(4), 32–36.Горохова, С. С. (2021). Искусственный интеллект: инструмент обеспечения кибербезопасности финансовой сферы или киберугроза для банков. Банковское право, 1, 35–46. https://doi.org/10.18572/1812-39452021-1-35-46Fink, M., & Finck, M. (2022). Reasoned A(I) administration: explanation requirements in EU law and the automation of public administration. European Law Review, 47(3), 376–392.Грегер, Р. (2017). Судья как интернет-серфер. Выяснение обстоятельств дела в Интернете. Вестник гражданского процесса, 7(4), 161–173. https://doi.org/10.24031/2226-0781-2017-7-4-161-173Ford, K. M., Hayes, P. J., Glymour, C., & Allen, J. (2015). Cognitive Orthoses: Toward Human-Centered AI. AI Magazine, 36(4), 5–8. https://doi.org/10.1609/aimag.v36i4.2629Дрейфус, Х. (1978). Чего не могут вычислительные машины: Критика искусственного разума. Москва: Прогресс.Gorokhova, S. S. (2021). Artificial intelligence: an instrument ensuring cybersecurity of the financial sphere or a cyber threat to banks? Banking Law, 1, 35–46. (In Russ.). https://doi.org/10.18572/1812-3945-20211-35-46Ефимова, Л. Г., Михеева, И. В., Чуб, Д. В. (2020). Сравнительный анализ доктринальных концепций правового регулирования смарт-контрактов в России и в зарубежных странах. Право. Журнал Высшей школы экономики, 4, 78–105. https://doi.org/10.17323/2072-8166.2020.4.78.105Greger, R. (2017). Judge as an Internet Surfer. Identification of the Circumstances of the Case on the Internet. Herald of Civil Procedure, 7(4), 161–173. (In Russ.). https://doi.org/10.24031/2226-0781-2017-7-4-161-173Зубофф, Ш. (2022). Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти. Москва: Изд-во Института Гайдара.Harvey, D. (2014). Seventeen Contradictions and the End of Capitalism. Oxford: Oxford University Press.Лессиг, Л. (2019). Искусственный интеллект вытеснит широкий пласт юристов. Закон, 5, 8–30.Hickman, E., & Petrin, M. (2021). Trustworthy AI and Corporate Governance: The EU’s Ethics Guidelines for Trustworthy Artificial Intelligence from a Company Law Perspective. European Business Organization Law Review, 22, 593–625. https://doi.org/10.1007/s40804-021-00224-0Ли, К.-Ф. (2019). Сверхдержавы искусственного интеллекта. Китай, Кремниевая долина и новый мировой порядок. Москва: Манн, Иванов и Фербер.International Committee of the Red Cross (2020). Artificial intelligence and machine learning in armed conflict: A human-centred approach. International Review of the Red Cross, 102(913), 463–479. https://doi.org/10.1007/s40804-021-00224-0Мажорина, М. В. (2020). Киберпространство и методология международного частного права. Право. Журнал Высшей школы экономики, 2, 230–253. https://doi.org/10.17323/2072-8166.2020.2.230.253Klein, N. (2007). The Shock Doctrine: The Rise of Disaster Capitalism. New York: Henry Holt.О’Нил, К. (2018). Убийственные большие данные. Как математика превратилась в оружие массового поражения. Москва: АСТ.Lee, J.-A., Hilty, R. M, & Liu, K.-C. (Eds.). (2021). Artificial Intelligence and Intellectual Property. Oxford: Oxford University Press.Панченко, В. Ю. (2012). Информационная доступность юридической помощи: идеальная модель и реальное состояние. Аграрное и земельное право, 11(95), 95–102.Lee, K.-F. (2019). AI Superpowers: China, Silicon Valley and the new world order. Moscow: Mann, Ivanov i Ferber. (In Russ.).Рассел, С., Норвиг, П. (2007). Искусственный интеллект: современный подход (2-е изд.). Москва: Вильямс.Lessig, L. (2019). Artificial intelligence is going to oust a wide circle of lawyers. Zakon, 5, 8–30. (In Russ.).Резаев, А. В., Трегубова, Н. Д. (2019). «Искусственный интеллект», «онлайн-культура», «искусственная социальность»: определение понятий. Мониторинг общественного мнения: Экономические и социальные перемены, 6, 35–47. https://doi.org/10.14515/monitoring.2019.6.03Mazhorina, M. (2020). Cyberplace and Methodology of International Private Law. Journal of the Higher School of Economics, 2, 230–253. (In Russ.).Руденко, Н. И. (2020). Социотехнические барьеры разработки беспилотных автомобилей в России. В кн. Л. В. Земнухова и др. Приключения технологий: барьеры цифровизации в России (с. 17–70). Москва – Санкт-Петербург: ФНИСЦ РАН. https://doi.org/10.31119/978-5-89697-339-3Oravec, J. A. (2022). The emergence of “truth machines”? Artificial intelligence approaches to lie detection. Ethics and Information Technology, 24, 6. https://doi.org/10.1007/s10676-022-09621-6Русакова, Е. П. (2020). Интегрирование современных цифровых технологий в судопроизводство Китайской Народной Республики и Сингапура. Государство и право, 9, 102–109. https://doi.org/10.31857/s102694520011323-6O’Neil, C. (2018). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Moscow: AST. (In Russ.).Степанов, О. А., Печегин, Д. А., Дьяконова, М. О. (2021). К вопросу о цифровизации судебной деятельности. Право. Журнал Высшей школы экономики, 5, 4–23. https://doi.org/10.17323/2072-8166.2021.5.4.23Panchenko, V. Yu. (2012). Information availability of legal assistance: ideal and real state. Agrarnoye i zemelnoye parvo, 11(95), 95–102. (In Russ.).Талапина, Э. В. (2021). Искусственный интеллект и правовые экспертизы в государственном управлении. Вестник Санкт-Петербургского университета. Право, 4, 865–881. https://doi.org/10.21638/spbu14.2021.404Rezaev, A. V. (2021). Twelve Theses on Artificial Intelligence and Artificial Sociality. Monitoring of Public Opinion: Economic and Social Changes, 1, 20–30. https://doi.org/10.14515/monitoring.2021.1.1894Талапина, Э. В. (2022). Право на информационное самоопределение: на грани публичного и частного. Право. Журнал Высшей школы экономики, 15(5), 24–43.Rezaev, A. V. & Tregubova, N. D. (2019). Artificial intelligence, On-line Culture, Artificial Sociality: Definition of the Terms. Monitoring of Public Opinion: Economic and Social Changes, 6, 35–47. https://doi.org/10.14515/monitoring.2019.6.03Утехин, И. (2019). Поиск и его интерфейсы. Laboratorium: журнал социальных исследований, 11(1), 152–165. https://doi.org/10.25285/2078-1938-2019-11-1-152-165Rudenko, N. (2020). Sociotechnical barriers to developing autonomous vehicles in Russia. In L. Zemnukhova, K. Glazkov, O. Logunova, A. Maksimova, D. Sivkov, & N. Rudenko, The Adventures of Technologies: Digitalization Barriers in Russia (17–70). Moscow – Saint Petersburg: FNISTS RAN. (In Russ.). https://doi.org/10.31119/9785-89697-339-3Цветков, Ю. А. (2021). Искусственный интеллект в правосудии. Закон, 4, 91–107.Rusakova, E. (2020). The integration of modern digital technologies to the legal proceedings of People’s Republic of China and Singapore, Gosudarstvo i parvo, 9, 102. (In Russ.). https://doi.org/10.31857/s102694520011323-6Esposito, E. (2017). Artificial Communication? The Production of Contingency by Algorithms. Zeitschrift für Soziologie, 46(4), 249–265. https://doi.org/10.1515/zfsoz-2017-1014Russell, S., & Norvig, P. (2007). Artificial Intelligence: A Modern Approach (2d ed.). Moscow: Vilyams. (InRuss.).Etzioni, A., & Etzioni, O. (2017). Should Artificial Intelligence Be Regulated? Issues in Science and Technology, 33(4), 32–36.Shneiderman, B. (2021). Human-centered AI. Issues in Science and Technology, 37(2), 56–61.Fink, M., & Finck, M. (2022). Reasoned A(I)administration: explanation requirements in EU law and the automation of public administration. European Law Review, 47(3), 376–392.Stepanov, O., Pechegin, D., & Diakonova, M. (2021). Towards the Issue of Digitalization of Judicial Activities. Journal of the Higher School of Economics, 5, 4–23. (In Russ.). https://doi.org/10.17323/2072-8166.2021.5.4.23Ford, K. M., Hayes, P. J., Glymour, C., & Allen, J. (2015). Cognitive Orthoses: Toward Human-Centered AI. AI Magazine, 36(4), 5–8. https://doi.org/10.1609/aimag.v36i4.2629Talapina, E. V. (2021). Artificial intelligence and legal expertise in public administration. Vestnik of Saint Petersburg University. Law, 12(4), 865–881. (In Russ.). https://doi.org/10.21638/spbu14.2021.404Harvey, D. (2014). Seventeen Contradictions and the End of Capitalism. Oxford: Oxford University Press.Talapina, E. V. (2022). The right to informational self-determination: on the edge of public and private. Law. Journal of the Higher School of Economics, 15(5), 24–43. (In Russ.).Hickman, E., & Petrin, M. (2021). Trustworthy AI and Corporate Governance: The EU’s Ethics Guidelines for Trustworthy Artificial Intelligence from a Company Law Perspective. European Business Organization Law Review, 22, 593–625. https://doi.org/10.1007/s40804-021-00224-0Tsvetkov, Yu. A. (2021). Artificial Intelligence in Justice. Zakon, 4, 91–107. (In Russ.).International Committee of the Red Cross (2020). Artificial intelligence and machine learning in armed conflict: A human-centred approach. International Review of the Red Cross, 102(913), 463–479. https://doi.org/10.1007/s40804-021-00224-0Ulnicane, I. (2022). Artificial Intelligence in the European Union: policy, ethics and regulation. In T. Hoerber, I. Cabras, G. Weber (Eds.). Routledge Handbook of European Integrations (pp. 254–269). London: Routledge. https://doi.org/10.4324/9780429262081-19Klein, N. (2007). The Shock Doctrine: The Rise of Disaster Capitalism. New York: Henry Holt.Utekhin, I. (2019). Search and Interfaces for Search. Laboratorium: Russian Review of Social Research, 11(1), 152–165. (In Russ.). https://doi.org/10.25285/2078-1938-2019-11-1-152-165Lee, J.-A., Hilty, R. M, & Liu, K.-C. (Eds.). (2021). Artificial Intelligence and Intellectual Property. Oxford: Oxford University Press.Vavilin, E. V. (2021). Artificial intelligence as a participant in civil relations: the transformation of law. Vestnik Tomskogo gosudarstvennogo universiteta. Pravo, 42, 135–146. (In Russ.). https://doi.org/10.17223/22253513/42/11Oravec, J. A. (2022). The emergence of “truth machines”? Artificial intelligence approaches to lie detection. Ethics and Information Technology, 24, 6. https://doi.org/10.1007/s10676-022-09621-6Voinikanis, E. A. (2020). Regulation of big data and intellectual property right: common approaches, problems and prospects of development. Zakon, 7, 135–156. (In Russ.).Rezaev, A. V. (2021). Twelve Theses on Artificial Intelligence and Artificial Sociality. Monitoring of Public Opinion: Economic and Social Changes, 1, 20–30. https://doi.org/10.14515/monitoring.2021.1.1894Weizenbaum, J. (1982). Computer Power and Human Reason: From Judgment to Calculation. Moscow: Radio i svyaz. (In Russ.).Shneiderman, B. (2021). Human-centered AI. Issues in Science and Technology, 37(2), 56–61.Wiener, N. (1983). Cybernetics: Or Control and Communication in the Animal and the Machine (2d ed.). Moscow: Nauka; Glavnaya redaktsiya izdanii dlya zarubezhnykh stran. (In Russ.).Ulnicane, I. (2022). Artificial Intelligence in the European Union: policy, ethics and regulation. In T. Hoerber, I. Cabras, G. Weber (Eds.). Routledge Handbook of European Integrations (pp. 254–269). London: Routledge. https://doi.org/10.4324/9780429262081-19Wolfe, A. (1993). The Human Difference: Animals, Computers, and the Necessity of Social Science. Berkeley: University of California Press.Wolfe, A. (1993). The Human Difference: Animals, Computers, and the Necessity of Social Science. Berkeley: University of California Press.Zuboff, Sh. (2022). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. Moscow: Izd-vo Instituta Gaidara. (In Russ.).

The authors declare that there are no conflicts of interest present.