Возможность и необходимость человеко-ориентированного искусственного интеллекта в юридической теории и практике

Введение

В 1948 г. Норберт Винер, основатель кибернетики, писал: «Мы уже в состоянии построить искусственные машины почти со сколь угодно сложным поведением. Еще задолго до Нагасаки и до того, как общественности стало известно о существовании атомной бомбы, мне пришла мысль, что мы стоим перед лицом другой социальной силы, несущей неслыханные возможности для добра и для зла» (Винер, 1983).

Сегодня «искусственные машины» уже решают (или вскоре будут способны решить) многочисленные проблемы, с которыми сталкивается человечество. Однако эти машины, без сомнения, создают и новые проблемы¹. То, что Винер называл «искус­ственными машинами», сегодня в том или ином виде стало частью жизни общества, и нам уже сложно представить свою жизнь без технологий искусственного интеллекта. И не удивительно, что в последние годы было много информационного «шума» вокруг искусственного интеллекта и его потенциала кардинально изменить мир, в котором мы живем и работаем.

Цель наших размышлений – показать, что по мере того, как технологии искусственного интеллекта продолжают разрабатываться и внедряться в повседневную жизнь, в той же прогрессии растет необходимость, чтобы разработчики программ, владельцы старых и новых компаний, участвующих в гонке по внедрению новых инструментов, сосредоточивались в первую очередь на том, чтобы люди и человек как базовая ценность общества находились в центре внимания. Не цели одного человека или одной компании, не технологии и машины, но человек и отношение к человеку как мерилу нравственности и гуманизма. Понимая, что благостные призывы к гуманизму могут звучать абстрактно в логике технологически ориентированного развития, мы хотели бы более конкретно показать необходимость ориентироваться в работе с искусственным интеллектом в рамках подхода, который получил в научной литературе название Human-Centered AI (HCAI) – «человеко-ориентированный искусственный интеллект».

Проблема ориентации искусственного интеллекта на благо человека стоит во всех сферах жизни общества, но в некоторых из них – особенно остро. К ним относятся образование, медицина и юриспруденция, где цена ошибки – ошибки человека или алгоритма – является наиболее высокой. Юридические решения регулируют жизнь человека, его отношения с другими людьми, порой они касаются экзистенциальных вопросов – жизни, смерти, справедливости.

В данной статье мы рассматриваем, какие проблемы ставит распространение технологий искусственного интеллекта перед юридической теорией и практикой и как эти проблемы соотносятся с человеко-ориентированным подходом к искусственному интеллекту. Искусственный интеллект мы определяем как «ансамбль разработанных и закодированных человеком рационально-логических, формализованных правил, которые организуют процессы, позволяющие имитировать интеллектуальные структуры, производить и воспроизводить целерациональные действия, а также осуществлять последующее кодирование и принятие инструментальных решений вне зависимости от человека» (Резаев, Трегубова, 2019).

Сегодня одним из определяющих факторов развития технологий искусственного интеллекта является онлайн-культура – «ансамбль (гармоническая совокупность) сетей коммуникаций, технических устройств, алгоритмов, формальных и неформальных правил взаимодействия, паттернов поведения, культурных символов, которые делают возможной и структурируют активность людей в сети Интернет и аналогичных сетях, обеспечивающих удаленный доступ к созданию, обмену и получению информации» (Резаев, Трегубова, 2019).

Интернет обеспечивает как колоссальные объемы данных, на которых обучаются алгоритмы искусственного интеллекта, так и «площадку» для действия этих алгоритмов.

Как следствие одновременного развития вычислительных мощностей искусственного интеллекта и развития онлайн-культуры, искусственный интеллект все более включается в повседневную жизнь людей и отношения между ними. Возникает «искусственная социальность»: искусственный интеллект становится активным посредником и участником социальных взаимодействий (Резаев, Трегубова, 2019).

Проект искусственного интеллекта с самого своего начала имел а-дисциплинарный характер. Создатели искусственного интеллекта стремились воспроизвести человеческий интеллект и потому смело заимствовали нужные им положения из математики, психологии, кибернетики и т. д. (Рассел, Норвиг, 2007). Но если создание машин, воспроизводящих деятельность человеческого разума, требовало обращения к достижениям различных областей знания, то это тем более верно для понимания того, как эти машины входят в повседневную жизнь общества, взаимодействуют с людьми, встраиваются в общественные отношения. Иными словами, исследование проблем искусственной социальности должно иметь междисциплинарный, а в перспективе а-дисциплинарный характер. Поэтому в настоящей статье мы опираемся как на философский и социологический анализ проблем искусственного интеллекта, так и на результаты правовых исследований.

Дальнейшее рассуждение организовано следующим образом. Сначала мы обратим внимание на несколько принципиальных моментов, которые касаются внедрения цифровых технологий в юридические практики. Затем – на проблемы и перспективы стремительного проникновения искусственного интеллекта в повседневную жизнь общества, что изменяет характер правовой работы и структуру юридических систем. В завершение мы обратимся к человеко-ориентированному подходу к искусственному интеллекту и его следствиям для правовой сферы жизни общества.

1. Цифровые технологии и право

В самом общем виде суммируя влияние цифровых технологий на правовую систему, в первую очередь необходимо отметить следующее.

Во-первых, цифровые технологии упростили доступ к правовой информации через онлайн-базы данных, правовые поисковые системы и другие онлайн-ресурсы. Данное обстоятельство, соответственно, создало возможности для проведения онлайн-исследований, ориентированных на получение юридической информации, практически для каждого пользователя Интернета (а это почти 90 % населения РФ)². Интернет революционизировал поиск во всех сферах жизни людей (Утехин, 2019), и юридическая информация не является исключением.

Во-вторых, цифровые технологии улучшили коммуникацию между юристами, клиентами и другими заинтересованными сторонами в правовой системе. К примеру, технология видео-конференц-связи позволяет юристам дистанционно общаться с клиентами, что расширило доступ к юридическим услугам для жителей отдаленных районов.

В-третьих, цифровые технологии сделали возможными подачу и хранение юридических документов в электронном виде. Иными словами, организация юридических практик с помощью цифровых технологий значительно уменьшает потребность в бумажных документах и упрощает поиск и обмен информацией (Русакова, 2020; Степанов и др., 2021).

В-четвертых, цифровые технологии привели к автоматизации многих юридических процессов, таких как рутинная проверка документов и составление контрактов (включая так называемые смарт-контракты (Ефимова и др., 2020)). Соответственно, значительно уменьшилась потребность в рутинизированном ручном труде юристов и их помощников.

В-пятых, использование цифровых технологий в юридических практиках вызвало к жизни новые области права, такие как киберправо/право в киберпространстве (Мажорина, 2020), право интеллектуальной собственности и право защиты данных (Войниканис, 2020).

Таким образом, цифровые технологии уже оказали значительное влияние на развитие права, сделав юридические услуги и практики более доступными, эффективными и действенными. Вместе с тем практикующие юристы, специальная литература, массмедиа и ежедневный потребитель юридических услуг практически в один голос обращают внимание на тот факт, что цифровые технологии порождают новые проблемы для развития правовой системы. В первую очередь это проблемы конфиденциальности (Талапина, 2022) и доступности (Панченко, 2012) юридических баз данных, а также проблема критической оценки информации, полученной из Интернета (Грегер, 2017).

Современный этап развития цифровых технологий в онлайн-культуре с необходимостью предполагает обратить внимание на то, каким образом искусственный интеллект трансформирует и определяет дальнейшее развитие юридических практик, каковы плюсы и минусы для правоведов в использовании технологий искусственного интеллекта в повседневной юридической практике.

2. Искусственный интеллект в юридической практике и теории: pro et contra

Есть как преимущества, так и недостатки использования технологий искусственного интеллекта в повседневной юридической практике. К основным преимуществам можно отнести следующие:

– Эффективность в организации работы юристов. Технологии искусственного интеллекта автоматизируют и ускоряют решение таких задач, как просмотр документов, предварительные юридические исследования литературных источников, анализ контрактов (Талапина, 2021).

– Искусственный интеллект может выполнять определенные задачи с более высоким уровнем точности, чем люди. Например, выявлять закономерности в данных или проверять документы на наличие фактических ошибок или грамматических и стилистических несоответствий (Андреев и др., 2020).

– Очевидно, что использование технологий искусственного интеллекта, снижая потребность в ручном труде, обусловливает экономию средств юридических фирм и их клиентов.

– Технологии искусственного интеллекта предоставляют юристам более полную, многостороннюю и подробную информацию, позволяющую им принимать более обоснованные решения.

Среди основных недостатков использования искусственного интеллекта выделяются следующие:

– Общий минус использования искусственного интеллекта для всех профессий: происходит исчезновение одних профессий и появление других (Ли, 2019). Широкое использование технологий искусственного интеллекта в юридической практике пока еще потенциально, но очень скоро в обязательном порядке приведет к пересмотру номенклатуры рабочих мест в структуре юридической системы, особенно это будет касаться помощников юристов и другого вспомогательного юридического персонала (Лессиг, 2019).

– Системы искусственного интеллекта в той или иной степени являются трансляторами предвзятости, предубеждений, которые характерны для их создателей (Горохова, 2021). Алгоритмы искусственного интеллекта могут быть в той или иной степени предвзятыми или ошибочными в результате как минимум двух обстоятельств: а) если они основываются и разработаны на массивах данных, которые ошибочны и предвзяты; б) если они не используются должным образом. Отсюда внедрение технологий искусственного интеллекта предполагает поиски ответов на вопросы о том, как обеспечить справедливость и беспристрастность систем искусственного интеллекта.

– Технологии искусственного интеллекта, как и всякие технологии, несут в себе риски безопасности. Технологии искусственного интеллекта не могут обеспечить стопроцентную кибербезопасность (О’Нил, 2018). Искусственный интеллект может минимизировать, но не исключить полностью утечку данных или взлом. Соответственно, основа основ юридических практик – конфиденциальность – остается под угрозой при использовании технологий искусственного интеллекта.

Таким образом, использование технологий искусственного интеллекта в повседневной юридической практике очевидно обеспечивает многочисленные преимущества, но важно взвесить их с потенциальными рисками и недостатками. Юристы должны не только понимать возможности технологий искусственного интеллекта, но и тщательно продумать их использование, видеть их ограничения и потенциальные риски.

Кроме проблем использования искусственного интеллекта, которые уже проявляются в повседневной жизни, следует также иметь в виду и реальные проблемы, порождаемые повсеместным проникновением искусственного интеллекта в юридические практики:

– Проблемы, касающиеся конфиденциальности. Для эффективной работы системам искусственного интеллекта часто требуется доступ к большим объемам персональных данных, что вызывает опасения по поводу конфиденциальности и защиты данных. Регуляторы и законодатели должны найти баланс между защитой частной жизни и продвижением инноваций в сфере искусственного интеллекта (Горохова, 2021).

– Юридическая ответственность за те или иные действия, совершаемые искусственным интеллектом. По мере того, как системы искусственного интеллекта становятся более автономными и принимают решения без вмешательства человека, возникают вопросы о том, кто несет ответственность за их действия (Вавилин, 2021; Батурин, Полубинская, 2022). Например, если автомобиль без водителя, основанный на работе искусственного интеллекта, стал причиной аварии, должны ли нести ответственность производитель, владелец или сама система искусственного интеллекта (Руденко, 2020)? На кого следует возлагать ответственность, когда что-то идет не так в других случаях использования инструментов искусственного интеллекта? Кто несет ответственность за несчастные случаи или ошибки, вызванные системой искусственного интеллекта: программист, владелец или сам искусственный интеллект? Это юридические вопросы уже сегодняшнего дня.

– Вопросы, касающиеся интеллектуальной собственности на продукты, созданные технологиями искусственного интеллекта (Lee et al., 2021). Например, кого считать изобретателем или художником, если система искусственного интеллекта создает произведение искусства или изобретает новую технологию?

– Принципиальным моментом становится использование инструментов искусственного интеллекта (таких, например, как ChatGPT) для юридической интерпретации документов и применения юридических норм, особенно в отношении сложного и нюансированного характера юридического обоснования того или иного решения. Есть все основания опасаться, что искусственный интеллект не сможет полностью охватить человеческие рассуждения и суждения, необходимые для эффективного принятия юридических решений (Цветков, 2021).

– Отсутствие общения и реальных человеческих контактов. Это очень существенный недостаток для юридических практик, которые по определению могут затрагивать экзистенциальные проблемы жизни и смерти, ограничение свободы человека. Сами судьи отмечают: правосудие невозможно без целостного видения ситуации, включающего моральные и эмоциональные аспекты, – без того, что недоступно искусственному интеллекту (Быков, Нарская, 2022).

Следует отметить, что сам вопрос, следует ли регулировать технологии искусственного интеллекта и как именно это делать, является предметом обсуждения (Etzioni & Etzioni, 2017). Принципы здесь только начинают вырабатываться, причем «пионерами» часто выступают законодатели Европейского союза (Hickman & Petrin, 2021; Fink & Finck, 2022; Ulnicane, 2022). В России также ведется работа по юридическому регулированию технологий искусственного интеллекта: в 2019 г. была принята Национальная стратегия развития искусственного интеллекта на период до 2030 г.³, в которой прописаны базовые определения и общие принципы использования технологий искусственного интеллекта.

Таким образом, развитие искусственной социальности представляет и практическую, и концептуальную проблему для юриспруденции. Практическую – в отношении того, как технологии искусственного интеллекта будут менять юридические практики, концептуальную – в отношении их правового регулирования.

Нам представляется, что набор проблем, которые уже возникли и обязательно будут возникать в самом ближайшем будущем в юридической практике, можно решать более продуктивно с помощью подхода, который получил название «человеко-ориентированный искусственный интеллект» (Human-Centered AI).

3. Человеко-ориентированный искусственный интеллект

Подход, который получил в научной литературе название Human-Centered AI (Ford et al., 2015; Shneiderman, 2021)⁴, предполагает в первую очередь понимание очень простого факта: люди и машины – не одно и то же⁵. Нет необходимости ориентироваться на то, чтобы сделать абсолютно подобный человеку инструмент искусственного интеллекта. Напротив, скорее всего, успех будет в противоположном направлении, когда человек останется человеком со своим интеллектом, сознанием, подсознанием и эмоционально-духовным миром, а машины и алгоритмы будут разрабатываться человеком и в «самообучении» следовать своей, отличной от человека логике развития.

К сожалению, данным обстоятельством, как, впрочем, и в целом человеко-ориен­тированным подходом, пренебрегают. Большинство технологических лидеров в США и других странах продолжают тратить значительные средства на разработку программного обеспечения, которое может делать то же самое, с чем прекрасно справляются люди. Разработчики отчетливо осознают, что могут легко заработать, продавая свои продукты корпорациям, у которых нет других ориентаций в своем развитии, кроме тех, что заданы логикой рынка и получения прибыли (Зубофф, 2022). Все сосредоточены на использовании искусственного интеллекта для сокращения затрат на рабочую силу, мало заботясь о сути социального прогресса и развитии нравственного человека и справедливого общества.

Human-Centered AI требует уделять первоочередное внимание сбору и анализу высококачественных данных для организации разработок инструментов искусственного интеллекта. Алгоритмы искусственного интеллекта эффективны ровно настолько, насколько эффективны данные, на которых они обучаются, а предвзятые или неполные данные могут привести не только к несправедливым/ложным, но и к прямо противоположным первоначальной цели результатам. Сбор информации для самообучающихся моделей должен быть не только разнообразным, но и репрезентативным, данные должны отражать реальный мир, в котором мы живем, и людей, с которыми мы работаем, вне зависимости от их социальных и классовых различий.

Мы уже обращали внимание на тот факт, что при современном этапе развития капитализма, в ситуации предельной ориентации на финансовые показатели, прибыль и функциональную эффективность, практически невозможно обеспечить решение этих проблем (Rezaev, 2021)⁶. Тем не менее вообще их не рассматривать, не пытаться предлагать варианты их решения – неправильная тактика развития социальных наук.

Рынок никогда не был и не может быть (даже в условиях искусственной социальности) высшим мерилом красоты, добра и истины. Стратегически социальное знание обосновало невозможность гармоничного, нравственного и справедливого мира, где нет эксплуатации человека человеком и отсутствует социальное и культурное неравенство, в системе координат капиталистического хозяйствования⁷. Но вот какие существуют проблемы для общества и каковы варианты траекторий развития общества в условиях пока еще бесконтрольного распространения инструментов искусственного интеллекта – темы, которые явно с запозданием только начинают рассматриваться.

Характеризуя особенности развития искусственного интеллекта, следует иметь в виду, что данные технологии не являются нейтральными по своей сути. Они созданы людьми и отражают ценности, предубеждения, предрассудки их создателей. Отсюда при создании инструментов искусственного интеллекта следует с необходимостью придерживаться этического и ориентированного на человека подхода к разработке и развертыванию систем искусственного интеллекта. В том числе это означает учет различных точек зрения и мнений в процессе проектирования, обеспечение прозрачности и подотчетности, а также уделение приоритетного внимания человеческой личности, благополучию общества в целом, а не отдельных субъектов или технологических систем.

Принципиальным моментом остается понимание того, что инструменты искусственного интеллекта действительно уже сейчас являются мощным средством для решения некоторых из самых насущных проблем, стоящих перед обществом, но это не панацея. Определяя и формулируя направления общественного развития, нельзя полагаться исключительно на искусственный интеллект при решении социальных и экономических, культурных и политических проблем. Даже в условиях «искусственной социальности» люди должны оставаться в реальности человеческого опыта и признавать, что социальный прогресс требует большего, чем простые технологические решения.

Выводы

Настоящее рассуждение начиналось цитатой Норберта Винера – отца-основателя кибернетики. Завершим его суждениями одного из основателей области исследований искусственного интеллекта Джозефа Вейценбаума. Вейценбаум утверждал, что использование вычислительных машин следовало бы запретить или, по меньшей мере, ограничить в двух случаях (Вейценбаум, 1982). Первый случай связан с попыт­ками заменить человека машиной в сферах, связанных с межличностными отношениями, любовью, пониманием. Второй случай – использование компьютеров в ситуации, когда оно может привести к необратимым последствиям. Вейценбаум, как нам представляется, удачно формулирует базовые положения человеко-ориентированного искусственного интеллекта, которые касаются распространения технологий искусственного интеллекта в целом и использования их в теории и практике юриспруденции в частности.

В заключение сформулируем три принципа включения искусственного интеллекта в юридическую теорию и практику с точки зрения человеко-ориентированного подхода к искусственному интеллекту.

Первое. Человек всегда должен оставаться в цепочке принятия/исполнения юридических решений. Данный тезис неоднократно формулировался и отечественными (Степанов и др., 2021), и зарубежными (Лессиг, 2019) правоведами. Технологии искусственного интеллекта могут брать на себя многие задачи в юридической практике, но контролировать, проверять, осмысливать, взвешивать действия и решения искусственного интеллекта должен человек.

Второе. Сегодня мы стоим перед необходимостью разработки законов, определяющих рациональный и понятный modus Vivendi для деятельности искусственного интеллекта в социальных системах, ориентированных на человека, а не на прибыль и рынок. Это почти невозможно сделать в рамках одного государства, особенно если это капиталистическое государство. Вот почему мир стоит перед необходимостью создания международного права в области искусственного интеллекта. Закон, как и любое правило, может быть нарушен – по недоразумению или по злому умыслу. Однако нарушение закона не отменяет самого закона, нарушение просто выявляет злонамеренных лиц, извративших закон.

Третье. Развитие искусственного интеллекта ставит вопрос о необходимости запретов, в том числе юридических, своего рода табу на использование искусственного интеллекта в некоторых сферах жизни человека (Rezaev, 2021). Прежде всего, это сферы, связанные с экзистенциальными вопросами. Например, большой вопрос – следует ли использовать искусственный интеллект, чтобы установить, лжет ли человек (Oravec, 2022), или может ли искусственный интеллект выступать автономным оружием (International Committee, 2020). Определение таких сфер на международном, национальном и локальном уровнях, формулировка правовых запретов и создание механизмов правоприменения – одна из важнейших задач для человеко-ориентированного искусственного интеллекта.