Объяснимый искусственный интеллект и правовые традиции: разработка универсальных ключевых показателей эффективности для стран «Большой двадцатки»

Введение

Использование систем искусственного интеллекта (далее – ИИ) расширяется, и из-за их сложности и автономности эволюционируют такие аспекты, как подотчетность, прозрачность и юридическая ответственность этих систем. В случае сбоев в работе ИИ распределение обязанностей и понимание процесса принятия решений этими системами выдвигает на первый план вопрос об «объяснимости» ИИ (Gilpin et al., 2018; Hacker et al., 2020). Чтобы решить эту проблему, Общий регламент ЕС по защите данных (GDPR) предусматривает возможность частным лицам получать информацию о решениях, принимаемых системами искусственного интеллекта (Gilpin et al., 2018). Однако для такой страны, как Индия, с ее сложными и разнородными культурными и социальными условиями, применение этого права для регулирования систем искусственного интеллекта создает значительные проблемы.

Во всем мире, несмотря на успехи в исследованиях, направленных на повышение объяснимости систем искусственного интеллекта, предлагаемые до сих пор структуры по-прежнему не учитывают должным образом разнообразие культурных, социальных и этнических групп заинтересованных сторон. Большинство исследований показывают, что западные модели применимы повсеместно; при этом часто не учитываются незападные, коллективистские общества (Peters & Carman, 2024). Существующие структуры также предполагают, что прозрачность в отношении объяснимости систем искусственного интеллекта будет обеспечиваться действием политических и экономических идеологий. В результате такие системы являются культурно предвзятыми, а их глобальное использование может привести к противоречиям (Prabhakaran et al., 2022). Глобально применимые и согласованные нормы в области искусственного интеллекта должны отражать основные принципы прозрачности, подотчетности, безопасности и динамичной социальной адаптации (Bhatt, 2025).

Системы ИИ, адаптирующиеся к культурным особенностям и учитывающие интересы заинтересованных сторон, являются насущной необходимостью. Регулирование ИИ должно учитывать культурные, социально-политические, этические и правовые особенности различных регионов. Чтобы обеспечить равноправие и целесообразность в сфере «объяснимого ИИ» (Explainable Artificial Intelligence, XAI; далее – ОИИ), необходимо направить внимание на разработку моделей ОИИ, адаптированных к культурным особенностям и учитывающих мнение заинтересованных сторон. Одной из многообещающих идей является «Доктрина PEEC», предложенная Bhatt & Bhatt в 2023 г. Она объединяет такие известные положения, как теории общественных интересов, экологической устойчивости, экономического развития и уголовного права (Public Interest, Environmental Sustainability, Economic Development, and Criminal Law, PEEC), фокусируясь на создании реалистичного подхода к разработке ОИИ. Доктрина также ставит своей целью достижение прозрачности, учет более широких социальных, экономических, политических и правовых последствий результатов работы ИИ. Эта концепция обладает потенциалом для решения задач, связанных с объяснимым ИИ, за счет надлежащего учета элементов PEEC, способствующих устойчивому и простому доступу к параметру объяснимости, обеспечивая при этом достаточную подотчетность с многомерным подходом к системам ОИИ для удовлетворения реальных потребностей общества.

Системы ИИ/ОИИ представляют собой сложные алгоритмы, включающие в себя социальные, этические и общечеловеческие ценности. Человеческое восприятие, ценности и интерпретации имеют решающее значение для успешного функционирования этих систем. Однако противоречия в целях и задачах, динамичная и непредсказуемая окружающая среда, ценностные проблемы, а также сложное взаимодействие между человеческими ценностями, технологиями и общественными нормами требуют структурированного и надежного методологического подхода, а не чисто технологической или юридической стратегии для решения данной проблемы.

Таким образом, целью нашего исследования является изучение «права на объяснение» и доктрины PEEC путем надлежащего учета различных культур и ценностей крупнейших стран «Большой двадцатки» (США, Германии, Японии, Индии, Бразилии и России) с использованием методологии мягких систем (Soft System Methodology, SSM; далее – ММС) и ключевых показателей эффективности. Это должно помочь в разработке адаптируемых, прозрачных и учитывающих культурные особенности норм ОИИ и повысить уровень доверия и эффективность систем искусственного интеллекта во всем мире.

1. Влияние этических и культурных аспектов на развитие объяснимого искусственного интеллекта в крупнейших странах «Большой двадцатки»

Значительные различия в культурных и этических ценностях стран мира отмечены во многих кросс-культурных исследованиях последних лет (Triandis, 2018; Jan et al., 2024). Это особенно заметно в таких аспектах, как индивидуализм (личная автономия и самоопределение), коллективизм (приоритетность групповой солидарности и общественного благополучия), доверие к технологиям (уверенность в цифровых инновациях и автоматизированных системах) и уважение к власти (приверженность институциональным иерархиям и структурам управления). К примеру, Соединенные Штаты и Германия считаются индивидуалистическими обществами, реализующими идеи личной автономии и уверенности в своих силах (Triandis, 2018). И наоборот, такие культуры, как Япония и Индия, также известные как коллективистские культуры, подчеркивают идеалы группового благополучия и социальной гармонии (Eckhardt, 2002). Данные исследований говорят о том, что распространение технологий в развивающихся странах редко достигает уровня внедрения технологий в развитых странах, в основном из-за социально-экономических проблем и ограничений в области цифровой грамотности (Comin & Hobijn, 2011). Культурные особенности влияют на политические решения, поведение в обществе и международные отношения.

Глубоко укоренившиеся общественные нормы, исторический контекст и национальные (региональные) идеологии и политика формируют основу для различий в культурных и этических ценностях в разных странах. В табл. 1 показаны различия ключевых культурных аспектов разных стран.

Эти элементы в значительной степени влияют на формирование политики регулирования ОИИ, способствующей межкультурному сотрудничеству и созданию универсальных моделей регулирования ОИИ. Они также могут обеспечить строгое соответствие указанной политики ожиданиям и ценностям общества.

2. Действующие положения «права на объяснение» в крупнейших странах «Большой двадцатки»

«Право на объяснение» стало предметом пристального внимания в связи с расширением правовых и этических дискуссий о системах искусственного интеллекта. Многие исследователи придерживаются мнения, что право на объяснение не всегда отвечает принципам практичности и достаточности (Edwards & Veale, 2018; Taylor, 2023; Doshi-Velez et al., 2017). Этот механизм был создан в развитых странах, а именно в ЕС, для устранения сложностей в процессе принятия решений с использованием искусственного интеллекта. При этом развивающиеся страны сталкиваются с множеством препятствий, включая юридические и технические, при внедрении права на объяснение в существующее законодательство. Практическая реализация этого права остается сложной задачей для развивающихся стран. Хотя предусмотренное законом «право на объяснение» является мощным механизмом, позволяющим человеку понимать и оспаривать решения автоматизированных систем, его эффективность зависит от создания дополнительных механизмов, таких как оценка воздействия и судебный надзор. Чтобы избежать возможной необъективности и дискриминации при автоматизированном принятии решений, некоторые государства – члены ЕС включили в свое национальное законодательство обязательную оценку влияния таких решений (Malgieri, 2019). Судебный надзор обеспечивает дополнительный уровень контроля и подотчетности и соблюдение справедливости при автоматизированном принятии решений (Gacutan & Selvadurai, 2020; Malgieri, 2019).

Сложности машинного языка ограничивают возможности разработчиков и операторов ИИ по предоставлению содержательных и понятных объяснений для непрофессионалов. Это требует сбалансированного подхода, при котором ни чрезмерный контроль, ни невмешательство не будут препятствовать разработке систем искусственного интеллекта. Использование ИИ в таких секторах, как государственное управление и здравоохранение, должно соответствовать стандартам безопасности, прозрачности и подотчетности в различных социально-технических и правовых контекстах.

В табл. 2 обобщена информация о положениях права на объяснение в законодательстве крупнейших стран «Большой двадцатки» и об отраслях, в которых в настоящее время осуществляется или планируется работа ОИИ.

3. Оценка применимости доктрины PEEC к объяснимому искусственному интеллекту в крупнейших странах «Большой двадцатки»

Существуют различные подходы к регулированию искусственного интеллекта и конкретных мер в этой области. Эти подходы отражают уникальный социально-культурный и политический ландшафт каждой страны. Обосновать их помогает качественная оценка доктрины PEEC, предложенной в работе Bhatt & Bhatt (2023). Меры регулирования ИИ в разных странах определяются их соответствующими социокультурными приоритетами и идеологиями управления. Соответствующим образом должны оцениваться и элементы концепции PEEC, а именно: общественные интересы, экологическая устойчивость, экономическое развитие и уголовное законодательство.

Общественные интересы в разных странах также различаются. Соединенные Штаты уделяют первостепенное внимание защите прав потребителей, Германия – конфиденциальности данных, в то время как Индия и Япония больше нацелены на достижение социальной гармонии и равноправного доступа. Бразилия и Россия стремятся бороться с недостатками в управлении и обеспечивать государственную безопасность. Что касается экологической устойчивости, такие страны, как Соединенные Штаты и Германия, стараются использовать искусственный интеллект для инноваций в частном секторе и повышения производительности и эффективности промышленности. Япония и Индия более склонны к достижению долгосрочных целей в области интеллектуального планирования городов и управления водными ресурсами. И Бразилия, и Россия понимают, что системы искусственного интеллекта могут помочь достичь экологической устойчивости. Бразилия сосредоточена на борьбе с климатическими проблемами, в то время как российский подход больше ориентирован на энергетический сектор.

В экономическом плане Россия и Бразилия преуспевают благодаря государственным инновациям и технологической модернизации, в то время как Соединенные Штаты и Германия поддерживают инновации и уделяют особое внимание охране труда. Япония и Индия отдают приоритет развитию робототехники и финансовых технологий. Использование искусственного интеллекта в уголовном законодательстве также значительно различается. В то время как Соединенные Штаты балансируют между безопасностью и личной свободой, Германия делает упор на надзор. Япония использует искусственный интеллект с системой сдержек и противовесов. Индийский подход заключается в разработке гарантий. Бразилия уделяет приоритетное внимание решению существующих проблем, а Россия – безопасности через системы наблюдения. Это разнообразие подходов подчеркивает сложные взаимосвязи, которые следует учитывать при разработке ОИИ во всем мире.

Целесообразно оценить, насколько принципы PEEC, предложенные Bhatt & Bhatt в 2023 г., способны обеспечить такое положение, чтобы регулирование ОИИ оставалось эффективным, учитывало контекст и соответствовало ожиданиям общества во всем мире. В табл. 3 показано соответствие принципов PEEC требованиям разработки ОИИ в ключевых экономиках «Большой двадцатки».

4. Развитие интегрированных ключевых показателей эффективности в сфере объяснимого искусственного интеллекта

Чисто технический или количественный подход не может полностью охватить всю сложность, субъективность и этические аспекты системы регулирования ОИИ. Для создания действительно всеобъемлющей и надежной системы необходимо активно изучать и учитывать различные точки зрения всех заинтересованных сторон. Одним из интересных подходов к решению проблемных ситуаций различного характера, особенно связанных с человеческими системами, является методология мягких систем (ММС) (Checkland & Poulter, 2020).

Методология мягких систем позволяет пользователям организовать свое взаимодействие со сложными техническими, политическими и социокультурными проблемами и искать их комплексные решения. Интеграция принципов PEEC и ММС может стать мощным инструментом для разработки интегрированных ключевых показателей эффективности для практического регулирования политики в отношении ОИИ.

Чтобы по-настоящему разобраться в тонкостях объяснимости систем искусственного интеллекта, необходимо выйти за рамки чисто технических аспектов. Авторы предлагают новый подход к разработке комплексных ключевых показателей эффективности (KPI), которые учитывали бы общественные интересы, экологическую устойчивость, экономическое развитие и уголовное правосудие посредством структурированной процедуры ММС для целостной оценки влияния ИИ на социальные, экономические, политические и правовые режимы. На рисунке показана концептуальная модель, предлагаемая для достижения указанной цели.

Для разработки надежных и универсально приемлемых ключевых показателей эффективности для ОИИ мы использовали подход ММС, в котором объединены ключевые аспекты общественных интересов, экологической устойчивости, экономического развития, правовых вопросов и управления. Структурированные и устойчивые процессы, характерные для ММС, гарантируют, что разработанные ключевые показатели эффективности будут соответствовать различным культурным и правовым контекстам. На первом этапе была проведена тщательная идентификация проблем прозрачности ИИ в различных условиях. Во-вторых, был проведен всесторонний обзор существующей политики, научных исследований и новостных статей по теме ИИ; этап критического всестороннего анализа позволил наглядно отобразить ожидания ключевых заинтересованных сторон в области ИИ, а именно: официальных лиц, общественности, отраслевых экспертов и юристов. В-третьих, для уточнения «Направлений и областей воздействия PEEC» мы использовали определение корневых понятий и моделирование концепции. На этом этапе было обеспечено соответствие данной концепции различным аспектам социально-экономической, правовой, этической и экологической устойчивости. В-четвертых, мы провели сравнительный анализ для подтверждения применимости регулирования ИИ в реальных условиях. Наконец, итеративный уточняющий цикл помог обеспечить, чтобы разработанные ключевые показатели эффективности не только соответствовали потребностям, но и были практически реализуемы, что упрощает сбор данных и позволяет использовать измеримые критерии. В табл. 4 представлена предлагаемая комплексная структура ключевых показателей эффективности для ОИИ.

Для решений с высокой степенью риска, когда отсутствие объяснимого решения чревато серьезными последствиями, мы предлагаем установить «Индекс прозрачности и доверия» (Clarity and Trust Index, CTI; далее – ИПД) на уровне от 90 до 100 % в зависимости от предъявляемых требований. Для рутинных автоматизированных решений значение ИПД может составлять от 50 до 80 %, а для стратегических решений – от 70 до 90 %.

В идеале предлагаемый «Индекс снижения предвзятости» (BRI) должен составлять 100 %, хотя в большинстве случаев его значение выше 90 % будет приемлемым. Теоретически «Индекс углеродного следа ИИ» (AICFI) должен быть как можно ниже. Однако он также может меняться в соответствии с Целями устойчивого развития ООН. Большинство стран стремились бы, чтобы показатель «Соотношение социально-экономических выгод и затрат в области ИИ» (ASEBC) был выше 1,0, однако следует направить усилия на максимизацию реальных социально-экономических выгод в чистом выражении. Показатель «Оценка культурной и правовой подотчетности» (CLAS) в идеале должен составлять 1,0, хотя в большинстве случаев ожиданиям общественности будет соответствовать значение, превышающее 0,9. Осуществимость и желательность предлагаемых значений показателей KPI можно будет определить после тщательного анализа ситуации в каждой конкретной стране, при условии вовлеченности заинтересованных сторон и необходимого понимания факторов культурного контекста. Ответственность за разработку точных диапазонов, отражающих национальные условия и при этом остающихся приемлемыми в глобальном масштабе, лежит на директивных органах. Такой подход будет способствовать реализации истинного потенциала систем ОИИ на благо человечества.

Эффективная корректировка предлагаемых ключевых показателей с учетом специфики конкретной страны позволит оптимизировать их для универсального использования. Хотя все пять ключевых показателей эффективности актуальны для крупнейших стран «Большой двадцатки», их относительная важность зависит от социально-культурного и правового контекста конкретной страны. Давно идущие споры о регулировании и корпоративных инициативах в США требуют более высокого CTI. В то же время в Германии положения GDPR предполагают необходимость более высоких значений для показателя BRI и более низких – для AICFI. Политика Бразилии и Индии в большей степени ориентирована на более высокий уровень CLAS и ASEBC. Российская политика направлена на использование искусственного интеллекта в управлении и, таким образом, на более высокий уровень ASEBC, а также четкую стратегическую направленность на поддержание национального суверенитета и целостности.

Заключение

Различия в культурных, этических, социально-экономических и правовых подходах, которые выбирает общество, ставят перед директивными органами сложную задачу по разработке регулирующей системы ОИИ, соответствующей международным требованиям. Эти факторы, по сути, определяют успех или неудачу норм ОИИ. Поиск путей прогресса требует внимания не только к технологическим, но и в первую очередь к человеческим аспектам. Такие аспекты, как право на объяснение, общественные интересы, экологическая устойчивость, экономическое развитие и уголовное правосудие (PEEC), являются основополагающими и всегда будут оставаться центральными для регулирования технологий искусственного интеллекта.

В данном исследовании предлагается новая модель регулирования ОИИ, основанная на ключевых показателях эффективности и принципах PEEC и использующая структурированный подход методологии мягких систем. Чтобы по-настоящему использовать потенциал предлагаемой модели ключевых показателей эффективности, страны должны установить соответствующие национальным стандартам диапазоны показателей, которые имели бы международное значение. Помимо устранения проблем регулирования ОИИ в контексте различных культурных, этических и правовых норм, предлагаемая модель гарантирует, что система регулирования ОИИ должным образом учитывает человеческие аспекты, поскольку она стремится использовать истинный потенциал искусственного интеллекта. Этот подход поможет максимально эффективно использовать ИИ на благо общества в будущем.

В работе рассматриваются только культурные различия крупнейших стран «Большой двадцатки». Дальнейшие исследования должны охватывать более широкий спектр вопросов, включая другие развитые и развивающиеся страны, чтобы сделать регулирующую систему ОИИ адаптируемой к различным национальным и глобальным требованиям.