Конституционно-правовой аспект создания больших языковых моделей: проблема цифрового неравенства и языковой дискриминации

Введение

Большие языковые модели (англ. Large Language Models, LLM) – это генеративные модели искусственного интеллекта используемые в технологии обработки естественного языка (англ. Natural language processing, NLP). Наличие таких моделей позволяет компьютеру эффективно обрабатывать текстовые данные, демонстрируя способность к «пониманию» текста на глубоком уровне, создавать связные и контекстуально релевантные ответы на запросы, осуществлять перевод текста между языками, а также генерировать текст, который соответствует определенным стилевым и содержательным требованиям (Glauner, 2024). В качестве примеров больших языковых моделей можно, например, выделить BERT¹, GPT-3² и связанные с ними цифровые продукты, такие как «Гугл Ассистент» (англ. Google Assistant), «Чат ДжиПиТи» (англ. ChatGPT).

Большие языковые модели обучаются на обширных массивах языковых данных, включая структурированные лингвистические корпуса: базы данных, содержащие разнообразные тексты (книги, текстовые транскрипции, переводы и т. д.) и аудиофайлы (аудиокниги, записи трансляций, подкасты, другой аудиоконтент). Структура и репрезентативность таких данных, их объем и формат определяют процесс обучения и точность понимания контекста (Ilin, 2024), а наличие дефектов³ или недостаточность данных может приводить к некорректной работе модели и в целом препятствовать развитию технологии (Hacker, 2021). Таким образом, возможность создания качественной языковой модели будет напрямую зависеть от объема, репрезентативности и других качественных характеристик обучающих данных для соответствующего языка.

Вместе с тем уровни цифровизации языков – объем существующих лингвистических корпусов и данных для их создания – существенно отличаются друг от друга. Для некоторых языков или диалектов данные могут быть крайне ограниченными или вообще отсутствовать. Это препятствует разработке точных и эффективных языковых моделей, что замедляет их цифровое развитие и ограничивает интеграцию в современные технологии. Например, если набор данных недостаточно полон и не охватывает все варианты диалектов определенного языка, модель может неверно или неточно обрабатывать входящие запросы, а в некоторых случаях вообще не функционировать. Различия в произношении, лексике и грамматике могут приводить к ошибкам в распознавании и анализе текста или речи, снижать качество результатов.

Невозможность создания полноценной языковой модели для определенных языков или их диалектов приводит к недоступности множества цифровых продуктов для носителей этих языков или существенно ухудшает качество их работы по сравнению с тем, как те же технологии функционируют для носителей языков с высоким уровнем цифровизации. В итоге возникает цифровое неравенство, при котором доступ к современным технологиям распределяется неравномерно среди различных языковых сообществ, что, в свою очередь, усиливает риск дискриминации.

Цель настоящей статьи – проанализировать конституционно-правовые аспекты создания больших языковых моделей в контексте цифрового неравенства и языковой дискриминации. Для достижения этой цели будет исследовано, как цифровое неравенство воздействует на конституционные права человека, а также проанализированы риски языковой дискриминации, связанные с созданием больших языковых моделей.

Статья содержит основные результаты соответствующего исследования, а также направления для дальнейшего изучения проблемы. Текст предложенной исследовательской работы разделен на три тематические части, дополненные введением и заключением. В первой части анализируется проблема цифрового неравенства в контексте различного уровня цифровизации языков – объема и репрезентативности языковых данных. Вторая часть рассматривает языковую дискриминацию как потенциальную форму проявления цифрового неравенства с акцентом на проблему неравного доступа к технологиям обработки естественного языка (NLP). В третьей части проблема языковой дискриминации концептуализируется во взаимосвязи с другими правами человека и в контексте развития цифровых технологий.

1. Цифровизация языков как источник цифрового неравенства: технико-правовой анализ

Цифровое неравенство представляет собой одну из форм социального неравенства, характеризующуюся неравным доступом к информационным технологиям и различиями в уровне навыков их использования среди отдельных лиц и социальных групп (Мушаков, 2022). Это явление охватывает широкий спектр факторов, включая различия в техническом оснащении, доступ к интернет-ресурсам, уровень цифровой грамотности и образовательные возможности, что, в свою очередь, ведет к социальному и экономическому разделению (Rogers, 2016). Необходимость устранения разрывов в доступе к цифровым технологиям для достижения более равного и инклюзивного общества неоднократно отмечалась как на национальном⁴, так и на международном⁵ уровне.

В контексте создания больших языковых моделей проблема цифрового неравенства выражается в ограниченной возможности носителей языков с низким уровнем цифровизации использовать цифровые продукты на своем языке. Это приводит к неравному доступу отдельных людей или социальных групп к технологиям обработки естественного языка (NLP). Следствием чего могут стать ограничения в доступе к информации, образованию, социальным услугам для носителей таких языков. Например, способность контекстного понимания текста и генерации соответствующих ответов способствует активному применению этой технологии в таких сферах, как образование и здравоохранение (Jiang et al., 2023; Sohail & Zhang, 2024). Отсутствие поддержки определенных языков в данных областях может негативно сказаться на возможности реализации соответствующих конституционно гарантированных прав: права на доступ к образованию⁶ и медицинской помощи⁷, ограничивая доступность и качество данных услуг. В этой связи представляется логичным рассматривать проблему цифрового неравенства с точки зрения конституционно-правовых отношений: концепций «равенства» и запрета на дискриминацию⁸.

Можно также согласиться с некоторыми исследователями, что конституционные нормы, обеспечивающие равенство перед законом и доступ к услугам, должны учитывать и устранять неравенство в доступе к цифровым ресурсам, поскольку это напрямую влияет на способность граждан реализовывать свои права и свободы в цифровую эпоху (Мушаков, 2022).

Для создания эффективной языковой модели необходим набор обучающих данных, который должен соответствовать таким критериям, как объем, репрезентативность⁹, и другим качественным характеристикам. Эти параметры напрямую зависят от уровня цифровизации конкретного языка, поскольку чем выше степень цифровизации, тем более разнообразные и качественные данные могут быть использованы для обучения модели.

Цифровизация языка в широком смысле – это преобразование данных в соответствующие электронные лингвистические корпуса. Для этого используются текстовые данные (например, файлы, транскрипции, аннотации), речевые данные (например, аудиозаписи, фонетические и интонационные аннотации) и мультимодальные данные (т. е. данные, сочетающие в себе сразу несколько видов, например, видео и текстовые данные, изображения и текст и т. д.) (Dash & Arulmozi, 2018). Следует отметить, что этот процесс не только содействует развитию технологий и цифровой трансформации общества, но еще играет важную роль в сохранении национальной и культурной идентичности (Kelli et al., 2016). Например, цифровизация миноритарных языков может значительно способствовать сохранению культурного наследия малых народов.

Несмотря на важность цифровизации для технологического прогресса и высокую социальную значимость данного процесса, уровень цифровизации языков, их диалектов и наречий остается неравномерным. Можно выделить экономические, технические, а также правовые факторы, ограничивающие или препятствующие цифровизации языков.

Экономические факторы связаны с тем, что языки имеют разный экономический потенциал (Alarcón, 2022; Monteith & Sung, 2023), а процесс цифровизации требует значительных ресурсов, в том числе временных, финансовых и т. д. В этой связи разработка лингвистических корпусов для некоторых языков может оказаться экономически нецелесообразной. Технические факторы связаны непосредственно с процессом создания лингвистических корпусов. К таким факторам может отнести ошибки при сборе данных, недостатки в конструкции корпусов и ограничения существующих наборов данных, ошибки в метаданных и т. д. (Solovyev & Akhtyamova, 2019; Doğruöz et al., 2023; Li et al., 2024). Правовые факторы связаны с наличием нормативных ограничений на доступ к обучающим данным и необходимостью соблюдения соответствующего правового режима при их использовании для обучения.

В предыдущих работах автора подробно рассматривались вопросы регулирования доступа к обучающим данным (Ilin, 2024), а также соблюдения их правовых режимов, таких как режим персональных данных (Ilin, 2020) и режим объектов интеллектуальной собственности (Ilin, 2022; Ilin & Kelli, 2019, 2024). Центральной проблемой данных исследований явилась проблема конфликта между одинаково охраняемыми правами человека при использовании обучающих данных, например права на недискриминацию¹⁰ и права на защиту неприкосновенности частной жизни, личную и семейную тайну¹¹. Преодоление этой проблемы необходимо как на концептуальном уровне (устранение нормативных барьеров для доступа к данным с учетом баланса частных и публичных интересов), так и в практическом плане (создание условий для распространения и обмена языковыми данными, например, при помощи развития института повторного использования данных, накопленных в государственных информационных системах (далее – ГИС) или привлечения высших учебных заведений для создания лингвистических корпусов и цифровизации языка).

Согласно аналитическому докладу Счетной палаты РФ¹², на 2020 г. в России уже функционировало более 800 федеральных государственных информационных систем, обеспечивающих обмен данными между государственными органами в различных областях общественной жизни. Эти системы охватывают широкий спектр информации, включая статистические данные, а также сведения о здравоохранении, образовании и других ключевых секторах. В этом контексте использование данных из ГИС для создания лингвистических корпусов представляется особенно перспективным направлением. Несмотря на различия в уровне разработки этих систем, можно ожидать, что собранные в них данные будут обладать необходимыми качественными характеристиками, а их многообразие способно обеспечить необходимые репрезентативность и объем (Ilin, 2024). Тем не менее, учитывая риски, связанные с правовыми ограничениями на использование данных, повторное использование должно осуществляться в соответствии с едиными принципами и нормами регулирования. Эти нормы должны включать законодательные стандарты и механизмы контроля, учитывающие специфику каждого типа данных и соответствие целям их первоначального сбора.

Другим возможным решением проблемы доступа и нехватки языковых данных является использование высших учебных заведений для создания и последующего распространения лингвистических корпусов. Участие университетов в цифровизации языка может быть также оправдано и с учетом социальной значимости данного процесса. В качестве примеров успешного сотрудничества между коммерческими организациями и высшими учебными заведениями в области обработки естественного языка можно отметить совместную академическую программу Группы компаний «Центр речевых технологий» с Национальным исследовательским университетом ИТМО (Ilin & Dedova, 2019).

Вместе с тем, хотя это и решает проблему создания лингвистических корпусов, вопрос их дальнейшего распространения остается открытым. Например, университет может по различным причинам не проявлять интерес к дальнейшему распространению лингвистического корпуса или не иметь для этого необходимых ресурсов и, соответственно, не заниматься его распространением. Вызывает также вопросы и возможность университетам, работающим по концепции предпринимательского университета и коммерциализирующим свои результаты, например через спин-офф компании, полагаться на доктрину свободного использования произведений¹³ при обработке языковых данных. Все эти вопросы требуют дальнейшего тщательного анализа как с правовой, так и с других точек зрения.

2. Языковая дискриминация как форма цифрового неравенства

Поскольку применительно к разработке больших языковых моделей цифровое неравенство приводит к неравному доступу отдельных людей или социальных групп к технологиям обработки естественного языка (NLP) – невозможности в полной мере использовать данную технологию на своем языке, – проблему цифрового неравенства в первую очередь следует рассматривать в контексте языковой дискриминации.

Сама по себе проблема дискриминации со стороны систем искусственного интеллекта, хотя и не является новой, но остается актуальной и на сегодняшний день. Развитие и активное внедрение искусственного интеллекта в различные области жизни открывает новые направления для обсуждения данной проблемы, например проявления дискриминации системами искусственного интеллекта в области трудовых отношений (Morin, 2024), влияние метода профилирования¹⁴ на человеческое достоинство (Orwat, 2024), потенциальное влияние искусственного интеллекта на дискриминацию по признаку этнической принадлежности, религии и пола (Ozkul, 2024) и т. д.

Кроме того, с увеличением автономности искусственного интеллекта и развитием генеративных моделей дискриминация начинает приобретать неявный характер, что позволяет разделять проявление дискриминации на прямую и косвенную. Например, в отличие от явных случаев дискриминации, наблюдаемых в системах предсказательной аналитики преступности, таких как алгоритмы «ПредПол» (англ. PredPol)¹⁵ и «КОМПАС» (англ. COMPAS)¹⁶, проявления дискриминации в генеративных системах искусственного интеллекта могут быть менее очевидными. Эти системы могут, например, преимущественно создавать образы белых мужчин в ответ на повторяющиеся запросы о примерах людей, занятных на важных профессиях, что потенциально будет приводить к кумулятивным дискриминационным эффектам (Hacker et al., 2024). В таких случаях обнаружение дискриминации становится сложным, так как она может не иметь явного или очевидного характера, но тем не менее оказывает значительное влияние на представление и восприятие различных групп в обществе.

Национальная стратегия развития искусственного интеллекта на период до 2030 г.¹⁷ (далее – Стратегия) подчеркивает, что защита прав и свобод человека является одним из основных принципов развития и использования технологии искусственного интеллекта¹⁸, а «недискриминация» выделена в качестве одного из основных принципов развития нормативно-правового регулирования общественных отношений, связанных с развитием и использованием технологий искусственного интеллекта¹⁹.

Статья 2 Всеобщей декларации прав человека (1948)²⁰ устанавливает запрет на дискриминацию, в том числе по языковому признаку. Аналогичное положение содержится и в ст. 1 (3) Устава ООН²¹, а также находит свое отражение в п. 2 ст. 19 Конституции РФ, согласно которому государство гарантирует равенство прав и свобод человека и гражданина независимо от языка.

В области языковой дискриминации выявляются несколько ключевых аспектов, связанных с ее признанием, правовой защитой и общественным восприятием. Одной из основных проблем является недостаточная признанность языковой дискриминации на международном уровне. Например, дискриминация по признаку голоса часто остается незамеченной (Baugh, 2023), что может оказаться критичным при взаимодействии с технологией распознавания речи и голоса и связанных с ними цифровых продуктов: систем интерактивного ответа и голосовых помощников.

Комитет ООН²² по правам человека неоднократно рассматривал проблему языковой дискриминации, однако его судебная практика недостаточно развита и не обеспечивает надежной защиты языковых меньшинств (Möller, 2011). Нормативно-правовая база на различных уровнях также часто не учитывает все нюансы языковой дискриминации. Законодательство на международном, региональном и национальном уровнях, как правило, не предоставляет достаточной защиты прав языковых меньшинств, что приводит к пробелам в правовой защите пострадавших (Chilingaryan et al., 2020).

Дискриминация по языковому признаку может быть определена как любое неоправданное различие или ограничение, которое ослабляет или исключает возможность реализации прав, закрепленных в международных или национальных нормативных актах, на основе языковой принадлежности. Вместе с тем необходимо добавить, что государства также несут позитивные обязательства по защите и поощрению языковых прав в рамках своего обязательства соблюдать права человека²³, в связи с чем в контексте создания больших языковых моделей представляется необходимым расширить определение языковой дискриминации, включив в него действия, направленные на препятствование сохранению или развитию языков меньшинств. Если суть первой части определения заключается в том, что языковая дискриминация возникает, когда человек испытывает худшее обращение по сравнению с другими в аналогичной ситуации из-за недостаточного или полного отсутствия владения официальным языком, установленным в данном государстве или регионе, то вторая часть будет относиться к более глубокому аспекту данной проблемы – выполнению государствами своих юридических обязательств по защите и продвижению языков меньшинств, установленных международными конвенциями и национальным законодательством. При этом необходимо отметить, что расширение понятия языковой дискриминации скорее будет отражать перспективу, к которой стремится судебная практика и научная дискуссия, чем текущее восприятие проблемы правоприменителями и юристами.

3. Проблема квалификации и критерии оценки языковой дискриминации

Неоднозначность в определении языковой дискриминации затрудняет правоприменение и порождает вопросы о критериях, применяемых при оценке этих ситуаций. Как было отмечено ранее, языковая дискриминация возникает, когда к людям обращаются неодинаково из-за их владения языком или акцента, что часто приводит к ограничению доступа к возможностям и правам (Миронова, 2019). Однако языковая дискриминация – это многогранная проблема, отличающаяся от других форм дискриминации, таких как расовая или религиозная, и зависящая от различных факторов. Анализ существующей практики позволяет выделить ряд ключевых факторов для определения языковой дискриминации. Во-первых, это численность носителей языка: уровень дискриминации часто определяется распространенностью языка в обществе. Например, в Камеруне англоязычное меньшинство сталкивается с системной дискриминацией из-за своей небольшой численности по сравнению с франкоязычным большинством (Donard, 2023).

Другим важным фактором является способность государства поддерживать многоязычие. Чем активнее государство создает условия для изучения и использования нескольких языков, тем ниже вероятность языковой дискриминации. Например, исследования показывают, что поддержка многоязычия в образовательных учреждениях способствует уменьшению уровня дискриминации на языковой основе (Page, 2023).

Также большое значение имеет использование языков меньшинств в общественной жизни. Когда эти языки не получают институциональной поддержки, их носители часто оказываются маргинализированы, что усиливает существующее социальное неравенство.

Кроме того, следует учитывать, что языковая дискриминация может пересекаться с другими формами дискриминации, такими как расовая, религиозная или этническая. В таких случаях люди подвергаются комплексным формам дискриминации, что значительно усугубляет проблему (Drożdżowicz & Peled, 2024). Для того чтобы проиллюстрировать комплексность проблемы, рассмотрим кратко некоторые из таких пересечений.

Непредоставление равного доступа к услугам на родном языке может нарушить право на равенство, создавая барьеры, которые мешают полноценному участию в жизни общества²⁴. Эти барьеры, например, могут влиять на право на образование²⁵, ограничивая доступ к образовательным ресурсам и материалам на родном языке, что может снижать качество образования и ограничивать образовательные возможности.

Кроме того, языковая дискриминация затрагивает право на свободу выражения²⁶. Люди должны иметь возможность свободно выражать свои мнения на языке, который они предпочитают, и ограничения в этом могут рассматриваться как нарушение этого основополагающего права. Языковая дискриминация также влияет на культурные права, так как язык является ключевым элементом культурной идентичности и самовыражения. Ограничение использования языка меньшинств в культурных и общественных контекстах может подорвать культурные права этих сообществ и их возможность сохранять и развивать свою культурную идентичность.

Доступ к правосудию также может быть затруднен языковыми барьерами, так как необходимость понимания и участия в судебных разбирательствах на родном языке является критически важной для обеспечения справедливого правосудия²⁷. Языковые барьеры могут препятствовать правильному пониманию обвинений, судебного процесса или правовых решений, что может привести к несправедливым результатам.

Таким образом, несмотря на возможность выделить факторы для оценки языковой дискриминации, правовая квалификация таких случаев в контексте цифровых технологий вызывает определенные трудности. Например, необходимо выяснить, можно ли считать ошибки в работе языковой модели проявлением дискриминации. Такие ошибки часто трудно обнаружить, поскольку проявление дискриминации может быть скрытым, что делает ее менее очевидной в процессе анализа. Дискриминация в моделях может быть следствием алгоритмической или человеческой предвзятости. Алгоритмическая возникает из-за ограничений или искажений в данных, на которых обучается модель, тогда как человеческое предвзятое отношение может проявиться в процессе разработки и настройки алгоритмов (Харитонова и др., 2021). Обе формы предвзятости могут не только влиять на точность и справедливость решений, но и поддерживать или усугублять существующие социальные неравенства, что в конечном счете может привести к дискриминации. Разграничение между ошибками и дискриминацией требует глубокого анализа, поскольку ошибки могут быть случайными, а могут быть результатом системных предвзятостей. Важным является понимание того, как предвзятость, и алгоритмическая, и человеческая, влияет на процесс принятия решений и насколько она интегрирована в алгоритмы и модели. Это понимание необходимо для разработки более справедливых и инклюзивных цифровых систем.

Заключение

Цель настоящей статьи заключалась в анализе конституционно-правовых аспектов создания больших языковых моделей в контексте цифрового неравенства и языковой дискриминации. В ходе исследования было установлено, что цифровое неравенство в контексте больших языковых моделей обусловлено неравномерным уровнем цифровизации языков и проявляется в ограниченном доступе к технологиям обработки естественного языка. Такой неравный доступ может негативно повлиять на реализацию конституционно гарантированных прав и требует рассмотрения через призму концепций «равенства» и запрета на дискриминацию. В свою очередь, выявление и правовая квалификация языковой дискриминации в процессе создания больших языковых моделей представляют собой сложную задачу, поскольку предвзятости в моделях могут проявляться на скрытом уровне и обладать кумулятивным дискриминационным эффектом. Дискриминация может быть вызвана как алгоритмической, так и человеческой предвзятостью. Алгоритмическая предвзятость возникает из-за ограничений или искажений в данных, на которых обучается модель, в то время как человеческая предвзятость может проявиться в процессе разработки и настройки алгоритмов. Разграничение этих категорий и оценка их влияния на процесс принятия решений становятся важными направлениями для будущих исследований, направленных на разработку механизмов, обеспечивающих равный доступ к цифровым технологиям и защиту языковых прав.