«Чисто крысиная страна» – размышления о решении по делу 2022-001-FB-UA Наблюдательного совета Фейсбука (Дело мультфильма о городе Книн)

Введение

В конце 2018 г. профессор Гарвардской школы права Ноа Фельдман выдвинул идею квази Верховного суда¹, которую позднее подхватил глава компании «Мета»* (в то время «Фейсбук»*) Марк Цукерберг (Klonick, 2020; Douek, 2021). Несмотря на определенную критику относительно возможных проблем с надзором и объективностью (Sale, 2022), в компании был создан Совет, позиционировавшийся как независимый, законный и официальный (Bayer, 2022) институт саморегулирования (Bayer, 2022; Klonick, 2020), призванный обеспечить соблюдение компанией баланса между принципом свободы выражения мнений и соответствующими ценностями (такими как свобода слова, безопасность, защита неприкосновенности частной жизни) (Pickup, 2021). Что касается саморегулирования, Medzini предлагает использовать выражение «способствует саморегулированию», чтобы подчеркнуть факт делегирования обязанностей по регулированию в дополнение к классическим механизмам посредничества (Medzini, 2022). При этом определение Наблюдательного совета как Верховного суда (Cowls & Dominiquo-Schramm, 2022) представляется преувеличением или даже наивностью (Schultz, 2021), ведь этот независимый орган, учрежденный компанией «Мета»*, использует Стандарты сообщества «Фейсбук»* (Pickup, 2021) наряду с международным законом о правах человека и относящимися к нему положениями (например, международными принципами в области прав человека) (Vukčević, 2021; Benesch, 2020; Helfer & Land, 2022); поэтому актуальность и важность понимания, изучения и проверки решений Наблюдательного совета представляются более насущными, чем когда-либо ранее. Нужно учитывать, что, несмотря на договорной характер отношений между пользователями и «Фейсбуком»* (Schultz, 2021; Bayer, 2022), структура власти в сфере свободы выражения мнений, как верно отмечает Schultz (Schultz, 2021), кардинально изменилась после введения Наблюдательного совета. Хотя решения Наблюдательного совета направлены на поддержание ответственности компании «Мета»* за ее решения и осуществляемые меры (O’Kane, 2022), а значит, являются обязательными исключительно для «Фейсбука»* (Wong & Floridi, 2022), однако этот орган уникален в отношении степени своего воздействия, несмотря на критическую позицию «Фейсбука»* относительно выражения мнений в сети и коммуникации в целом (Wong & Floridi, 2022). Как признает Schultz (Shultz, 2021), «члены Наблюдательного совета – не только ‘судьи’: они также частично ответственны за свое законодательство. Это уникальная концентрация власти над доступом к свободе выражения мнений для миллиардов людей. Никогда в истории человечества такой узкий круг людей не обладал такой властью над возможностью такого количества других людей быть услышанными». Такая гигантская власть над жизнями людей (Chander, 2012) и соблюдением прав человека неразрывно связана с ожиданиями публики: в частности, способен ли Наблюдательный совет разрешить спор, порожденный цифровизацией коммуникации, – например, относительно языка ненависти в сети или кибербуллинга (Pongó, 2020)²? Ответ на этот вопрос в настоящее время далеко не однозначен, ведь Наблюдательный совет склонен придерживаться более консервативного подхода в ситуациях, подобных вышеописанной: лишь мизерное количество дел вообще доходит до Совета (Wong & Floridi, 2022; Nunziato, 2022), а юридическое обоснование по ним зачастую является теоретическим. Такие дела основываются на абстрактных или общих принципах (Kulick, 2022). Хотя Совет часто принимает на рассмотрение основополагающие и неоднозначные дела (Takhshid, 2021) (см., например, решение о Черном Пите (Zwarte Piet) как квази фундаментальное решение по проблеме чернокожих³ или решение по делу о дезинформации относительно COVID-19⁴), большинство дел касается языка ненависти (Wong & Floridi, 2022) и реакции на него со стороны «Фейсбука»*. В данной статье мы обсудим так называемое дело мультфильма о городе Книн⁵, которое относительно недавно – в марте 2022 г. – было отобрано для рассмотрения в Наблюдательном совете⁶ в результате требования пользователя «Фейсбука»* удалить видеоролик, переделанный из диснеевского мультфильма, в котором сербы изображен в виде крыс⁷.

1. Детали дела мультфильма о городе Книн

Данное дело было отобрано для обсуждения в Наблюдательном совете в марте 2022 г. по обращению пользователя в соответствии с официальным порядком отбора трех дел для слушания в Наблюдательном совете. Вызвавший это обращение пост содержал видеоролик, опубликованный на странице «Фейсбука»* в Хорватии (pretjerivač). Поскольку ролик был на хорватском языке, компания Мета перевела содержание основного поста. В этом переводе ролик назывался «Дудочник из Чавоглаве и крысы из города Книн». Прежде чем рассматривать детали дела, необходимо дать контекстуальную интерпретацию основных его факторов. Чавоглаве – небольшая деревушка в далматинской провинции на юге Хорватии. По результатам хорватской переписи 2020 г., в ней жило 190 человек⁸.

Хорваты очень гордятся деревней Чавоглаве, так как группа «Томпсон» (хорватская рок-группа под управлением Марко Перковича) написала о ней патриотическую песню хорватских националистов (которую некоторые считают идеологическим призывом (Robionek, 2017))⁹. Эта песня стала символом для Хорватии (Robionek, 2017), и деревня приобрела широкую известность в стране (Melichárek, 2015). Книн – город с населением около 8 000–10 000 человек, расположенный недалеко от Чавоглаве на юге Хорватии. Он был крупнейшим городом в эпоху Средневековья, а также известен как крепость сербов во время вышеупомянутой войны. Кроме того, в 1991 г. Книн короткое время был столицей непризнанного сербского военного округа – Республики Сербская Краина (Leutloff-Grandits, 2008). Сербы исторически проживали в Книне. Перед войной около 80 % населения называли себя сербами. Эта ситуация резко изменилась после войны, и в 2021 г. всего 21,42 % населения стали именовать себя сербами (Leutloff-Grandits, 2008; Douek, 2020). В городе существует проблема национализма. 5 августа 2011 г. хорватское правительство отметило 16-ю годовщину операции «Буря», проведенной вооруженными силами Хорватии в августе–ноябре 1995 г. в регионе Краина и городе Книн¹⁰. Это была массированная наступательная военная операция против хорватских сербов (Banjeglav, 2015). Тысячи сербов были вынуждены бежать, и многие из них подвергались негуманному обращению со стороны хорватской армии (Banjeglav, 2015). Организация Amnesty International выразила озабоченность фактом прославления военных преступников и призвала Хорватию начать разбираться с последствиями войны (Banjeglav, 2015). Ситуация осложняется тем, что многие преступления так и не были расследованы, в том числе и совершенные в городе Книн, поскольку, по словам Vesna Terselic, главы Комитета Хорватии по правам человека, это не было приоритетом для судебной системы Хорватии¹¹. Хотя бывший мэр Marko Jelić попытался сгладить непростые отношения между сербами и хорватами¹², напряженность очевидна по сей день, служа основанием для многочисленных конфликтов (к примеру, недавно хорватское министерство иностранных дел потребовало публичных извинений от сербской делегации, посетившей Книн, за то, что они назвали город «сербским и оккупированным»¹³). Учитывая вышесказанное и в полном соответствии с Общими критериями отбора дел Наблюдательным советом¹⁴, мультфильм о городе Книн был обоснованно отобран для рассмотрения как содержащий язык ненависти в контексте давнего националистического конфликта между сербами и хорватами и проводящий историческую и культурную параллель между двумя городами.

Возвращаясь к делу мультфильма о городе Книн, необходимо изложить его детали¹⁵. Получившее печальную славу видео было переделано из диснеевского мультфильма «Гамельнский крысолов», основанного на известной германско-саксонской сказке. Ее главный герой – крысолов, который выманил крыс из города Хамельн, играя на своей волшебной дудочке. Исследователи полагают, что в этой сказке изображалась идея контроля над грызунами или борьбы с инфекциями (Singleton et al., 2003). В мультфильме показан город Хамельн, наводненный полчищами крыс. В видео на хорватском языке говорится, что крысы хотели жить в «чисто крысиной стране», поэтому они беспрестанно пытались выдавить людей из города. В первой части видео можно также увидеть явную провокацию – над воротами города хорошо читается надпись «Книн». Она наложена на оригинальное изображение. Поисковая система «Фейсбука»* не находит мультфильм о городе Книн, однако оригинальный мультфильм можно посмотреть на «Ютубе»; описанная сцена открывает мультфильм¹⁶. Далее зрители видят множество крыс, бегающих по городу; люди пытаются отогнать их метлами и палками. Затем показана сцена, где крысы мгновенно уничтожают огромное количество еды. Картина хаоса меняется при появлении дудочника из Чавоглаве. Сначала крысы не обращают на него внимания. Затем показано, как они высовывают языки, узнав о его появлении (рассказчик также сообщает о продолжении «великой крысиной агрессии»). В соответствии с первоначальным фольклорным сюжетом и видеорядом, крысолов начинает играть мелодию на своей волшебной дудочке. Крысы собираются огромными толпами, начинают танцевать на задних лапах, петь свою любимую песню и идут за крысоловом, который выводит их за пределы города.

Один из самых спорных моментов видео – это аудиосодержание, которое в качестве любимой песни крыс представляет песню в честь Момчило Джуича. Он был сербским православным священником и воеводой четников. Джуич сыграл решающую роль в организации сербского сопротивления во время Второй мировой войны. Однако с точки зрения хорватов его репутация не такая героическая, так как он и все четники были врагами хорватского государства (Ramet, 2011). Динарская четническая дивизия под руководством Момчило Джуича несет ответственность за тысячи кровавых преступлений против хорватских гражданских лиц в конце 1944 г. Среди них разграбление деревень, убийства, изнасилования, грабежи жителей¹⁷. Писатель и историк Михаэл Соболевски считает террористические действия четников в деревне Криви-Пут одной из самых страшных трагедий Второй мировой войны.

Когда последняя крыса покидает город Книн, люди выражают радость. Затем в мультфильме показан крысолов, ведущий крыс к трактору, появляющемуся на горизонте. Крысы садятся на трактор, и он исчезает. Крысолов радостно машет рукой вслед трактору (волшебному трактору, как саркастически замечает рассказчик), полному крыс, а рассказчик заканчивает видео, говоря, что крысы «навсегда исчезли из этих краев» и «все жили долго и счастливо». Трактор, на котором покидают город, – это также исторический символ. В 1995 г. во время операции «Буря» – спорной и неоднозначной военной акции хорватов – многие из 200 тысяч этнических сербов вынуждены были покинуть Хорватию на грузовиках и тракторах¹⁸. По словам журналистки Associated Press Юлианы Мойсилович, опубликованным в газете Los Angeles Times в 1995 г., это бегство было «эпичной сценой хаоса»¹⁹. Мойсилович в подробностях описала ее: «Растерянные люди с теми пожитками, что успели схватить, спасались на тракторах, автомобилях, телегах с лошадьми, велосипедах – на всем, что могло двигаться»²⁰. Также сообщалось, что дороги были забиты испуганными людьми, пытавшимися уехать на тракторах. В общине Топуско сербы и мусульмане набивались в машины (в основном трактора, автобусы и грузовики), чтобы иметь возможность просто покинуть Хорватию²¹. Таким образом, трактор является исторической метафорой страданий, террора и бесчеловечности, которые выпали на долю сербов в конце войны.

Что касается масштабов популярности поста, в тот момент у страницы было более 50 тысяч подписчиков, пост просмотрели более 380 тысяч раз. Несмотря на 397 обращений пользователей, из которых в 362 сообщалось о языке ненависти, компания «Мета»* решила не удалять контент. Это решение²² было оспорено в Наблюдательном совете, после чего «Мета»* провела дополнительную проверку (людьми), чтобы определить, нарушает ли данный контент Стандарты сообщества или политику относительно языка ненависти. После этой проверки также было принято решение не удалять контент. Примечательно, что когда было объявлено о полном разборе дела Наблюдательным советом, компания внесла два существенных изменения в модерацию данного мультфильма. Нужно подчеркнуть, что решение о полном разборе дела было принято в январе 2022 г., так что к этому времени мультфильм был доступен на платформе уже много недель. Сначала компания постановила, что мультфильм не нарушает букву, но не дух политики относительно языка ненависти²³ (цитируем непосредственно из текста решения: «Компания “Мета” объяснила, что решение принято в соответствии с “духом политики”, так как раздел одного из Стандартов сообщества, содержащий обоснование данной политики, ясно дает понять, что данная политика направлена на определенный сценарий, тогда как формулировки данной политики не описывают его напрямую»). Позже было вынесено решение, что нарушение касалось также и буквы политики относительно языка ненависти²⁴. Компания также заключила, что все предыдущие проверки были ошибочными, имея в виду три решения не удалять контент. Путаницы в это дипломатически поспешное обсуждение добавило то, что компания не проинформировала пользователей об изменениях и исправлениях решений, хотя ранее сообщила о том, что контент не нарушает политику компании. Пользователь, представивший дело в Наблюдательный совет, аргументировал свое мнение таким образом: «Крысолов символизирует хорватскую армию, которая в 1995 г. изгнала хорватских сербов, показанных в виде крыс».

2. Решение Наблюдательного совета

Наблюдательный совет отменил решение компании «Мета»* оставить мультфильм о городе Книн на платформе. Проведя стандартную процедуру, Наблюдательный совет постановил, что ролик нарушает Стандарты сообщества «Фейсбука»* о языке ненависти и призывах к насилию. Цель этих Стандартов – предотвратить возможный вред вне сети, связанный с контентом «Фейсбука»*. С помощью данного документа «Фейсбук»* пытается обратить внимание на язык и контекст и определить важнейшие культурные, контекстуальные, лингвистические и иные точки зрения, которые могут помочь модераторам вмешаться в свободу выражения мнения, если публикуемый контент представляет реальную угрозу общественной или личной безопасности. Политика относительно языка ненависти также запрещает нападки на лиц, обладающих защищаемыми характеристиками, включая этническую принадлежность²⁵. Наблюдательный совет постановил, что изображение сербов в виде крыс является «дегуманизирующим и ненавистническим». Совет также заключил, что видео прославляет акты дискриминации, совершенные в прошлом.

Наблюдательный совет верно понял глубокие исторические и контекстуальные коннотации: замена названия “Хамельн” на название хорватского города “Книн”, связь крысолова с хорватской деревней Чавоглаве (отсылка к антисербской песне “Bojna Čavoglave” группы “Thompson”, чей лидер родом из Чавоглаве) и образ крыс, спасающихся на тракторах, являются отсылками к хорватской военной операции “Буря”. Эта операция, проведенная в 1995 г., привела к изгнанию, убийствам и насильственному уничтожению гражданских лиц – этнических сербов. Комментарии к посту подтверждают, что эти отсылки были понятны лицам, просматривавшим контент²⁶ .

На этих основаниях Наблюдательный совет постановил, что данный пост нарушил два ключевых внутренних стандарта компании «Мета»* – ценности достоинства и безопасности.

Как следует из решения Наблюдательного совета, в изучении вопроса приняли участие 40 модераторов, владеющих хорватским языком, и никто из них не счел данный контент нарушающим стандарты «Фейсбука»*. Однако это проблематично также с другой точки зрения – как верно предположил Наблюдательный совет, данное видео, содержащее многочисленные дискриминирующие символы и сравнения, может подстрекать к насилию. Следовательно, компания «Мета»* и ее модераторы не смогли соответствовать не только политике относительно языка ненависти, но и своим собственным Стандартам сообщества о языке ненависти и призывах к насилию.

В своем решении Наблюдательный совет поднял два ключевых вопроса. Во-первых, усиление модерации и работа специализированной команды модераторов не помогли осознать скрытые, но культурно неоспоримые смыслы видеоролика. Как уже упоминалось, в соответствии с собственной политикой относительно языка ненависти компании «Мета»*, при определении языка ненависти следует обращать особое внимание на контекстуальные и культурные различия. Во-вторых, Наблюдательный совет предложил компании две рекомендации: (1) прояснить Стандарт сообщества о языке ненависти путем создания особого руководства для понимания скрытых отсылок и (2) усовершенствовать систему модификации в соответствии с изменениями в решении компании «Мета»* по данному делу²⁷.

Заключение

Наблюдательный совет ставил своей целью привлечь общественное мнение к делу мультфильма о городе Книн. Таким образом, процесс принятия решения сопровождался созданием общественной платформы для обсуждения, где третьи стороны могли поделиться своим мнением по делу. В приложении «Комментарии общественности»²⁸ Наблюдательный совет опубликовал 13 комментариев без указания авторов. Примечательно, что только два из них поступили из Европы; это вызывает сомнения и вопросы относительно контекстуальной и культурной интерпретации. Что еще более странно, только два комментария в данном приложении доступны для прочтения.

Следует также критически отнестись к ответам компании «Мета»* на вопросы Наблюдательного совета о том, что обсуждаемый пост может быть классифицирован как форма подстрекательства к насилию. Компания заявила, что угроза насилия должна подкрепляться или сопровождаться угрозой исключения или изгнания – то есть какого-либо физически насильственного действия²⁹. Но тогда возникает вопрос о масштабах применимости Стандарта сообщества о языке ненависти и призывах к насилию. По мнению компании, ссылки на крыс и их «бегство» в мультфильме не могут быть безоговорочно и безошибочно расценены как отсылки к возможной угрозе изгнания сербов³⁰. Такое объяснение предполагает весьма высокий порог применимости этих стандартов. Разумеется, нельзя сказать, что данное дело является простым, однако угроза, несомненно, присутствует, так как упомянутые исторические отсылки явно и недвусмысленно указывают на сербов и содержат неприкрытую насмешку над болью, страданиями и утратами, постигшими их в 1995 г. В этом контексте следует также отметить, что рассказчик говорит о счастливой жизни города Книн после того, как все крысы покинули его, что легко можно расценить как призыв к действию.

При принятии данного решения Наблюдательный совет опирался на ряд международных правовых актов, таких как Международный пакт о гражданских и политических правах, Международная конвенция о ликвидации всех форм расовой дискриминации, Рабатский план Управления Верховного комиссара Организации Объединенных Наций по правам человека, комментарии Совета ООН по правам человека (Общий комментарий № 34). Это достаточно характерно для Наблюдательного совета, который часто опирается на принципы, заложенные в этих документах (Bayer, 2021). Это еще раз подтверждает, что Наблюдательный совет серьезно намерен использовать и применять международно признанные принципы при рассмотрении дел (об этом свидетельствует и тот факт, что многие судьи имеют опыт работы в области международного права³¹). Используя положения статьи 19 Международного пакта о гражданских и политических правах для изучения влияния на свободу выражения мнения автора поста, Наблюдательный совет предложил более конкретную, научную и практическую правовую точку зрения. Наиболее важным аспектом данного дела является вопрос законности. По мнению Наблюдательного совета, концепция, использование, применение и даже в целом понимание положений о языке ненависти компании «Мета»* недостаточно обоснованы, если 40 модераторов не смогли верно опознать в видеоролике признаки языка ненависти. Предложение о выпуске руководства нельзя расценивать как рекомендацию; это знак предупреждения компании о том, что доктрина и недостаток практических инструкций являются системной проблемой, допустившей наличие ненавистнического, оскорбительного, глубоко дискриминационного поста несмотря на почти 400 сообщений пользователей. Во-вторых, компании следует обратить внимание на более глубокую оценку и понимание языковых, этнических, исторических и культурных различий. Совет даже упомянул языковой аспект армяно-азербайджанского конфликта в 2020 г.³² Ответы компании «Мета»* игнорируют эти аспекты, а модераторы явно не смогли опознать очевидные отсылки, что также указывает не на ряд индивидуальных ошибок, а на внутреннюю, скрытую, укоренившуюся и структурную порочность стандартов сообщества. До настоящего времени компания «Мета»* так и не выпустила более четкого руководства по проблемам языка ненависти, призывов к насилию или распознавания таковых. Третье решение можно считать наиболее радикальным. В настоящее время Наблюдательный совет не имеет полномочий напрямую влиять на политику, устанавливаемую компанией «Мета»*, а значит, «внутренние правила» (Goldman & Miers, 2021) могут оставаться неприкосновенными сколь угодно долго, включая спорные алгоритмы, зачастую неспособные распознать незаконный контент (Frazier, 2021). Хотя вопросы свободы высказываний регулируются на основе конституционной доктрины недопущения делегирования полномочий (Elkin-Koren & Perel, 2020; Cowls & Dominiquo-Schramm, 2022), задача управления онлайн-пространствами и платформами не может полностью и эксклюзивно выполняться официальными властями, и инициатива «Фейсбука»* по надзору за модерированием, несомненно, способствует выработке механизма совместных действий (Balkin, 2018; Arun 2021). К сожалению, мы пока не наблюдаем рекомендаций, имеющих правовую обязательность для развития политики компании «Мета»*³³, которые служили бы «обоюдоострым мечом»: (1) бесспорно побуждали бы компанию улучшать свои стандарты, внедрять инструкции и в целом совершенствовать модерацию контента (Douek, 2019), задавая стандарты платформы (Bayer, 2021), (2) для усиления ориентации на пользователя обязывали бы компанию внедрять и создавать меры, стандарты и механизмы, полнее отвечающие интересам пользователя (Klonick, 2020) и позволяющие избежать «чрезмерного модерирования» (Rogoff, 2019), и (3) лучше и своевременнее учитывали бы международные принципы³⁴ в приложении к праву на свободу выражения мнений в «Фейсбуке»* (Dvoskin, 2022; Helfer & Land, 2022). В заключение отметим, что для выработки более гибких решений (Douek, 2022) таких проблем, как в случае с мультфильмом о городе Книн, рекомендуется применять более формализованную (Douek, 2022) и в то же время высоко контекстуализированную систему модерации контента. Решение, полнее отвечающее реалиям конкретной компании, подобное предложенному выше, могло бы побудить Наблюдательный совет взять на себя еще более значимую роль в отношении модерации «Фейсбука»* (Gorwa, 2019).

* Организация признана экстремистской, ее деятельность запрещена на территории Российской Федерации.