Влияние новых технологий на экономическое поведение и свободу выбора потребителя: от нейромаркетинга к нейроправам

Введение

Изначально потребитель рассматривался как абсолютно рациональный экономический субъект, всегда делающий наиболее эффективный выбор. Другими словами, согласно классической экономической теории, потребитель отождествляется с homo economicus, т. е. субъектом, наделенным совершенной рациональностью¹. Однако по концепции бихевиоризма человеческий разум  – это «черный ящик» (Camerer et al., 2005), а значит, все процессы в нем происходят в результате воздействия внешних стимулов. Отсюда следует, что когнитивные процессы, не наблюдаемые извне, непознаваемы, т. е. не могут быть изучены².

Этот неоклассический подход начал оспариваться с 1970-х гг. во все большем числе научных исследований. В них же разрабатывалась новая экономическая модель, основанная на гипотезе об «ограниченной рациональности» человека³. По мнению их авторов, когда потребитель делает выбор в пользу той или иной покупки, на его сознание влияют различные внешние факторы (например, социальная и экономическая среда, в которой он находится в данный момент, или его эмоциональное состояние), и прежде всего, когнитивные ограничения самого разума.

Одно из наиболее значимых исследований в этом контексте принадлежит Дэниелу Канеману (Daniel Kahneman). Он показал, что человек использует эвристику  – когнитивные упрощения, которые позволяют ему делать экономический выбор с наименьшими усилиями (затратами времени и энергии). Однако именно потому, что потребители используют эвристику для оптимизации времени принятия решений, они часто допускают ошибки в рассуждениях и оценках, называемые когнитивными предубеждениями⁴.

Благодаря этим исследованиям появилась новая концепция человеческого мозга, который рассматривается не как единое целое, а как две постоянно взаимодействующие системы (Kahneman, 2011; Shiv & Fedorikhin, 1999). Первая система, относящаяся к области интуиции, работает быстрее и сохраняет информацию в форме представлений, не прилагая никаких умственных усилий для ее обработки. Вторая система, представляющая более рациональную часть, обрабатывает полученную информацию, затрачивая значительные усилия. Если говорить конкретно о процессе принятия решения о покупке, то от идеи, что он полностью рационален (потребители всегда выбирают наиболее эффективное решение) ученые перешли к так называемой теории беспорядочного среднего⁵. Согласно этому подходу, процесс покупки состоит из нескольких беспорядочных и хаотичных фаз, когда люди пытаются найти информацию о продукте, но в итоге оказываются перегружены многочисленными доступными вариантами.

Эти открытия привели к появлению новой дисциплины  – нейроэкономики, которая на основе психологии и нейробиологии пытается еще глубже изучить процессы принятия решений потребителями. В традиционных моделях эмоциональный аспект не имел никакого значения и, по сути, поведение человека рассматривалось как результат линейного процесса принятия решений, направленного на максимизацию индивидуальной полезности. В нейроэкономике, напротив, эмоциональный аспект приобретает фундаментальное значение настолько, что поведение человека признается результатом автоматических и бессознательных когнитивных процессов, которые действуют ниже уровня осознания (Winkielman & Berridge, 2003; Zajonc, 1980, 1998; Bechara & Damasio, 2005)⁶.

1. Появление нейромаркетинга и новые горизонты искусственного эмоционального интеллекта

Указанные теории, несомненно, послужили благодатной почвой для «нейромаркетинга». Эта новая область исследований, появившаяся в 1990-х гг., направлена на разработку более эффективной продающей рекламы, способной влиять на покупательское поведение потребителей за счет изучения их мотивации и психических процессов⁷.

Стремительное развитие технологий привело к созданию множества методик в этой области. Результатом такого разнообразия стала невозможность прийти к единой и окончательной классификации, и до сих пор учеными было сделано лишь несколько тщетных попыток в этом направлении.

Одна из классификаций рассматривает этапы процесса принятия решения потребителем, на которых применяется нейромаркетинг. Так, первую группу составляют технологии, изучающие поведение потребителя до покупки и использующие инструменты для выявления глубинных причин, которые подталкивают потребителя к тому или иному выбору. К ним относятся все технологии, которые оценивают движение глаз (окулография), выражение лица и другие биометрические показатели, такие как уровень потоотделения или частота сердечных сокращений. Во вторую группу входят технологии, изучающие реакцию потребителя после покупки, чтобы усилить способность товара или рекламы вызывать у покупателя положительные эмоции. Для этих целей наиболее часто используются электроэнцефалография (далее  – ЭЭГ⁸), функциональная магнитно-резонансная томография (далее  – фМРТ⁹) и магнитоэнцефалография (далее  – МЭГ¹⁰), которые напрямую показывают активность человеческого мозга.

Согласно другой классификации, практики нейромаркетинга подразделяются в зависимости от объекта анализа (ср. Verhulst et al., 2019). По этому критерию можно выделить три большие категории: во-первых, это инструменты нейровизуализации, которые измеряют активность определенной области мозга. К ним относятся, например, ЭЭГ (поскольку она вычисляет колебания электрической активности мозга) и фМРТ (которая измеряет изменения кровотока в мозге). Особняком стоят инструменты, которые измеряют активность мозга не напрямую, а косвенно, т. е. получают информацию о когнитивных процессах через анализ реакции других частей тела на определенные маркетинговые стимулы. Таким образом, ко второй группе можно отнести окулографию, которая измеряет положение, движения глаз и расширение зрачка, и кардиоваскулярные методики, где вариабельность сердечного ритма используется как индикатор для определения импульсов человека. Кроме того, существуют технологии для изучения биохимических компонентов человеческого тела, например гормонов и нейромедиаторов  – тестостерона, кортизола или дофамина,  – выделяемых организмом при воздействии маркетинговых стимулов.

Наконец, нейромаркетинговые практики можно разделить в зависимости от их способности регистрировать сигналы мозга, а не неврологическую активность¹¹, выделив таким образом три группы. К первой относятся инструменты, которые связаны с регистрацией метаболической активности мозга: фМРТ, МЭГ и позитронно-эмиссионная томография (далее  – ПЭТ¹²). Вторая группа  – это методы, регистрирующие электрическую активность мозга. Среди них наиболее широко используется ЭЭГ, цель которой  – спровоцировать изменения в электрической активности мозга с помощью различных визуальных и звуковых стимулов, чтобы проследить корреляцию между характером стимулов и соответствующими областями мозга, которые они активируют. Наконец, существуют приборы, которые лишь косвенно регистрируют активность мозга, фиксируя физические реакции. Это, например, электрокардиография (далее  – ЭКГ), которая измеряет и регистрирует электрическую активность сердца, помещая электроды на кожу испытуемого¹³, и прежде всего отслеживание глаз. В последнем случае с помощью датчиков определяются активность и размер зрачков, из чего можно извлечь информацию о том, как направить внимание испытуемого на нужный объект.

Несмотря на большое разнообразие вышеупомянутых практик, совершенно очевидны большие возможности  – и опасность  – применения искусственного интеллекта в этой области. Они заключаются в способности ИИ повысить точность предсказания поведения покупателей в такой степени, что «исследования, несмотря на небольшие размеры выборки, могут обеспечить прочную основу для прогнозирования рынка для более крупных групп населения» (Royo-Vela & Varga, 2022, Ramirez et al., 2021).

Особое направление ИИ, получившее развитие в последнее время, стало известно как «аффективные вычисления», или «искусственный эмоциональный интеллект» (далее  – ИЭИ). Оно объединяет различные области, включая инженерные науки, нейробиологию и психологию поведения, с целью создания машин, способных не только интерпретировать, но и моделировать человеческие эмоции и таким образом адаптировать свою реакцию в зависимости от психологического состояния субъекта.

В настоящее время многие системы на основе ИЭИ используют технологии отслеживания глаз и выражения лиц, поскольку, согласно многочисленным исследованиям, лицо  – это та часть человеческого тела, с помощью которой мы чаще всего выражаем свои мысли¹⁴.

В частности, на мобильном или стационарном устройстве можно поместить модуль для окулографии, который будет фиксировать расширение и сжатие зрачков (что считается показателем психической и когнитивной активности центральной нервной системы), а также траекторию движения глаз потребителя (показатель активности вегетативной нервной системы, отвечающей за эмоциональные реакции) при просмотре рекламы. Согласно этой гипотезе, зрительное внимание определяется факторами двух типов. Первые, так называемые восходящие факторы, воздействуют на области мозга; это такие качества, как цвет, образ и яркость, именно они схватываются первыми. Вторые, так называемые нисходящие факторы,  – это то, что вызывает чувства, воспоминания и эмоции.

Таким образом, эта технология регистрирует огромное количество данных, как количественных (основанных на анализе числовых данных, таких как количество или продолжительность фиксаций), так и качественных (относящихся к графической визуализации поведения субъекта, например, тепловые карты или графики движения глаз). Именно по этой причине окулография и кодирование лица в основном используются крупнейшими компаниями (Barnett & Cerf, 2015; Bellman et al., 2016)¹⁵. Например, компания Affectiva специализируется на разработке ИЭИ, с помощью технологий глубокого обучения и компьютерного зрения анализирующего выражение лица и эмоции субъекта, с которым взаимодействует¹⁶. Иными словами, это программное обеспечение, получившее название Affidex, выявляет все ключевые точки лица, а затем классифицирует их по «классам эмоций». В основном эта технология применяется в маркетинге, поскольку она позволяет оценить эмоциональную вовлеченность потребителей, вызываемую определенным рекламным продуктом. Это означает, что кодирование лиц при использовании искусственного интеллекта и видеоанализа позволяет измерить мельчайшие реакции, даже неосознанные, на процесс покупки и на рекламные стимулы. Таким образом, маркетинговые агентства могут фокусировать свои рекламные кампании на конкретных рекламных продуктах, определять параметры света, звука, изображения в зависимости от того, что наиболее интересно и привлекательно для потребителей, вплоть до предсказывания их эмоциональной реакции, основываясь «всего лишь» на выражении лица¹⁷.

Поэтому неудивительно, что разработка и применение технологий, направленных на понимание и предвидение процессов принятия решений, привычек и эмоций потребителей, неизбежно порождают глубокие сомнения и вопросы. Мы должны спросить себя, «относимся ли мы к другим как к людям с их надеждами и желаниями? Или мы относимся к ним как к вещам, которыми мы можем манипулировать, основываясь на нашем понимании работы мозга?» (Garvey, 2016)¹⁸.

2. Возможности нейромаркетинга и его потенциальная угроза фундаментальным человеческим ценностям

Целью маркетинга всегда было побудить потребителя купить определенный товар, привлекая его внимание. Например, в рекламе сигарет Camel, транслировавшейся с 1936 по 1939 г., говорилось: «Ради хорошего пищеварения курите Camel»¹⁹. Это наглядно показывает, что не только нейромаркетинг, но и традиционные приемы всегда имели целью повлиять на потребителей, используя их когнитивные предубеждения и слабости, настолько, что уже в 1950 г. люди начали говорить о «скрытом маркетинге». Его определяют как «точку, в которой техники нейромаркетинга достигают критической эффективности и используются таким образом, чтобы манипулировать решениями потребителей без их ведома или согласия» (Murphy et al., 2008)²⁰. Такая практика появилась в США: Джеймс Викари признал, что увеличил продажи еды и напитков в кинотеатрах, вставляя в фильмы подсознательные сообщения, побуждающие потребителей пить кока-колу и есть попкорн (Vicary, 1951)²¹.

Таким образом, очевидно, что убеждение является естественным компонентом нейромаркетинга, однако проблема возникает, в частности, с некоторыми приемами, выходящими далеко за рамки простого убеждения человека. Это опасение всегда существовало в данной дисциплине и неоднократно высказывалось различными авторами (Cenizo, 2022)²². В частности, нейромаркетинг рассматривался как потенциальная угроза фундаментальным человеческим ценностям, поскольку он позволяет использовать слабости, неуверенность и эмоции в чисто коммерческих целях (Lungu, 2016; Durante & Arsena, 2015; Durante et al., 2011; Saad & Stenstrom, 2012).

Другие исследователи считают эти опасения чрезмерными, утверждая, что современный уровень развития технологий не настолько высок, чтобы влиять на этические вопросы. Они также не верят, что нейромаркетинг действительно может манипулировать человеческим сознанием, поскольку, по их мнению, возможность влиять на подсознание потребителей не обязательно означает, что они не контролируют свой выбор при покупке²³.

Однако что точно не подлежит сомнению, так это способность нейромаркетинга вызывать у потребителей желание покупать. Таким образом, реальный вопрос заключается в том, можно ли считать их выбор по-прежнему свободным, даже если на него существенно влияют физиологические факторы, которые они не могут контролировать (Stanton et al., 2016)²⁴.

Хотя о манипуляции писали многие авторы, до сих пор не существует единогласно принятого определения этого феномена²⁵. Среди имеющихся точек зрения особенно интересна для нашего анализа теория манипуляции как «скрытого влияния»: практика может считаться манипулятивной, если она влияет на потребителей намеренно и скрытно, таким образом, что они не осознают или не могут легко осознать, что повлияло на процесс принятия решения» (Susser et al., 2019). Другими словами, различие между чисто убеждающей практикой и манипулятивной заключается в том, что последняя формирует мотивацию потребителей таким образом, что снижает их способность рационально управлять своими собственными мотивами, побуждая их создавать эмоциональные ассоциации между своим жизненным опытом и продуктом. В этом случае желание, возникающее в сознании потребителя, проистекает не из реальной потребности, а из стимула, который влияет на его независимость, поскольку «агент действует независимо, если его действия вызваны мотивом, приобретенным посредством соответствующего использования его способности рационально управлять своими собственными мотивами. В противном случае он действует менее независимо» (Cave, 2014)²⁶.

При всем этом нейромаркетинг может быть средством нарушения определенных фундаментальных человеческих ценностей, таких как индивидуальная автономия (Ulman et al., 2015; Stanton et al., 2016; Ariely & Berns, 2010; Murphy et al., 2008; Marcus, 2002), которую Р. Гиллон определяет как «способность думать, принимать решения и действовать на основе этих мыслей и решений свободно и независимо» (Gillon, 1985). Именно потому, что нейромаркетинг побуждает потребителя к покупке, стимулируя его эмоции, а не предоставляя ему точную информацию о продукте, он может нарушить способность человека определять и реализовывать свои предпочтения (Fisher et al., 2010)²⁷. Другими словами, страдает самостоятельность потребителя в принятии решений, поскольку его принуждают к предпочтениям и решениям без полного понимания, осознания и согласия²⁸.

Риск причинения вреда увеличивается в тех случаях, когда используются слабые места отдельных групп людей, считающихся особенно уязвимыми. Так, в ряде исследований было показано, что нейромаркетинг может подтолкнуть подростков к началу курения, а люди с компульсивными расстройствами, связанными с покупками, особенно чувствительны к сообщениям, побуждающим их совершать покупки в Интернете (Henriksen et al., 2010). Подростки также особенно чувствительны и поддаются манипулированию: неравномерное развитие систем мозга, участвующих в когнитивном контроле, и чрезмерная реактивность так называемой системы вознаграждения  – это факторы, связанные с эмоциональной гиперчувствительностью к стимулам вознаграждения, лицам и социально-эмоциональным стимулам (Steinberg, 2017; van Hoorn et al., 2016; Casey et al., 2008; Galvan et al., 2006; Hare et al., 2008; Gogtay et al., 2004; Shaw et al., 2008). Это может привести к развитию нездоровых привычек, сохраняющихся даже во взрослой жизни (Bault & Rusconi, 2020).

Специалисты по нейроэтике, по сути, обеспокоены не столько возможностью использования нейромаркетинга для воздействия на особо чувствительных людей, сколько его способностью создавать новые формы уязвимости. Поэтому представляется предпочтительным следующее подтвержденное фактами определение уязвимости потребителей: она «ситуативна, т. е. потребитель может быть более уязвим в одной ситуации, чем в другой, и некоторые потребители могут быть более уязвимы, чем другие»²⁹.

3. Защита потребителя от необоснованных влияний современных технологий на его экономическое поведение и свободу выбора

Следует решить еще ряд вопросов нейроэтики, чтобы нейромаркетинг не стал инструментом, с помощью которого компании смогут обойти независимость потребителей во всех ее различных смыслах и использовать слабости и уязвимости конкретных групп субъектов в коммерческих целях.

Решение этих вопросов затруднено, прежде всего, оттого, что стремительное развитие новых технологий не позволяет раз и навсегда определить эти фундаментальные ценности. Пока что для решения этой проблемы некоторые специалисты по биоэтике предлагают создать новые нейроправа, «специально разработанные с учетом особенностей информации о мозге и новых возможностей, открывающихся благодаря технологиям изучения мышления» (Ienca & Andorno, 2017), например, право на «психологическую конфиденциальность». Таким образом, стремление защитить «каждый бит информации или набор информации о мозге человека, записанный нейроустройством и распространяемый в цифровой экосистеме», отражает попытку адекватно отразить новые технологии в законе (Ienca & Andorno, 2017)³⁰.

Предложения о создании новых «нейроправ» основаны на все более распространенном убеждении, что существующая нормативная база недостаточна для адекватного охвата систем искусственного интеллекта, используемых в нейромаркетинге для воздействия на человеческие эмоции и когнитивные процессы.

Нейромаркетинг, несомненно, подпадает под широкое определение коммерческой практики, данное в Директиве 2005/29/EC³¹. В ст. 5 этого документа дается определение «недобросовестности»³², согласно которому практика считается недобросовестной и, следовательно, запрещенной, если она противоречит правилам профессиональной добросовестности, и прежде всего, если она существенно искажает или может существенно исказить экономическое поведение в отношении продукта со стороны усредненного потребителя, к которому она обращена, или усредненного члена группы, когда коммерческая практика направлена на определенную группу потребителей.

Наряду с общим запретом на недобросовестную коммерческую практику существуют две макрокатегории, а именно вводящая в заблуждение коммерческая практика³³ и агрессивная коммерческая практика³⁴, а также «черный список» практик, которые считаются недобросовестными в любом случае без возможности представить доказательства обратного.

Из этих положений ясно, что их целью является защита свободы потребителя от необоснованных влияний. В настоящее время принято считать, что положение Директивы о коммерческих практиках, способных «исказить» экономическое поведение человека, следует понимать в широком смысле, т. е. включая любую форму заметного изменения восприятия при принятии коммерческого решения.

Нейромаркетинг, используя когнитивные заблуждения потребителей, побуждающие их к определенному покупательскому поведению, вполне подпадает под определение тех влияний, которые скрытно изменяют восприятие и понимание потребителя. Хотя психологическое воздействие, препятствующее свободе потребителя в принятии решений, прямо не упоминается, агрессивная коммерческая практика также включает в себя поведение, которое путем «неправомерного влияния»³⁵ существенно ограничивает свободу выбора или экономическое поведение потребителя, побуждая его принять решение, которое в противном случае он бы не принял.

Кроме того, намерение европейского законодателя четко ограничено объявлением незаконными только тех видов практики, которые существенно препятствуют самоопределению³⁶, вследствие чего те формы психоэмоционального давления, которые не способны повлиять на свободу экономического выбора потребителя, исключаются из этого запрета.

Однако именно потому, что особенность нейромаркетинга заключается в использовании эмоциональных факторов для бессознательного управления процессами принятия решений экономическими агентами, потребителю нелегко, во-первых, отличить законную практику от той, которая превысила установленный законом предел «неправомерного влияния»³⁷.

Кроме того, с точки зрения интерпретации права, когда в определении неправомерного влияния говорится о практике, которая «значительно» ограничивает способность потребителя принять осознанное решение, не совсем понятно, каков предел, за которым можно говорить о достижении этого уровня, особенно когда речь идет о сложных инструментах ЭИИ³⁸.

Однако особое значение в этой области придается также инструментам «мягкого права», в частности этическим кодексам. Среди них «Этический кодекс применения нейробиологии в бизнесе», разработанный в 2013 г. Всемирной торговой ассоциацией Neuromarketing Science and Business Association. Он содержит ряд общих принципов, которые должна соблюдать каждая компания, проводящая исследования потребителей с использованием методов нейромаркетинга³⁹.

Несомненно, этические кодексы являются полезными инструментами саморегулирования, цель которых  – сделать компании ответственными за соблюдение определенных этических принципов; однако некоторые авторы критикуют их за бесполезность по двум причинам.

С одной стороны, этические кодексы малоэффективны, поскольку основаны на принципе добровольного присоединения и, следовательно, не имеют обязательной силы⁴⁰. С другой стороны, компании, ставящие своей целью монетизацию приложений ИИ, руководствуются скорее экономическими, чем этическими соображениями (McNamara et al., 2018), поскольку «в бизнес-контекстах во многих случаях скорость  – это все», а значит, «практика разработки, внедрения и использования приложений ИИ очень часто имеет мало общего с ценностями и принципами, постулируемыми этикой» (Hagendorff, 2020).

Осознавая эти трудности, Европейский союз принял Акт об ИИ для обеспечения «мирового лидерства в разработке безопасного, надежного и этичного искусственного интеллекта»⁴¹.

Практики нейромаркетинга, основанные на системах искусственного интеллекта, подпадают под широкое определение понятия «системы искусственного интеллекта», предложенное в Проекте регулирования ИИ. Это любое «программное обеспечение, разработанное с использованием одного или нескольких методов и подходов, перечисленных в Приложении I, и способное для заданного набора целей, определяемых человеком, генерировать такие результаты, как контент, прогнозы, рекомендации или решения, влияющие на среду, с которой оно взаимодействует»⁴².

Как известно, Проект регулирования ИИ использует «подход, основанный на оценке риска», имея в виду риск, создаваемый системами ИИ в отношении основных прав и свобод. Таким образом, выделяются практики, которые создают «неприемлемый риск» и поэтому запрещены⁴³; «системы ИИ с высоким риском», которые разрешены, но только при определенных условиях⁴⁴; и, наконец, приложения с «низкой или минимальной степенью риска», условия применения которых состоят в основном в требовании прозрачности⁴⁵.

Статья 5(1) Проекта запрещает воздействия двух типов, которые считаются манипулятивными. Это системы ИИ, которые используют сублиминальные методы  – методы «вне сознания человека с целью существенного искажения поведения, которое причиняет или может причинить этому или другому лицу физический или психологический вред» (подпункт «a»), а также «использующие какую-либо уязвимость определенной группы лиц в силу их возраста, физических или психических недостатков с целью существенного искажения поведения лица, относящегося к этой группе, которое причиняет или может причинить этому или другому лицу физический или психологический вред» (подпункт «б»)⁴⁶. Таким образом, это правило, по-видимому, относится исключительно к тем системам ИИ, которые, манипулируя поведением соответствующих лиц, причиняют (или могут причинить) физический или психологический вред. Это означает, что, если практика ИИ является манипулятивной, но не способна причинить физический или психологический вред, она сама по себе не будет считаться системой повышенного риска по смыслу раздела 5 Проекта регулирования ИИ⁴⁷.

Как уже отмечалось, не о каждой практике нейромаркетинга можно сказать, что она является манипулятивной, поскольку в противном случае вся эта область была бы незаконной. Тогда отражены ли эти системы в Проекте регулирования ИИ?

Еще одна категория «высокорисковых» ИИ регулируется разделом III Проекта регулирования ИИ. К этим системам предъявляются строгие обязательные требования, которые поставщики должны соблюдать уже на этапе проектирования⁴⁸.

Фактически поставщик обязан внедрить и задокументировать систему управления рисками для выявления и анализа возможных рисков, возникающих при использовании системы ИИ, и принять соответствующие меры для надлежащего управления ими⁴⁹, а также гарантировать качественный уровень управления базами данных⁵⁰. Кроме того, поставщик должен разработать и поддерживать в рабочем состоянии подробную, полную и актуальную техническую документацию и обеспечить проверяемость и отслеживаемость процессов, используемых системами искусственного интеллекта, предоставив инструменты как для целей регистрации, так и для адекватного человеческого контроля за их работой⁵¹. Другими словами, они должны быть спроектированы и разработаны таким образом, чтобы обеспечить высокий уровень точности, надежности и кибербезопасности, а также прозрачности за счет предоставления четких, кратких и понятных инструкций по использованию⁵².

Однако методы нейромаркетинга, как представляется, не подпадают даже под действие ст. 6(1) Проекта и тем более не входят в число систем, перечисленных в Приложении III (на которое ссылается ст. 6(2)), где в п. 1 говорится лишь о системах, используемых для биометрической идентификации и категоризации физических лиц. Но, поскольку целью нейромаркетинга не является идентификация физического лица ни в режиме реального времени, ни апостериори, такая практика не может быть включена в число систем ИИ с высоким уровнем риска⁵³.

В числе «низкорисковых» систем ИИ ст. 52(2) Проекта регулирования ИИ упоминает системы распознавания эмоций и биометрической категоризации⁵⁴. Однако, поскольку они считаются системами с низкой степенью риска, на их внедрение и применение распространяются лишь требования прозрачности, которые, однако, не представляются достаточными в отношении опасности этих практик. Между тем «эти системы основаны на весьма сомнительных доказательствах, но генерируют потенциально крайне вредные результаты (в виде решений или поведенческих актов)», что приводит к «ограничениям, отчуждению и неуважению к людям из групп, которые не вписываются в установленные категории»⁵⁵.

Заключение

В итоге следует отметить, что развитие технологий, способных распознавать человеческие эмоции и использовать их для управления поведением потребителей, требует наличия соответствующего законодательства для обеспечения надежной системы поддержки базовых ценностей. Хотя существующая нормативная база, включая, прежде всего, Директиву о недобросовестных коммерческих практиках, несомненно, обеспечивает эффективную защиту потребителя, тем не менее существует несколько проблемных точек, которые требуют более пристального внимания со стороны законодателя ЕС и обусловлены влиянием систем искусственного интеллекта на традиционные правовые категории. В этом смысле Проект регулирования ИИ может стать еще одним инструментом для создания безопасной, надежной и заслуживающей доверия системы, поскольку «на этом фоне призыв к прозрачности основывается на необходимости заглянуть внутрь технологии ИИ, чтобы попытаться полностью понять ее логику и регулировать ее действия» (Alì & Yu, 2021). Однако в своей нынешней формулировке Проект не относит к системам повышенного риска те приложения ИИ, которые основаны на сборе, обработке и использовании когнитивной и эмоциональной информации.

Прямое включение в Проект таких приложений позволило бы избежать риска неоднозначного толкования и послужить эффективному созданию «экосистемы доверия, предложив правовые рамки для надежного ИИ», где «люди могут быть уверены, что технологии используются безопасным образом и в соответствии с законом, включая соблюдение основных прав»⁵⁶.