Изначально потребитель рассматривался как абсолютно рациональный экономический субъект, всегда делающий наиболее эффективный выбор. Другими словами, согласно классической экономической теории, потребитель отождествляется с homo economicus, т. е. субъектом, наделенным совершенной рациональностью1. Однако по концепции бихевиоризма человеческий разум  – это «черный ящик» (Camerer et al., 2005), а значит, все процессы в нем происходят в результате воздействия внешних стимулов. Отсюда следует, что когнитивные процессы, не наблюдаемые извне, непознаваемы, т. е. не могут быть изучены2.

Этот неоклассический подход начал оспариваться с 1970-х гг. во все большем числе научных исследований. В них же разрабатывалась новая экономическая модель, основанная на гипотезе об «ограниченной рациональности» человека3. По мнению их авторов, когда потребитель делает выбор в пользу той или иной покупки, на его сознание влияют различные внешние факторы (например, социальная и экономическая среда, в которой он находится в данный момент, или его эмоциональное состояние), и прежде всего, когнитивные ограничения самого разума.

Одно из наиболее значимых исследований в этом контексте принадлежит Дэниелу Канеману (Daniel Kahneman). Он показал, что человек использует эвристику  – когнитивные упрощения, которые позволяют ему делать экономический выбор с наименьшими усилиями (затратами времени и энергии). Однако именно потому, что потребители используют эвристику для оптимизации времени принятия решений, они часто допускают ошибки в рассуждениях и оценках, называемые когнитивными предубеждениями4.

Благодаря этим исследованиям появилась новая концепция человеческого мозга, который рассматривается не как единое целое, а как две постоянно взаимодействующие системы (Kahneman, 2011; Shiv & Fedorikhin, 1999). Первая система, относящаяся к области интуиции, работает быстрее и сохраняет информацию в форме представлений, не прилагая никаких умственных усилий для ее обработки. Вторая система, представляющая более рациональную часть, обрабатывает полученную информацию, затрачивая значительные усилия. Если говорить конкретно о процессе принятия решения о покупке, то от идеи, что он полностью рационален (потребители всегда выбирают наиболее эффективное решение) ученые перешли к так называемой теории беспорядочного среднего5. Согласно этому подходу, процесс покупки состоит из нескольких беспорядочных и хаотичных фаз, когда люди пытаются найти информацию о продукте, но в итоге оказываются перегружены многочисленными доступными вариантами.

Эти открытия привели к появлению новой дисциплины  – нейроэкономики, которая на основе психологии и нейробиологии пытается еще глубже изучить процессы принятия решений потребителями. В традиционных моделях эмоциональный аспект не имел никакого значения и, по сути, поведение человека рассматривалось как результат линейного процесса принятия решений, направленного на максимизацию индивидуальной полезности. В нейроэкономике, напротив, эмоциональный аспект приобретает фундаментальное значение настолько, что поведение человека признается результатом автоматических и бессознательных когнитивных процессов, которые действуют ниже уровня осознания (Winkielman & Berridge, 2003; Zajonc, 1980, 1998; Bechara & Damasio, 2005)6.

Указанные теории, несомненно, послужили благодатной почвой для «нейромаркетинга». Эта новая область исследований, появившаяся в 1990-х гг., направлена на разработку более эффективной продающей рекламы, способной влиять на покупательское поведение потребителей за счет изучения их мотивации и психических процессов7.

Стремительное развитие технологий привело к созданию множества методик в этой области. Результатом такого разнообразия стала невозможность прийти к единой и окончательной классификации, и до сих пор учеными было сделано лишь несколько тщетных попыток в этом направлении.

Одна из классификаций рассматривает этапы процесса принятия решения потребителем, на которых применяется нейромаркетинг. Так, первую группу составляют технологии, изучающие поведение потребителя до покупки и использующие инструменты для выявления глубинных причин, которые подталкивают потребителя к тому или иному выбору. К ним относятся все технологии, которые оценивают движение глаз (окулография), выражение лица и другие биометрические показатели, такие как уровень потоотделения или частота сердечных сокращений. Во вторую группу входят технологии, изучающие реакцию потребителя после покупки, чтобы усилить способность товара или рекламы вызывать у покупателя положительные эмоции. Для этих целей наиболее часто используются электроэнцефалография (далее  – ЭЭГ8), функциональная магнитно-резонансная томография (далее  – фМРТ9) и магнитоэнцефалография (далее  – МЭГ10), которые напрямую показывают активность человеческого мозга.

Согласно другой классификации, практики нейромаркетинга подразделяются в зависимости от объекта анализа (ср. Verhulst et al., 2019). По этому критерию можно выделить три большие категории: во-первых, это инструменты нейровизуализации, которые измеряют активность определенной области мозга. К ним относятся, например, ЭЭГ (поскольку она вычисляет колебания электрической активности мозга) и фМРТ (которая измеряет изменения кровотока в мозге). Особняком стоят инструменты, которые измеряют активность мозга не напрямую, а косвенно, т. е. получают информацию о когнитивных процессах через анализ реакции других частей тела на определенные маркетинговые стимулы. Таким образом, ко второй группе можно отнести окулографию, которая измеряет положение, движения глаз и расширение зрачка, и кардиоваскулярные методики, где вариабельность сердечного ритма используется как индикатор для определения импульсов человека. Кроме того, существуют технологии для изучения биохимических компонентов человеческого тела, например гормонов и нейромедиаторов  – тестостерона, кортизола или дофамина,  – выделяемых организмом при воздействии маркетинговых стимулов.

Наконец, нейромаркетинговые практики можно разделить в зависимости от их способности регистрировать сигналы мозга, а не неврологическую активность11, выделив таким образом три группы. К первой относятся инструменты, которые связаны с регистрацией метаболической активности мозга: фМРТ, МЭГ и позитронно-эмиссионная томография (далее  – ПЭТ12). Вторая группа  – это методы, регистрирующие электрическую активность мозга. Среди них наиболее широко используется ЭЭГ, цель которой  – спровоцировать изменения в электрической активности мозга с помощью различных визуальных и звуковых стимулов, чтобы проследить корреляцию между характером стимулов и соответствующими областями мозга, которые они активируют. Наконец, существуют приборы, которые лишь косвенно регистрируют активность мозга, фиксируя физические реакции. Это, например, электрокардиография (далее  – ЭКГ), которая измеряет и регистрирует электрическую активность сердца, помещая электроды на кожу испытуемого13, и прежде всего отслеживание глаз. В последнем случае с помощью датчиков определяются активность и размер зрачков, из чего можно извлечь информацию о том, как направить внимание испытуемого на нужный объект.

Несмотря на большое разнообразие вышеупомянутых практик, совершенно очевидны большие возможности  – и опасность  – применения искусственного интеллекта в этой области. Они заключаются в способности ИИ повысить точность предсказания поведения покупателей в такой степени, что «исследования, несмотря на небольшие размеры выборки, могут обеспечить прочную основу для прогнозирования рынка для более крупных групп населения» (Royo-Vela & Varga, 2022, Ramirez et al., 2021).

Особое направление ИИ, получившее развитие в последнее время, стало известно как «аффективные вычисления», или «искусственный эмоциональный интеллект» (далее  – ИЭИ). Оно объединяет различные области, включая инженерные науки, нейробиологию и психологию поведения, с целью создания машин, способных не только интерпретировать, но и моделировать человеческие эмоции и таким образом адаптировать свою реакцию в зависимости от психологического состояния субъекта.

В настоящее время многие системы на основе ИЭИ используют технологии отслеживания глаз и выражения лиц, поскольку, согласно многочисленным исследованиям, лицо  – это та часть человеческого тела, с помощью которой мы чаще всего выражаем свои мысли14.

В частности, на мобильном или стационарном устройстве можно поместить модуль для окулографии, который будет фиксировать расширение и сжатие зрачков (что считается показателем психической и когнитивной активности центральной нервной системы), а также траекторию движения глаз потребителя (показатель активности вегетативной нервной системы, отвечающей за эмоциональные реакции) при просмотре рекламы. Согласно этой гипотезе, зрительное внимание определяется факторами двух типов. Первые, так называемые восходящие факторы, воздействуют на области мозга; это такие качества, как цвет, образ и яркость, именно они схватываются первыми. Вторые, так называемые нисходящие факторы,  – это то, что вызывает чувства, воспоминания и эмоции.

Таким образом, эта технология регистрирует огромное количество данных, как количественных (основанных на анализе числовых данных, таких как количество или продолжительность фиксаций), так и качественных (относящихся к графической визуализации поведения субъекта, например, тепловые карты или графики движения глаз). Именно по этой причине окулография и кодирование лица в основном используются крупнейшими компаниями (Barnett & Cerf, 2015; Bellman et al., 2016)15. Например, компания Affectiva специализируется на разработке ИЭИ, с помощью технологий глубокого обучения и компьютерного зрения анализирующего выражение лица и эмоции субъекта, с которым взаимодействует16. Иными словами, это программное обеспечение, получившее название Affidex, выявляет все ключевые точки лица, а затем классифицирует их по «классам эмоций». В основном эта технология применяется в маркетинге, поскольку она позволяет оценить эмоциональную вовлеченность потребителей, вызываемую определенным рекламным продуктом. Это означает, что кодирование лиц при использовании искусственного интеллекта и видеоанализа позволяет измерить мельчайшие реакции, даже неосознанные, на процесс покупки и на рекламные стимулы. Таким образом, маркетинговые агентства могут фокусировать свои рекламные кампании на конкретных рекламных продуктах, определять параметры света, звука, изображения в зависимости от того, что наиболее интересно и привлекательно для потребителей, вплоть до предсказывания их эмоциональной реакции, основываясь «всего лишь» на выражении лица17.

Поэтому неудивительно, что разработка и применение технологий, направленных на понимание и предвидение процессов принятия решений, привычек и эмоций потребителей, неизбежно порождают глубокие сомнения и вопросы. Мы должны спросить себя, «относимся ли мы к другим как к людям с их надеждами и желаниями? Или мы относимся к ним как к вещам, которыми мы можем манипулировать, основываясь на нашем понимании работы мозга?» (Garvey, 2016)18.

Целью маркетинга всегда было побудить потребителя купить определенный товар, привлекая его внимание. Например, в рекламе сигарет Camel, транслировавшейся с 1936 по 1939 г., говорилось: «Ради хорошего пищеварения курите Camel»19. Это наглядно показывает, что не только нейромаркетинг, но и традиционные приемы всегда имели целью повлиять на потребителей, используя их когнитивные предубеждения и слабости, настолько, что уже в 1950 г. люди начали говорить о «скрытом маркетинге». Его определяют как «точку, в которой техники нейромаркетинга достигают критической эффективности и используются таким образом, чтобы манипулировать решениями потребителей без их ведома или согласия» (Murphy et al., 2008)20. Такая практика появилась в США: Джеймс Викари признал, что увеличил продажи еды и напитков в кинотеатрах, вставляя в фильмы подсознательные сообщения, побуждающие потребителей пить кока-колу и есть попкорн (Vicary, 1951)21.

Таким образом, очевидно, что убеждение является естественным компонентом нейромаркетинга, однако проблема возникает, в частности, с некоторыми приемами, выходящими далеко за рамки простого убеждения человека. Это опасение всегда существовало в данной дисциплине и неоднократно высказывалось различными авторами (Cenizo, 2022)22. В частности, нейромаркетинг рассматривался как потенциальная угроза фундаментальным человеческим ценностям, поскольку он позволяет использовать слабости, неуверенность и эмоции в чисто коммерческих целях (Lungu, 2016; Durante & Arsena, 2015; Durante et al., 2011; Saad & Stenstrom, 2012).

Другие исследователи считают эти опасения чрезмерными, утверждая, что современный уровень развития технологий не настолько высок, чтобы влиять на этические вопросы. Они также не верят, что нейромаркетинг действительно может манипулировать человеческим сознанием, поскольку, по их мнению, возможность влиять на подсознание потребителей не обязательно означает, что они не контролируют свой выбор при покупке23.

Однако что точно не подлежит сомнению, так это способность нейромаркетинга вызывать у потребителей желание покупать. Таким образом, реальный вопрос заключается в том, можно ли считать их выбор по-прежнему свободным, даже если на него существенно влияют физиологические факторы, которые они не могут контролировать (Stanton et al., 2016)24.

Хотя о манипуляции писали многие авторы, до сих пор не существует единогласно принятого определения этого феномена25. Среди имеющихся точек зрения особенно интересна для нашего анализа теория манипуляции как «скрытого влияния»: практика может считаться манипулятивной, если она влияет на потребителей намеренно и скрытно, таким образом, что они не осознают или не могут легко осознать, что повлияло на процесс принятия решения» (Susser et al., 2019). Другими словами, различие между чисто убеждающей практикой и манипулятивной заключается в том, что последняя формирует мотивацию потребителей таким образом, что снижает их способность рационально управлять своими собственными мотивами, побуждая их создавать эмоциональные ассоциации между своим жизненным опытом и продуктом. В этом случае желание, возникающее в сознании потребителя, проистекает не из реальной потребности, а из стимула, который влияет на его независимость, поскольку «агент действует независимо, если его действия вызваны мотивом, приобретенным посредством соответствующего использования его способности рационально управлять своими собственными мотивами. В противном случае он действует менее независимо» (Cave, 2014)26.

При всем этом нейромаркетинг может быть средством нарушения определенных фундаментальных человеческих ценностей, таких как индивидуальная автономия (Ulman et al., 2015; Stanton et al., 2016; Ariely & Berns, 2010; Murphy et al., 2008; Marcus, 2002), которую Р. Гиллон определяет как «способность думать, принимать решения и действовать на основе этих мыслей и решений свободно и независимо» (Gillon, 1985). Именно потому, что нейромаркетинг побуждает потребителя к покупке, стимулируя его эмоции, а не предоставляя ему точную информацию о продукте, он может нарушить способность человека определять и реализовывать свои предпочтения (Fisher et al., 2010)27. Другими словами, страдает самостоятельность потребителя в принятии решений, поскольку его принуждают к предпочтениям и решениям без полного понимания, осознания и согласия28.

Риск причинения вреда увеличивается в тех случаях, когда используются слабые места отдельных групп людей, считающихся особенно уязвимыми. Так, в ряде исследований было показано, что нейромаркетинг может подтолкнуть подростков к началу курения, а люди с компульсивными расстройствами, связанными с покупками, особенно чувствительны к сообщениям, побуждающим их совершать покупки в Интернете (Henriksen et al., 2010). Подростки также особенно чувствительны и поддаются манипулированию: неравномерное развитие систем мозга, участвующих в когнитивном контроле, и чрезмерная реактивность так называемой системы вознаграждения  – это факторы, связанные с эмоциональной гиперчувствительностью к стимулам вознаграждения, лицам и социально-эмоциональным стимулам (Steinberg, 2017; van Hoorn et al., 2016; Casey et al., 2008; Galvan et al., 2006; Hare et al., 2008; Gogtay et al., 2004; Shaw et al., 2008). Это может привести к развитию нездоровых привычек, сохраняющихся даже во взрослой жизни (Bault & Rusconi, 2020).

Специалисты по нейроэтике, по сути, обеспокоены не столько возможностью использования нейромаркетинга для воздействия на особо чувствительных людей, сколько его способностью создавать новые формы уязвимости. Поэтому представляется предпочтительным следующее подтвержденное фактами определение уязвимости потребителей: она «ситуативна, т. е. потребитель может быть более уязвим в одной ситуации, чем в другой, и некоторые потребители могут быть более уязвимы, чем другие»29.

Следует решить еще ряд вопросов нейроэтики, чтобы нейромаркетинг не стал инструментом, с помощью которого компании смогут обойти независимость потребителей во всех ее различных смыслах и использовать слабости и уязвимости конкретных групп субъектов в коммерческих целях.

Решение этих вопросов затруднено, прежде всего, оттого, что стремительное развитие новых технологий не позволяет раз и навсегда определить эти фундаментальные ценности. Пока что для решения этой проблемы некоторые специалисты по биоэтике предлагают создать новые нейроправа, «специально разработанные с учетом особенностей информации о мозге и новых возможностей, открывающихся благодаря технологиям изучения мышления» (Ienca & Andorno, 2017), например, право на «психологическую конфиденциальность». Таким образом, стремление защитить «каждый бит информации или набор информации о мозге человека, записанный нейроустройством и распространяемый в цифровой экосистеме», отражает попытку адекватно отразить новые технологии в законе (Ienca & Andorno, 2017)30.

Предложения о создании новых «нейроправ» основаны на все более распространенном убеждении, что существующая нормативная база недостаточна для адекватного охвата систем искусственного интеллекта, используемых в нейромаркетинге для воздействия на человеческие эмоции и когнитивные процессы.

Нейромаркетинг, несомненно, подпадает под широкое определение коммерческой практики, данное в Директиве 2005/29/EC31. В ст. 5 этого документа дается определение «недобросовестности»32, согласно которому практика считается недобросовестной и, следовательно, запрещенной, если она противоречит правилам профессиональной добросовестности, и прежде всего, если она существенно искажает или может существенно исказить экономическое поведение в отношении продукта со стороны усредненного потребителя, к которому она обращена, или усредненного члена группы, когда коммерческая практика направлена на определенную группу потребителей.

Наряду с общим запретом на недобросовестную коммерческую практику существуют две макрокатегории, а именно вводящая в заблуждение коммерческая практика33 и агрессивная коммерческая практика34, а также «черный список» практик, которые считаются недобросовестными в любом случае без возможности представить доказательства обратного.

Из этих положений ясно, что их целью является защита свободы потребителя от необоснованных влияний. В настоящее время принято считать, что положение Директивы о коммерческих практиках, способных «исказить» экономическое поведение человека, следует понимать в широком смысле, т. е. включая любую форму заметного изменения восприятия при принятии коммерческого решения.

Нейромаркетинг, используя когнитивные заблуждения потребителей, побуждающие их к определенному покупательскому поведению, вполне подпадает под определение тех влияний, которые скрытно изменяют восприятие и понимание потребителя. Хотя психологическое воздействие, препятствующее свободе потребителя в принятии решений, прямо не упоминается, агрессивная коммерческая практика также включает в себя поведение, которое путем «неправомерного влияния»35 существенно ограничивает свободу выбора или экономическое поведение потребителя, побуждая его принять решение, которое в противном случае он бы не принял.

Кроме того, намерение европейского законодателя четко ограничено объявлением незаконными только тех видов практики, которые существенно препятствуют самоопределению36, вследствие чего те формы психоэмоционального давления, которые не способны повлиять на свободу экономического выбора потребителя, исключаются из этого запрета.

Однако именно потому, что особенность нейромаркетинга заключается в использовании эмоциональных факторов для бессознательного управления процессами принятия решений экономическими агентами, потребителю нелегко, во-первых, отличить законную практику от той, которая превысила установленный законом предел «неправомерного влияния»37.

Кроме того, с точки зрения интерпретации права, когда в определении неправомерного влияния говорится о практике, которая «значительно» ограничивает способность потребителя принять осознанное решение, не совсем понятно, каков предел, за которым можно говорить о достижении этого уровня, особенно когда речь идет о сложных инструментах ЭИИ38.

Однако особое значение в этой области придается также инструментам «мягкого права», в частности этическим кодексам. Среди них «Этический кодекс применения нейробиологии в бизнесе», разработанный в 2013 г. Всемирной торговой ассоциацией Neuromarketing Science and Business Association. Он содержит ряд общих принципов, которые должна соблюдать каждая компания, проводящая исследования потребителей с использованием методов нейромаркетинга39.

Несомненно, этические кодексы являются полезными инструментами саморегулирования, цель которых  – сделать компании ответственными за соблюдение определенных этических принципов; однако некоторые авторы критикуют их за бесполезность по двум причинам.

С одной стороны, этические кодексы малоэффективны, поскольку основаны на принципе добровольного присоединения и, следовательно, не имеют обязательной силы40. С другой стороны, компании, ставящие своей целью монетизацию приложений ИИ, руководствуются скорее экономическими, чем этическими соображениями (McNamara et al., 2018), поскольку «в бизнес-контекстах во многих случаях скорость  – это все», а значит, «практика разработки, внедрения и использования приложений ИИ очень часто имеет мало общего с ценностями и принципами, постулируемыми этикой» (Hagendorff, 2020).

Осознавая эти трудности, Европейский союз принял Акт об ИИ для обеспечения «мирового лидерства в разработке безопасного, надежного и этичного искусственного интеллекта»41.

Практики нейромаркетинга, основанные на системах искусственного интеллекта, подпадают под широкое определение понятия «системы искусственного интеллекта», предложенное в Проекте регулирования ИИ. Это любое «программное обеспечение, разработанное с использованием одного или нескольких методов и подходов, перечисленных в Приложении I, и способное для заданного набора целей, определяемых человеком, генерировать такие результаты, как контент, прогнозы, рекомендации или решения, влияющие на среду, с которой оно взаимодействует»42.

Как известно, Проект регулирования ИИ использует «подход, основанный на оценке риска», имея в виду риск, создаваемый системами ИИ в отношении основных прав и свобод. Таким образом, выделяются практики, которые создают «неприемлемый риск» и поэтому запрещены43; «системы ИИ с высоким риском», которые разрешены, но только при определенных условиях44; и, наконец, приложения с «низкой или минимальной степенью риска», условия применения которых состоят в основном в требовании прозрачности45.

Статья 5(1) Проекта запрещает воздействия двух типов, которые считаются манипулятивными. Это системы ИИ, которые используют сублиминальные методы  – методы «вне сознания человека с целью существенного искажения поведения, которое причиняет или может причинить этому или другому лицу физический или психологический вред» (подпункт «a»), а также «использующие какую-либо уязвимость определенной группы лиц в силу их возраста, физических или психических недостатков с целью существенного искажения поведения лица, относящегося к этой группе, которое причиняет или может причинить этому или другому лицу физический или психологический вред» (подпункт «б»)46. Таким образом, это правило, по-видимому, относится исключительно к тем системам ИИ, которые, манипулируя поведением соответствующих лиц, причиняют (или могут причинить) физический или психологический вред. Это означает, что, если практика ИИ является манипулятивной, но не способна причинить физический или психологический вред, она сама по себе не будет считаться системой повышенного риска по смыслу раздела 5 Проекта регулирования ИИ47.

Как уже отмечалось, не о каждой практике нейромаркетинга можно сказать, что она является манипулятивной, поскольку в противном случае вся эта область была бы незаконной. Тогда отражены ли эти системы в Проекте регулирования ИИ?

Еще одна категория «высокорисковых» ИИ регулируется разделом III Проекта регулирования ИИ. К этим системам предъявляются строгие обязательные требования, которые поставщики должны соблюдать уже на этапе проектирования48.

Фактически поставщик обязан внедрить и задокументировать систему управления рисками для выявления и анализа возможных рисков, возникающих при использовании системы ИИ, и принять соответствующие меры для надлежащего управления ими49, а также гарантировать качественный уровень управления базами данных50. Кроме того, поставщик должен разработать и поддерживать в рабочем состоянии подробную, полную и актуальную техническую документацию и обеспечить проверяемость и отслеживаемость процессов, используемых системами искусственного интеллекта, предоставив инструменты как для целей регистрации, так и для адекватного человеческого контроля за их работой51. Другими словами, они должны быть спроектированы и разработаны таким образом, чтобы обеспечить высокий уровень точности, надежности и кибербезопасности, а также прозрачности за счет предоставления четких, кратких и понятных инструкций по использованию52.

Однако методы нейромаркетинга, как представляется, не подпадают даже под действие ст. 6(1) Проекта и тем более не входят в число систем, перечисленных в Приложении III (на которое ссылается ст. 6(2)), где в п. 1 говорится лишь о системах, используемых для биометрической идентификации и категоризации физических лиц. Но, поскольку целью нейромаркетинга не является идентификация физического лица ни в режиме реального времени, ни апостериори, такая практика не может быть включена в число систем ИИ с высоким уровнем риска53.

В числе «низкорисковых» систем ИИ ст. 52(2) Проекта регулирования ИИ упоминает системы распознавания эмоций и биометрической категоризации54. Однако, поскольку они считаются системами с низкой степенью риска, на их внедрение и применение распространяются лишь требования прозрачности, которые, однако, не представляются достаточными в отношении опасности этих практик. Между тем «эти системы основаны на весьма сомнительных доказательствах, но генерируют потенциально крайне вредные результаты (в виде решений или поведенческих актов)», что приводит к «ограничениям, отчуждению и неуважению к людям из групп, которые не вписываются в установленные категории»55.

В итоге следует отметить, что развитие технологий, способных распознавать человеческие эмоции и использовать их для управления поведением потребителей, требует наличия соответствующего законодательства для обеспечения надежной системы поддержки базовых ценностей. Хотя существующая нормативная база, включая, прежде всего, Директиву о недобросовестных коммерческих практиках, несомненно, обеспечивает эффективную защиту потребителя, тем не менее существует несколько проблемных точек, которые требуют более пристального внимания со стороны законодателя ЕС и обусловлены влиянием систем искусственного интеллекта на традиционные правовые категории. В этом смысле Проект регулирования ИИ может стать еще одним инструментом для создания безопасной, надежной и заслуживающей доверия системы, поскольку «на этом фоне призыв к прозрачности основывается на необходимости заглянуть внутрь технологии ИИ, чтобы попытаться полностью понять ее логику и регулировать ее действия» (Alì & Yu, 2021). Однако в своей нынешней формулировке Проект не относит к системам повышенного риска те приложения ИИ, которые основаны на сборе, обработке и использовании когнитивной и эмоциональной информации.

Прямое включение в Проект таких приложений позволило бы избежать риска неоднозначного толкования и послужить эффективному созданию «экосистемы доверия, предложив правовые рамки для надежного ИИ», где «люди могут быть уверены, что технологии используются безопасным образом и в соответствии с законом, включая соблюдение основных прав»56.

1. Более подробно об эволюции консьюмеризма см. (Bauman, 2010; Alpa & Catricala, 2016; Fabris, 2003). 2. Эта теория была разработана в 1913 г. психологом Джоном Уотсоном из Чикагского университета и опубликована в журнале Psychological Review. См. (Watson, 1994). 3. Теория ограниченной рациональности была разработана Гербертом Саймоном в 1978 г. Более подробно см. (Viale, 2019; Damasio, 1994). В работе говорится: «Мы не думающие машины, которые чувствуют, мы чувствующие машины, которые думают». Тем самым подчеркивается, что эмоциональная часть действует раньше рациональной, т. е. «в начале была эмоция. Поэтому чувство не является пассивным процессом». См. также (Morin, 2011). 4. В работах (Tversky & Kahneman, 1974; Thaler, 2000; Ceschi et al., 2012) были сделаны попытки создания таксономии когнитивных предубеждений. В частности, были классифицированы основные эвристики, включая «предвзятость подтверждения» или «предвзятость убеждений», когда люди более склонны верить информации, которая подтверждает их убеждения; «фрейминг», когда на процесс принятия решений влияет контекст, т. е. «фрейм»; «предвзятость привязки», которая возникает, когда человек полагается на уже известное значение как на точку отсчета для определения другого значения неизвестной величины (ярким примером является восприятие цены); «предвзятость желания», когда личные желания влияют на решения людей; «предвзятость затрат», в том смысле, что потери и затраты воспринимаются как более значительные, чем на самом деле; наконец, «предвзятость выбора», когда по мере увеличения количества доступных вариантов выбора становится все труднее обработать всю информацию и принять окончательное решение. 5. Rennie, A., Protheroe, J., Charron, C., & Breatnach, G. (2020). Decoding Decisions: making sense of the messy middle. https://clck.ru/bmxnd 6. О влиянии этих технологий на науку в Италии см. (Seminara, 2020). 7. В настоящее время нет единого мнения относительно создателя термина «нейромаркетинг», но точно известно, что впервые его использовал профессор Але Смидтс в одной из своих самых известных работ, опубликованной в 2002 г. В ней нейромаркетинг определялся как «изучение механизмов мозга для понимания поведения потребителей с целью улучшения маркетинговых стратегий». Ср. (Smidts, 2002). Уже в следующем году профессор Рид Монтегю провел первое исследование в области нейромаркетинга, сканируя с помощью аппарата функциональной магнитно-резонансной томографии (фМРТ) мозг людей, пьющих пепси-колу и кока-колу. Однако началом практических исследований в области нейромаркетинга следует считать 1971 г., когда Герберт Э. Кругман, сотрудник компании General Electric, впервые измерил спонтанное расширение зрачков у покупателей, посчитав его показателем заинтересованности людей, которые искали товар или смотрели рекламу. Краткий обзор литературы по этому вопросу см. в работе (Lee et al., 2018). 8. Электроэнцефалограмма регистрирует электрическую активность мозга с помощью шлема, поверхность которого полностью покрыта маленькими электродами. Это неинвазивный метод, позволяющий выявить изменения в электрическом потоке мозговых волн в ответ на воздействие различных стимулов. 9. Функциональная магнитно-резонансная томография измеряет активность мозга через наблюдение за кровотоком и насыщением кислородом рассматриваемых участков мозга. Было замечено, что воздействие маркетингового стимула приводит к повышению уровня насыщения крови кислородом в определенных областях мозга, что приводит к изменению его электромагнитного поля. Более подробное обсуждение см. в работе (Lim, 2018). 10. Неинвазивный медицинский метод, регистрирующий электрическую активность мозга. В отличие от ЭЭГ здесь измеряется магнитное поле, создаваемое внутричерепными токами. Используются сверхпроводящие квантовые интерференционные датчики (SQUID), которые способны измерять бесконечно малые изменения магнитного поля, благодаря чему можно с высокой точностью обнаружить источники магнитных сигналов в мозге. 11. Эта классификация была предложена в работе (Bercea, 2012). 12. Это инвазивный метод визуализации мозга, относящийся к области так называемой ядерной медицины, поскольку предполагает введение в организм вещества, испускающего позитронные частицы. Метод позволяет после воздействия маркетингового стимула измерить изменения уровня глюкозы в мозге испытуемого (его метаболическую активность), вызванные этим радиоактивным веществом. 13. На частоту сердечных сокращений влияют два основных элемента: симпатическая нервная система, которая вызывает чувство возбуждения от маркетингового стимула, и парасимпатическая нервная система, которая, напротив, способствует расслаблению, снижая частоту сердечных сокращений. 14. Более подробное обсуждение этой технологии см. в работе (Cherubino et al., 2019). Ekman и Friesen разработали систему Facial Action Coding System (FACS) для измерения и классификации выражения лица. Система основана на распознавании семи «первичных эмоций», трех «универсальных чувств», нескольких «сложных эмоций» и 19 «единиц поведения». Более подробное обсуждение этой темы см. в работах (Ekman & Friesen, 1978; Ekman, 2004). 15. McStay (2018) пишет: «Самое примечательное в кодировании лиц  – это разнообразие и масштабы его применения. Например, более трети компаний из списка Fortune Global 500 используют кодирование лица для проверки эффективности рекламы перед ее запуском» (Cerf et al., 2015; Alexander et al., 2015; Hedgcock et al., 2012; Mesly, 2016; Shiv et al., 2005). 16. Подробно о том, как работает такое программное обеспечение, см. (McStay, 2018). 17. Авторы ссылаются на программу для распознавания эмоций Cognitive Services от Microsoft, которая дает представление не только о том, что доступно сегодня, но и о более широких возможностях использования вербальных и невербальных коммуникаций с помощью семантического анализа, анализа тона голоса и многого другого, а также распознавания эмоций по видео. Arthmann, C., & Li, I. P. (2017). Neuromarketing  – The Art and Science of Marketing and Neurosciences Enabled by IoT Technologies. IIC Journal of Innovation, 1–10. https://clck.ru/37rq8m 18. Здесь также говорится: «…не нужно быть Кантом, чтобы задуматься о том, что некоторые методы, рекомендуемые нейромаркетологами, похоже, расценивают человека как объект, вещь, которую можно изучать и которой можно манипулировать ради финансовой выгоды, а не как личность со своими собственными целями, которую мы должны уважать». 19. Этот лозунг оказал настолько сильное воздействие на население, что некоторые авторы отмечали: «Кампания создала группу потребителей, которые в противном случае не стали бы курить табак и, возможно, пошли против своей интуиции, решив курить только благодаря убеждающему воздействию рекламы Camel». Ср. (Clark, 2017; Thomas et al., 2017; Peeler, 1996). 20. По мнению этих авторов, нейромаркетинг способен убедить потребителей «принять участие в связанной с продуктом деятельности, которую в противном случае они, вероятно, не выбрали бы», см. (Clark, 2017). Другие исследователи считают нейромаркетинг неэтичным (Lee et al., 2007). 21. Критику этого исследования см. в работе Karremans et al. (2006). 22. В том же смысле в работе Murphy et al. (2008) утверждается, что «сам факт того, что приходится вставлять такие оговорки, как “в настоящее время”, дает достаточно оснований для тщательного рассмотрения как возможных последствий такого развития событий, так и средств, с помощью которых им можно разумно управлять». 23. Ряд исследователей считают, что нынешняя степень развитости нейробиологических практик не позволяет манипулировать поведением человека. В этом смысле работа Stanton et al. (2016) указывает, что «большинство новых этических опасностей, которые приписываются нейромаркетингу, нереалистичны, поскольку предполагают, что нейромаркетинг обладает полномочиями, которые он не сможет получить в ближайшем будущем». Схожей позиции придерживаются и такие авторы, как Renvoise & Morin (2007), Murphy et al. (2008). 24. Также в работе Wilson et al. (2008) отмечается, что «когда потребитель покупает продукт на основании решения, при котором маркетинговые стимулы, не связанные с характеристиками продукта, заставляют аффективные нейронные системы преобладать над когнитивными процессами, конечный результат покупки не всегда отвечает интересам потребителя». 25. В работе Noggle выделены три возможных подхода к определению понятия манипуляции. См. Noggle, R. (2017). The ethics of manipulation. https://clck.ru/37rwke. Теории манипуляции см. в работах (Barnhill, 2014; Wilkinson, 2012; Susser et al., 2019; Klenk, 2021; Wood, 2016). 26. В работе Garvey (2016) еще более категорично указывается, что «любой метод убеждения, который заставляет нас действовать, не предоставляя нам веских причин, уменьшает силу воздействия разумных доводов». См. также (Grant, 2011; Lewis, 2013). 27. В работе Wilson et al. (2008) отмечено в этой связи, что «в той мере, в какой эти стимулы не связаны с характеристиками продукта, результатом является попытка манипулировать решением потребителя о покупке». Авторы утверждают, что «нейротехнологии позволяют маркетологам совершенствовать методы убеждения, используя неинформативный или дезинформативный контент, с возможностью вызывать у потребителей крайне позитивные аффективные реакции». Ср. также (Haggard, 2011). 28. (Dierichsweiler, 2014), в которой цитируется работа (Wilson et al., 2008). Интересная точка зрения высказана в работе (Sunstein, 2015), согласно которой, если человек хочет подвергнуться манипуляции, его желание следует уважать. 29. Consumer vulnerability across key markets in the European Union  – документ, который дает определение уязвимости и выделяет пять ее условий. European Commission. (2016). European Commission, Consumers, Health, Agriculture and Food Executive Agency, Consumer vulnerability across key markets in the European Union  – Executive summary. Publications Office. https://clck.ru/37rtX3 См. также (Fineman, 2008), где говорится об уязвимости как онтологическом состоянии человека. 30. Среди других предлагаемых прав  – право на «психологическую цельность», которое направлено на сохранение личной идентичности и цельности психической жизни от внешних изменений со стороны третьих лиц; право на «психическую целостность», которое, будучи уже гарантированным ст. 3 Хартии ЕС по правам человека, должно быть расширено для защиты от незаконных и вредных манипуляций, осуществляемых с помощью нейротехнологий; и, наконец, право на «когнитивную свободу», которое направлено на защиту свободы принимать независимые решения. 31. Директива 2005/29/EC Европейского парламента и Совета от 11 мая 2005 г. о недобросовестных коммерческих практиках в отношениях между предприятиями и потребителями на внутреннем рынке. Коммерческая практика  – это «любое действие, бездействие, образ действий или представление, коммерческая коммуникация, включая рекламу и маркетинг, со стороны торговца, непосредственно связанное с продвижением, продажей или поставкой продукта потребителям». 32. Статья 2 Директивы 2005/29/EC. Отмечается, что это законодательство имеет структуру «пересекающихся кругов». См. об этом (Fusi & Testa, 2006; Duivenvoorde, 2015). 33. Статьи 6 и 7 о вводящем в заблуждение бездействии. 34. Статья 8 Директивы о недобросовестных коммерческих практиках. 35 .Согласно статье 2(j) Директивы 2005/29/EC, оно определяется как использование «главенствующего положения по отношению к потребителю с целью оказания давления, даже без применения или угрозы применения физической силы, таким способом, который существенно ограничивает способность потребителя принять осознанное решение». Ср. (Strycharz & Duivenvoorde, 2021). 36. Ср. Recital 6 of directive 2005/29/EC. For a comment (Abbamonte, 2007). 37. Следует отметить, что в работе Seminara (2020) было выдвинуто предположение, что предел, за которым реклама может быть признана агрессивной, можно определить по так называемому психологическому шоку. 38. Ср. также (Strycharz & Duivenvoorde, 2021). 39. NMSBA. Code of Ethics. https://clck.ru/37rwiB. См. также Probst, L., Frideres, L., Demetri, D., & Vomhof, B. (2014). Customer Experience. Neuro-marketing innovations. PwC Luxembourg. https://clck.ru/37rzBE. 40. Критику эффективности этических кодексов см. (Sacconi, 1991; Trevino & Nelson, 2006; Rossi, 2006, 2005). 41. EU Artificial intelligence Act. https://clck.ru/38x5h6 42. Art. 3, para. 1 (European Commission, 2021). Критику чрезмерной обобщенности определения систем ИИ см. (Ebers et al., 2021). 43. Статья 5 Проекта регулирования ИИ. 44. Статья 6 Проекта регулирования ИИ и Приложение III. 45. Статья 52 Проекта регулирования ИИ. Анализ Проекта см. (Stuurman & Lachaud, 2022; Veale & Zuiderveen Borgesius, 2021; Ebers et al., 2021; Smuha et al., 2021; Sovrano et al., 2022; Ebers et al., 2021; Ebers, 2021; Hupont et al., 2022a). 46. Статья 5(1)(c) и (d) соответственно запрещает государственным органам использовать системы социальных баллов и системы биометрической идентификации, расположенные в общественных местах, в правоохранительных целях. 47. STOA. (2022). Regulatory divergences in the draft AI Act: Differences in public and private sector obligations. https://clck.ru/37ryK3 48. Обязательства, налагаемые на системы ИИ с высокой степенью риска, должны проходить проверку соответствия как до, так и после их выпуска на рынок (Mökander et al., 2022; Hupont et al, 2022b; Hof, 2022; Alì & Yu, 2021; Cooman, 2022). 49. Статья 9 Проекта регулирования ИИ. 50. Статья 10 Проекта регулирования ИИ. 51. Статья 11–14 Проекта регулирования ИИ. 52. Статья 13(1) гласит: «Системы искусственного интеллекта с высокой степенью риска должны быть спроектированы и разработаны таким образом, чтобы обеспечить достаточную прозрачность их функционирования, чтобы пользователи имели возможность интерпретировать результаты работы системы и использовать их надлежащим образом». 53. Hildebrandt, M. (2021). Commentary on the Proposal for an EU AI Act of 21 April 2021. 54. Статья 52 Проекта регулирования ИИ. 55. В работе Hildebrandt M. (2021). A brief commentary by Mireille Hildebrandt комментируется: «То, что в настоящее время системы распознавания эмоций и биометрической категоризации не всегда относятся к категории высокого риска, хотя в зависимости от вида их использования или контекста они могут быть отнесены к категории высокого риска или даже запрещены, запутывает и неоправданно усложняет ситуацию». Делается вывод, что «их следует если не запретить, то хотя бы включить в п. 1 Приложения III». 56. European Commission, 2021. https://clck.ru/37rtX3