Алгоритмический вуду-эффект - что это и как работает

Ситуация, о которой пойдет речь, знакома едва ли не каждому владельцу смартфона. Вы обсуждаете с другом какую-нибудь совершенно конкретную вещь — например, поход в горы, новый бренд кроссовок или поездку в определенную страну. Некоторое время спустя вы открываете социальную сеть и видите рекламу именно этих кроссовок, именно этого тура, именно этой экипировки. Первая реакция — холодок по спине. Телефон подслушивает. Алгоритмы читают мысли. Технологии зашли слишком далеко.

Это ощущение настолько сильное и настолько распространенное, что породило целый пласт фольклора о всемогуществе рекламных алгоритмов. Явление получило название «алгоритмического вуду-эффекта» или теории «цифровой куклы вуду» - по аналогии с магическими ритуалами вуду, где шаманы мастерили специальных кукол, и, нанося им физический ущерб, причиняли боль реальным людям. Однако реальность устроена иначе - прозаичнее, чем кажется в момент испуга. В основе явления лежит не мистика и не тотальная слежка, а несколько объяснимых механизмов, связанных с работой нашего восприятия, статистики и самих алгоритмов.

Первое, что необходимо сказать с полной определенностью: нет достоверных доказательств того, что крупные технологические компании массово прослушивают разговоры пользователей через микрофоны смартфонов для показа рекламы. Это не значит, что техническая возможность отсутствует. Микрофон есть в каждом устройстве, и приложения запрашивают к нему доступ. Но массовый перехват и анализ голосовых данных в режиме реального времени потребовал бы колоссальных вычислительных и энергетических ресурсов, создавал бы гигантские юридические риски и при этом не давал бы рекламодателям ничего такого, чего они не могут получить более дешевыми и законными способами.

Исследователи безопасности неоднократно проверяли эту гипотезу, анализируя сетевой трафик приложений, и не находили признаков непрерывной передачи аудио. Крупные корпорации, ведущие свою деятельность в интернете, публично отрицают использование аудиозаписей разговоров для персонализации рекламы. Разумеется, отрицание не является доказательством, но технический анализ в целом согласуется с их заявлениями. Гораздо более вероятное объяснение феномена лежит в другой плоскости — в плоскости данных, которые мы сами добровольно отдаем, и в особенностях человеческой психологии.

Чтобы понять, как реклама оказывается настолько точной, нужно осознать масштаб данных, которые собирают о нас алгоритмы. Каждый наш шаг в цифровой среде оставляет след: поисковые запросы, просмотренные страницы, время, проведенное на каждой из них, лайки, комментарии, переписки, геолокация, список установленных приложений, контакты, история покупок, подписки, взаимодействие с рекламой и многое другое. Все это складывается в невероятно детальный цифровой портрет личности. Алгоритм может не знать, о чем вы говорили с другом, но он может знать, что вы интересуетесь бегом, что ваш друг недавно искал кроссовки определенного бренда, что вы оба находились в одном районе, где есть спортивный магазин, и что люди с вашим профилем часто покупают именно эту модель. Этого набора косвенных признаков достаточно, чтобы с высокой вероятностью предложить рекламу, которая покажется вам сверхъестественно точной. Вы удивились, увидев рекламу после разговора, но алгоритм работал на основе данных, которые начали накапливаться задолго до этого разговора.

Существует и еще более тонкий механизм, который напрямую связан с тем самым разговором, но не через подслушивание. Если вы обсуждаете с другом поездку в горы, велика вероятность, что после разговора вы сами начнете искать информацию: посмотрите цены на билеты, откроете сайт с экипировкой, проверите прогноз погоды в регионе. Ваш друг, возможно, сделает то же самое. Алгоритм зафиксирует всплеск интереса и немедленно отреагирует показом релевантной рекламы. Вы видите рекламу, связываете ее с разговором и делаете вывод, что алгоритм подслушал. На самом деле вы сами, своими последующими действиями, сообщили алгоритму о своем интересе. Психологи называют это ошибкой атрибуции: мы приписываем причину не тому источнику, который был на самом деле.

Теперь о роли психологии. Человеческий мозг — это машина по поиску закономерностей, и он находит их даже там, где их нет. Это эволюционно оправданное свойство: лучше принять случайный шум за опасность и убежать, чем пропустить реальную угрозу. Когда мы видим рекламу, совпавшую с нашими недавними мыслями или разговорами, наш мозг мгновенно выстраивает причинно-следственную связь: «Я подумал — реклама появилась, значит, алгоритм знает мои мысли». Это классическое проявление склонности к подтверждению и ошибки иллюзорной корреляции.

При этом мы игнорируем сотни и тысячи рекламных сообщений, которые не совпали с нашими мыслями. Они проходят мимо сознания незамеченными. А та единственная, которая совпала, вызывает эмоциональную реакцию, запоминается и укрепляет веру в сверхъестественные способности алгоритмов. Если бы вы считали все рекламные показы, не совпавшие с вашими мыслями, а затем сравнивали с количеством совпадений, вы бы обнаружили, что совпадения статистически неизбежны. При миллиардах пользователей и миллиардах показов рекламы ежедневно обязательно найдутся миллионы людей, которым покажется, что реклама читает их мысли.

Есть и еще одно психологическое явление, усиливающее эффект, — селективное внимание. Когда вы обсуждаете кроссовки, тема становится для вас значимой, и вы начинаете замечать все, что с ней связано. Кроссовки, которые раньше были частью фона, теперь выделяются. Вы видите их в магазине, на прохожих, в ленте. Вам кажется, что мир внезапно наполнился кроссовками, но изменился не мир, а ваш фильтр восприятия. Алгоритм в этом случае не сделал ничего сверхъестественного, он просто показал вам то, что вы и так склонны были заметить.

Отдельного упоминания заслуживает феномен, который в исследовательской литературе называют эффектом Баадера-Майнхоф, или иллюзией частотности. Он заключается в том, что после первого столкновения с новой информацией человек начинает видеть ее повсюду. Узнали новое слово — и в течение недели встретили его пять раз, хотя раньше не встречали никогда. Дело не в том, что слово стало популярнее, а в том, что мозг начал его замечать. В контексте рекламы этот эффект работает точно так же: после разговора о товаре вы начинаете замечать рекламу этого товара, которая, возможно, показывалась вам и раньше, но не проходила порог осознания.

Важно понимать и то, что алгоритмы действительно очень хороши в предсказании человеческого поведения, но не потому, что они читают мысли, а потому, что люди в массе своей предсказуемы. Наши интересы, вкусы, потребности и даже спонтанные желания подчиняются статистическим закономерностям. Зная ваш возраст, пол, уровень дохода, место жительства, историю покупок и поведение людей, похожих на вас, алгоритм может с высокой вероятностью предсказать, что заинтересует вас в ближайшее время. Иногда это предсказание настолько точно, что выглядит как пророчество. Но это статистика, а не магия. Алгоритм не знает о вас ничего личного, он знает о миллионах людей, похожих на вас, и переносит их поведение на вас.

Иррациональная вера в то, что алгоритмы обладают мистическими способностями, опасна не сама по себе, а своими последствиями. С одной стороны, она создает атмосферу паранойи и недоверия, подрывая способность трезво оценивать реальные риски цифровой эпохи. С другой — она отвлекает внимание от настоящих, подтвержденных механизмов сбора данных и их использования. Пока человек боится, что телефон подслушивает его разговоры, он не обращает внимания на то, что приложения собирают данные о его перемещениях, что рекламные сети отслеживают его поведение на тысячах сайтов, что его цифровой профиль продается и перепродается без его ведома. Ирония в том, что реальная слежка, если можно так выразиться, гораздо масштабнее и глубже, чем мифическое прослушивание микрофона. Просто она работает не через магию, а через рутинный сбор метаданных, и от этого ее труднее заметить и легче игнорировать.

Как же вести себя человеку, который хочет сохранить и приватность, и здравый рассудок? Первый шаг — это осознание того, как работает персонализация. Не стоит приписывать алгоритмам сверхспособности, но не стоит и недооценивать объем данных, которые они о вас собирают. Второй шаг — это практические меры по ограничению сбора данных: проверка разрешений приложений, отключение доступа к микрофону и геолокации там, где это не нужно, использование браузеров с защитой от отслеживания, регулярная очистка истории и отказ от излишней персонализации в настройках. Третий шаг — это критическое отношение к собственной интерпретации событий. Когда возникает ощущение, что алгоритм прочитал ваши мысли, полезно остановиться и задать себе вопросы: какие мои действия могли привести к этому показу? Какие данные я оставил за последние дни? Сколько рекламы я увидел и не заметил? Этот простой самоанализ не разрушит всех иллюзий, но поможет удержать мышление в рамках рациональности.

Алгоритмический вуду-эффект — это встреча двух мощных сил: с одной стороны, технологий, которые действительно знают о нас больше, чем нам комфортно, с другой — человеческого мозга, который веками обучен видеть причины и замыслы. В этой встрече рождается миф о всезнающем алгоритме, читающем мысли. Миф этот не имеет отношения к действительности, но имеет совершенно реальные последствия, потому что он искажает наше восприятие угроз и мешает принимать взвешенные решения. Разоблачение этого мифа — не защита технологических корпораций, а возвращение человеку способности видеть реальное положение дел: алгоритмы не читают мысли, но они внимательно читают следы, которые мы оставляем, и в этом нет ничего сверхъестественного. Есть только статистика, психология и та самая иллюзия, которая заставляет нас видеть магию в работе хорошо отлаженной, но вполне объяснимой машины.