Интернет становится новой системой управления людьми

Когда сегодня обсуждают будущее интернета, чаще всего рисуют простую картинку: была одна глобальная сеть, а теперь она рассыпается на куски по государственным границам. Китай, Европа, США, Россия — у каждого своя модель. Частично так и есть, но кажется, что это объяснение слишком поверхностное. На самом деле, пишет в «Эксперте» представитель уполномоченного по защите прав предпринимателей при президенте РФ в сфере интернета Дмитрий Мариничев, мы сейчас наблюдаем не распад интернета как технологии, а смену уровня управления человеком. 

Интернет, ИИ, национальные мессенджеры и «суверенные» платформы — все это лишь инструменты в гораздо более глубокой борьбе за человеческую волю и пространство идей.

Сто лет назад люди жили в империях. Формальные границы были, но империя воспринималась как единое пространство жизни. Можно было родиться в одной части, учиться в другой, служить в третьей. И никто не задавался вопросом про шенген и разрешение на работу.

Потом империи посыпались. Карта Европы покрылась густой сеткой национальных государств, границ и таможенных столбов. Мир как будто стал теснее. Но почти сразу поверх этих государств начал формироваться новый слой влияния. После Второй мировой войны фактически снова появилась биполярная «империя» из США и СССР.

Холодная война была войной не за землю, а за смысл.

Классическая империя контролировала тело и пространство: территорию, завод, поле, железную дорогу, солдата. Человек был важен как рабочая сила и военный ресурс. Отсюда паспорта, прописка, мобилизация, лагеря, налоги на землю и имущество.

С середины XX в. фокус смещается. В эпоху холодной войны главной становится не нефть и сталь, а картина мира в голове человека. Классическая империя жила на материальном уровне (тела, вещи, фабрики, дороги) и частично на уровне образов (языка, информации).

«Империя» холодной войны — преимущественно на уровне образов. Радиостанции, кино, музыка, журналы, университеты, книги, затем телевидение. Интернет в этой логике стал апогеем холодной войны. Он показал себя не как свобода, а как чрезвычайно эффективный инструмент дораспространения победившей картины мира до каждого отдельного человека.

А теперь в игру входит ИИ. Сегодня мы обсуждаем «распад интернета», национальные файрволы и суверенные платформы, но борьба уже сместилась на следующий уровень. И здесь ИИ важно воспринимать не как умный чат или новый Google, а как фабрику производства смыслов.

С приходом ИИ идею из головы одного человека превратить в фактор общественной жизни возможно очень быстро и дешево. Машины становятся конвейером, который превращает данные в готовые для усвоения человеком смыслы. Причем очень персонально под каждого, под его привычки и слабости. Если эту фабрику смыслов контролирует узкий круг игроков, то речь уже не о том, что доступно в интернете, а о том, какая реальность для человека вообще существует.

Но государства по инерции воюют за старое. Политические системы привыкли решать вчерашние задачи — отсюда и блокировки сайтов, регулирование данных, попытки «закрутить гайки» вокруг соцсетей и мессенджеров. Но в мире, где производство смысла из информации стало сверхдешевым и массовым, контролировать одни только «трубы» доставки информации уже неэффективно. Слишком много дыр, обходных путей, хаков.

Настоящая битва начинается за другое — за пространство, в котором у человека вообще рождаются мысли и желания. Но как контролировать идеи в голове человека, если они по определению невидимы даже для него самого?

Ответ простой и очень неприятный. Нужно заместить жизненное пространство для этих идей. Создать такую среду, в которой одни идеи почти гарантированно не возникают, а другие кажутся человеку единственно естественными и нормальными. Раньше за это отвечали семья, школа, церковь, окружение, СМИ. Сегодня к ним добавляются цифровые экосистемы, соцсети, рекомендательные алгоритмы, игровые миры, а скоро еще и постоянное присутствие ИИ-помощников.

Эти помощники не просто отвечают на вопросы. Они начинают предлагать варианты выбора и формировать «естественный» язык описания себя и мира. Если этот слой принадлежит системе, а не человеку, то свобода воли превращается в ощущение выбора из заранее составленного меню. Внешне вы нажимаете кнопки сами. Внутри вас к этим кнопкам мягко подводят годами.

Вот здесь, на стыке ИИ и человеческой психики, и проходит новая «линия фронта». Там, где собираются и настраиваются модели, на которых обучаются и дети, и взрослые.

Национальные интернеты и свои ИИ как попытка построить собственный мир идей сродни жизненной необходимости иметь собственную атомную бомбу. Когда страны говорят о цифровом суверенитете, они интуитивно чувствуют этот сдвиг. Но чаще всего выражают его по инерции через привычные инструменты в попытке укрепить границы на уровне проводов и протоколов.

Если мы не хотим жить исключительно в чужой картине мира, нам нужен не только свой кабель, но и свои язык, система смыслов, модели и вопросы, которые вообще считаются легитимными. И это не про «запретить чужой контент». Это про «уметь рожать собственные идеи и облекать их в технологии».

Сейчас политика, экономика и технологии догоняют друг друга. На старых уровнях это выглядит как распад единого интернета на зоны влияния, цифровые блоки и регулируемые сегменты. На новом — как борьба за то, кто будет хозяином пространства идей, из которых потом выращиваются и законы, и бизнес-модели, и личные судьбы. И это уже вопрос не только к государствам, но и к нам с вами. Либо мы соглашаемся жить в заранее спроектированном для нас жизненном пространстве, где выбор сводится к тому, какой интерфейс нам милее. Либо учимся собирать свои способы думать, вопросы к миру и объединения людей, которые не только потребляют готовые смыслы, но и создают новые.

Послесловие от ВиД

Расшифруйте FORCES

О технологиях манипулирования людьми через Сеть рассказывал, в частности, ресурс SecurityLab, ссылаясь на зарубежные исследования.

Психолог Патрик Фаган предупреждает о том, что многие интернет-ресурсы используют скрытые методы воздействия на пользователей, которые он обозначил акронимом FORCES. Методы направлены на то, чтобы незаметно подтолкнуть людей к определённым действиям и решениям.

Фаган объясняет, что «нуджинг» (от англ. «nudge» — подталкивание) — это способ изменить мысли и решения людей предсказуемым образом, не апеллируя напрямую к их экономическим или практическим интересам. В отличие от пропаганды, нуджинг действует тонко, не блокируя альтернативные варианты, но направляя человека к желаемому исходу.

Как нас подталкивают к действиям

В статье «Clicks and Tricks: The Dark Art of Online Persuasion» Фаган исследует различные методы цифрового нуджинга и предлагает акроним FORCES для их описания: Frame (Оформление), Obstruct (Препятствие), Ruse (Обман), Compel (Принуждение), Entangle (Запутывание) и Seduce (Соблазнение). Рассмотрим каждый из этих методов подробнее.

• Оформление включает в себя представление информации таким образом, чтобы она влияла на выбор пользователя. Например, поддельные отзывы и рекомендации, утверждения о дефиците товара или его высокой востребованности создают искусственное ощущение срочности. Такой подход также включает визуальное выделение одного варианта среди других, что приводит к выбору именно его.
• Препятствие подразумевает создание сложностей для выполнения намеренных действий пользователя. Примеры включают трудности с отменой подписки или выходом из аккаунта, задержки во времени, скрытие информации о ценах и автоматических продлениях, а также дополнительные шаги для нахождения нужных страниц и политик.
• Обман касается введения пользователя в заблуждение, заставляя его сделать выбор, который он не планировал. Это может быть маскировка рекламы под обычный контент, задержка в появлении рекламы для случайного нажатия, или кнопки «скачать здесь», которые перенаправляют на другую страницу. Обман также включает такие приемы, как «приманка и подмена», когда пользователь начинает одно действие, а заканчивает другим, и отвлекающие элементы, которые мешают заметить важные детали.
• Принуждение подразумевает вынуждение пользователя делать то, чего он не хотел. Например, автоматические повторяющиеся списания средств с карты или предустановленные опции в онлайн-формах. Геймеры сталкиваются с «гриндингом» — повторением одних и тех же действий для получения наград, а приложения часто напоминают о покупке премиум-версий через назойливые всплывающие окна.
• Запутывание направлено на удержание пользователя на сайте или в приложении дольше, чем он планировал. Это достигается через бесконечное автоматическое воспроизведение видео, нескончаемую прокрутку контента и постоянные уведомления.
• Соблазнение касается эмоционального воздействия на пользователя. Исследования показывают, что сообщения, вызывающие эмоциональный отклик, имеют большую вероятность стать вирусными. Например, новости с заголовками, содержащими сюрпризы и восклицательные знаки, чаще делятся пользователями.

Борьба с манипуляциями

Статья «Clicks and Tricks» показывает, что негативные эмоции являются одним из главных факторов, приводящих к вирусному распространению сообщений. Исследование 51 миллиона твитов о текущих событиях выявило, что негативность, причинно-следственные аргументы и угрозы личным или общественным ценностям способствуют распространению информации.

Нуджинг не ограничивается только продажей товаров или услуг. В книге «Free Your Mind» Фаган и его соавтор Лаура Додсворт описывают, как правительственные органы используют такие методы для продвижения идей и политик среди населения. Например, в Великобритании в 2010 году была создана «Nudge Unit», цель которой — влиять на общественное мнение и подталкивать людей к выполнению государственных директив.

Акроним FORCES помогает распознать моменты, когда нас пытаются манипулировать, и это уже половина успеха в борьбе с нежелательным влиянием.