Массовый успех Facebook в итоге привел к катастрофе. Бизнес-модель зависит от рекламы, которая, в свою очередь, зависит от манипулирования вниманием пользователей, чтобы они видели больше рекламы. Одним из лучших способов манипулировать вниманием является обращение к возмущению и страху, эмоциям, которые увеличивают вовлеченность. Алгоритмы Facebook дают пользователям то, что они хотят, поэтому новостная лента каждого человека становится уникальной реальностью, фильтрующим пузырем, который создает иллюзию того, что большинство людей, которых знает пользователь, верят в одно и то же. Показывать пользователям только те сообщения, с которыми они согласны, было полезно для итогов Facebook, но некоторые исследования показали, что это также усилило поляризацию и, как мы узнали, нанесло ущерб демократии.

Чтобы подкармливать свой ИИ и алгоритмы, Facebook собирал данные везде, где мог. Вскоре Facebook шпионил за всеми, включая людей, которые не используют Facebook. К сожалению для пользователей, Facebook не смог защитить эти данные. Facebook иногда обменивал данные, чтобы совершать лучшие сделки. Эти вещи увеличили количество пользователей и время на сайте, но потребовалось еще одно новшество, чтобы сделать рекламный бизнес Facebook гигантским успехом.

С конца 2012 по 2017 год Facebook усовершенствовал новую идею — взрывного роста (growth hacking, прим. перев.) — где он постоянно экспериментировал с алгоритмами, новыми типами данных и небольшими изменениями в дизайне, измеряя все. Growth Hacking позволил Facebook настолько эффективно монетизировать океаны данных, что метрики "взрывного роста" начали блокировать все остальные соображения. В мире взрывного роста пользователи являются метрикой, а не людьми. Каждое действие, которое предпринимал пользователь, давало Facebook лучшее понимание этого пользователя и его друзей, что позволяло компании каждый день вносить крошечные «улучшения» в работу пользователей, то есть улучшать манипулирование вниманием пользователей. Любой рекламодатель может купить доступ к этому вниманию, чем русские в полной мере воспользовались. Если во внутренних беседах Facebook когда-либо всплывала фраза "гражданская ответственность", я не вижу тому никаких доказательств.

Люди на Facebook живут в своем собственном пузыре. Цук всегда верил, что объединение всех людей на земле — это такая важная миссия, что она оправдывает любые действия, необходимые для ее достижения. Убежденный в благородстве своей миссии, Цук и его сотрудники, похоже, слушают критику, не меняя своего поведения. Они реагируют почти на каждую проблему тем же подходом, который создал проблему в первую очередь: больше ИИ, больше кода, больше краткосрочных исправлений. Они делают это, не потому что они плохие люди. Они делают это, потому что успех исказил их восприятие реальности. Они не могут представить, что недавние проблемы могут быть каким-либо образом связаны с их проектами или деловыми решениями. Им никогда не пришло бы в голову выслушать критиков — сколько миллиардов людей объединяет любовь к критике? — гораздо меньше способны пересмотреть способ ведения бизнеса. В результате, столкнувшись с доказательствами того, что дезинформация и фальшивые новости распространились по Facebook и, возможно, повлияли на референдум в Великобритании или выборы в США, Facebook разыграл пьесу, в которой он играл с момента своего основания: отрицать, откладывать, отклонять, лукавить. Facebook раскрылся только тогда, когда его заставили, и раскрыл как можно меньше информации. Затем дело дошло до плана Б: извиниться и пообещать сделать лучше.

Благодаря необычайному успеху Facebook'а, бренд Цука в мире технологий сочетает в себе элементы рок-звезды и культового лидера. Он полностью привержен продукту и не заинтересован в остальной части бизнеса. Согласно многочисленным сообщениям, Цук известен своими продуктами для микроменеджмента и решимостью. Бесспорно, он — босс. Подчиненные Цука изучают его и разрабатывают методы воздействия на него. Шерил Сэндберг блестящая, амбициозная и в высшей степени хорошо организованная. Наделяя Цука статусом основателя, команда редко (либо вообще никогда) бросает ему вызов или стоит на его пути. То же самое произошло и в плохие времена. (Представитель Facebook отвечает: «Люди все время не согласны с Марком»).

Можно подумать, что пользователи Facebook будут возмущены тем, как платформа используется для подрыва демократии, прав человека, конфиденциальности, общественного здравоохранения и инноваций. Кто-то, возможно, и будет; но почти 1,5 миллиарда человек используют Facebook каждый день. Они используют его, чтобы оставаться на связи с дальними родственниками и друзьями. Они любят делиться своими фотографиями и своими мыслями. Они не хотят верить, что та же платформа, которая стала мощной привычкой, также несет ответственность за такой большой вред. Facebook использовал доверие нашей семьи и друзей для создания одного из самых дорогостоящих бизнесов в мире, но в процессе этого он был небрежен с пользовательскими данными и усугублял недостатки нашей демократии, оставляя граждан все менее способными думать самостоятельно, не знать, кому доверять или действовать в своих интересах. Плохие актеры провели день в окопах, используя Facebook и Google, используя доверие пользователей для распространения дезинформации и разжигания ненависти, подавления голосования и поляризации граждан во многих странах. Они будут продолжать делать это до тех пор, пока мы, будучи гражданами, не восстановим наше право на самоопределение.

Нам нужно начать реформирование Facebook и сферу Big Tech в следующих ключевых областях:

Демократия

Демократия зависит от общих фактов и ценностей. Она зависит от осмысления и торжества закона. Она зависит от наличия свободной прессы и других противодействующих сил для привлечения влиятельных людей к ответственности. Facebook (наряду с Google и Twitter) подрезал свободную прессу с двух сторон: он подорвал экономику журналистики, а затем подавил ее дезинформацией. На Facebook информация и дезинформация выглядят одинаково; единственное отличие состоит в том, что дезинформация приносит больший доход, поэтому ее гораздо лучше причесывают и накрашивают. Для Facebook факты не являются абсолютными; их выбор следует оставить сначала пользователям и их друзьям, а затем их усиливают алгоритмы, способствующие вовлечению. В том же духе алгоритмы Facebook продвигают экстремальные сообщения, а не нейтральные, что может усилить дезинформацию над информацией, превосходство теории заговора над фактами. Единомышленники могут делиться своими взглядами, но они также могут блокировать любой факт или точку зрения, с которой они не согласны.

В масштабе Facebook — или Google — нет никакого способа избежать влияния на жизнь пользователей и будущее наций. Новейшая история говорит о том, что угроза для демократии реальна. Усилия, предпринимаемые на сегодняшний день Facebook, Google и Twitter для защиты будущих выборов, могут быть искренними, но нет никаких оснований полагать, что они сделают что-то большее, чем просто начнут играть в противостояние с теми, кто решит вмешаться. Только фундаментальные изменения в бизнес-моделях могут снизить риск для демократии. Facebook остается угрозой для бессильных во всем мире. Сервис Free Basics компании предоставил интернет-услуги бедным людям примерно в 60 странах, но за счет массовых социальных потрясений. Отсутствие языковых навыков и культурная невосприимчивость ослепили Facebook тем, как его платформа может использоваться для нанесения вреда беззащитным меньшинствам. Это уже привело к смертельным исходам в Шри-Ланке и Мьянме (примеры новостей по ссылкам — прим. перев.).

Приватность

Facebook остается угрозой конфиденциальности. Приверженность компании всеобщему надзору заставляет спецслужбы гордиться, но не их методы работы с данными. Должны быть версии ленты новостей Facebook и все результаты поиска, которые не подвержены манипуляциям. Пользователи должны владеть своими данными и иметь абсолютный контроль над тем, как они используются. Пользователи имеют право знать название каждой организации и человека, которые имеют доступ к его данным. Это относится не только к платформам, но и к операторам сотовой связи и третьим сторонам, которые получают доступ к пользовательским данным. Еще одна важная возможность регулирования — это переносимость данных, благодаря которой пользователи могут перемещать все полезное с одной платформы на другую. Это поможет стартапам преодолеть непреодолимый барьер адаптации. Платформы также должны быть прозрачными для пользователей, рекламодателей и регуляторов.

Контроль над данными

Пользователи всегда должны владеть всеми своими собственными данными и метаданными, и им следует получать за это гораздо лучшую компенсацию. Никто не должен иметь возможность использовать данные пользователя каким-либо образом без явного предварительного согласия. Сторонние проверки алгоритмов, сравнимые с тем, что существует сейчас для финансовой отчетности, создали бы прозрачность, необходимую для ограничения нежелательных последствий. Должны быть ограничения на то, какие данные можно собирать, чтобы пользователи могли ограничивать сбор данных или выбирать конфиденциальность. Это необходимо сделать немедленно, прежде чем новые продукты, такие как Alexa и Google Home, получат массовое распространение. Устройства «умный дом» в настоящее время представляют собой бесконечные хранилища данных с возможностью массового злоупотребления. Наконец, я хотел бы предотвратить развертывание передовых технологий, таких как искусственный интеллект и автоматизированные боты, без доказательств того, что они служат людям, а не эксплуатируют их. Это может быть достигнуто через эквивалент Управления по контролю за продуктами и лекарствами (FDA) для технологии.

Регулирование

Если я рассматриваю Google, Amazon и Facebook исключительно с точки зрения инвестиций, я не могу не удивиться тому, как блестяще они выполнили свои бизнес-планы. Проблема в непреднамеренных последствиях, которые являются более многочисленными и серьезными, чем мы можем себе позволить. Google и Facebook искусственно прибыльны, потому что они не платят за ущерб, который они наносят.

Экономика США исторически зависела от стартапов гораздо больше, чем другие экономики, особенно в сфере технологий. Если моя гипотеза верна, Штаты начали рискованный эксперимент с зависимостью от монополистов в сфере инноваций, ростом экономики и созданием рабочих мест.

Google, Amazon и Facebook последовали стратегическому плану монополистов и создали зоны «Не входить!» вокруг своих основных бизнес-процессов. Их успех поднял планку для стартапов, сузив возможности для взрывного успеха и вынуждая предпринимателей продавать стартапы рано или использовать возможности с меньшим потенциалом. Они построили дополнительные стены за счет приобретения стартапов, которые могли бы представлять конкурентную угрозу. Этим компаниям не нужно перекрывать деятельность стартапов, чтобы быть успешными, но они не могут помочь себе. Так действуют монополисты.

С точки зрения экономической политики, я хочу установить ограничения на рынки, на которых могут работать игроки класса монополии, такие как Facebook, Google и Amazon. Экономика выиграет от их разрыва. Первым шагом будет предотвращение поглощений, а также перекрестного субсидирования и обмена данными между продуктами на каждой платформе. Я поддерживаю регулирование как способ уменьшить вредное поведение. Наиболее эффективные правила будут вызывать изменения в бизнес-моделях.

Относительно сегодняшних стандартов, эти рекомендации звучат экстремально, но другого пути защиты детей, взрослых, демократии и экономики не может быть. У наших родителей, бабушек и дедушек был похожий день с табаком. Теперь наша очередь, на этот раз с интернет-платформами.

Отдайте технологии людям

С технологической точки зрения, наиболее многообещающий путь вперед — через инновации, на которые платформы сегодня слишком сильно влияют. Антимонопольное правоприменение может создать пространство для инноваций, но нам нужно нечто большее. Я предлагаю, чтобы Силиконовая долина приняла технологии, которыми управляют люди, как Следующее Большое Cобытие (the Next Big Thing, прим. перев.). В Америке, если вы хотите решить проблему, ваше желание помогает включить мотив прибыли — что мы и можем сделать, сместив акцент технологии с эксплуатации самых слабых звеньев человеческой психологии на приверженность расширению прав и возможностей пользователей.

Как будут выглядеть технологии, управляемые людьми? Они дают пользователям больше возможностей, чем эксплуатирует их. Социальные сети, которыми человек управляет сам, позволят делиться информацией с друзьями, но без масштабного наблюдения, фильтрующих "инфопузырей" и угрозы потери данных. В обмен на принятие благоприятной бизнес-модели, (возможно, основанной на подписках), стартапы получат защиту от гигантов. Учитывая, что социальные сети полезны на практике, я думаю, что стоит рассмотреть более агрессивные стратегии, в том числе государственные субсидии. Правительство уже субсидирует геологоразведку, сельское хозяйство и другие виды экономической деятельности, которые страна считает приоритетными, и не исключено, что социальные сети с гражданской ответственностью могут иметь важное значение для будущего страны. Субсидии могут предоставляться в форме финансирования исследований, капитала для стартапов, налоговых льгот и тому подобного.

Следующая Большая Идея предлагает переосмыслить архитектуру Интернета. Например, я хотел бы получить конфиденциальность с новой моделью аутентификации для доступа к веб-сайту, которая позволяет веб-сайтам собирать только минимальный объем данных, требуемый для каждой транзакции. Он будет работать как менеджер паролей, но с парой важных отличий: он будет выходить за рамки хранения паролей и выполнять вход в систему и хранить личные данные на устройстве, а не в облаке. Apple использует эту модель, предлагая своим клиентам ценные преимущества конфиденциальности и безопасности по сравнению с Android.

Зависимость

Все угрозы интернет-платформ для общественного здравоохранения вытекают из дизайна выбора. Технологии способны убедить, а финансовые стимулы рекламных бизнес-моделей гарантируют, что убеждение всегда будет целью по умолчанию для каждого дизайна. Каждый пиксель на каждом экране каждого интернет-приложения настроен так, чтобы влиять на поведение пользователей. Не каждый пользователь может находиться под влиянием все время, но почти все пользователи могут быть подвержены влиянию в течение некоторого времени. В самых крайних случаях у пользователей развивается поведенческая зависимость, которая может снизить качество их жизни, а также качества жизни членов семьи, коллег по работе и близких друзей. Мы не знаем распространенности поведенческих пристрастий к Интернету, но в отдельных случаях они кажутся широко распространенными. Миллионы людей проверяют свой телефон первым делом с утра. Для большинства второй вопрос заключается в том, делают ли они это до того, как они мочатся, или пока они мочатся. Слишком много людей сообщают о проблемах со сном, потому что они не могут прекратить пользоваться своим телефоном или планшетом. Вполне возможно, что большинство ежедневных пользователей Facebook имеют некоторый уровень поведенческой зависимости. Проблема с зависимостью заключается в том, что она лишает жертву свободы воли. Даже когда наркоман понимает потенциал для вреда, он или она не может не продолжать свою деятельность. Чтобы изменить это, потребуется нечто большее, чем регулирование. Для борьбы с интернет-зависимостью потребуются инвестиции в исследования и услуги общественного здравоохранения.

Защита детей

Растущий процент детей предпочитает гиперстимуляцию виртуального опыта реальному миру. Такие продукты, как Instagram, расширяют возможности для травли. Текстовые сообщения заменили разговоры для многих детей. Трудно понять, как все повернется, но некоторые медицинские исследователи подняли тревогу, отметив, что мы разрешили психологические эксперименты без присмотра на миллионах людей. Медицинские исследования поддерживают случай для регулирования. Помимо ограничений по возрасту, когда дети могут использовать экраны, такие как смартфоны и планшеты, существуют свидетельства того, что телефоны и компьютеры могут отвлекать внимание в классных комнатах.

Вред для общественного здравоохранения, демократии, конфиденциальности и конкуренции, причиняемый Facebook и другими платформами, является следствием их бизнес-моделей, которые необходимо изменить. Как пользователи, мы имеем больше возможностей для изменения, чем мы думаем. Мы можем изменить наше поведение. Мы можем создать политическое движение. Мы можем настаивать на вмешательстве правительства в продвижение технологий, управляемых человеком, в качестве альтернативы добывающей технологии. В то же время правительство должно принять меры для устранения ущерба от интернет-платформ. Нам необходимо восстановить институты, найти общий язык с теми, с кем мы не согласны, и снова начать действовать как одна страна. Политическая и социальная сила Facebook и других интернет-платформ нездорова и неуместна в такой демократии, как наша. Мы должны привлечь их к ответственности и настаивать на реальных решениях, а не на большем количестве кода.

Заметка редактора TIME: В ответ на просьбу, Facebook указал на сообщение Шерил Сандберг в 2018 году, в котором подробно описываются усилия компании в области конфиденциальности, демократии, безопасности и других проблем. Его можно найти на time.com/sandberg-responseMcNamee был инвестором Силиконовой долины в течение 35 лет. Его последний фонд, Elevation, включил Боно из U2 в качестве соучредителя. Эта часть адаптирована из его новой книги Роджера Макнэми «Zucked: пробуждение от катастрофы Facebook». Опубликовано по договоренности с «Пингвин Пресс», членом ООО «Пингвин Рэндом Хаус».

This appears in the January 28, 2019 issue of TIME. Оригинал статьи.