В конце 2020 года Facebook поддержала государственную цензуру во Вьетнаме. Коммунистическая партия Вьетнама — правящая и единственная реальная партия в стране. Перед съездом партии, который состоялся в январе 2021 года, руководство Вьетнама потребовало от Facebook жестче модерировать контент вьетнамских юзеров с антиправительственным уклоном — удалять посты и комментарии. И соцсеть согласилась, чтобы не терять рынок, который ежегодно приносит ей около миллиарда долларов. На вопросы журналистов руководство Facebook ответило, что согласилось выполнить требования вьетнамских властей, чтобы их услуги «оставались доступными для миллионов людей, которые полагаются на них каждый день».
Алгоритмы Facebook вовлекают людей в теории заговора и конспирологические группы. В 2019 году сама компания провела исследование работы алгоритмов. Для этого создали несколько фейковых аккаунтов, например несуществующей Кэрол Смит — консервативной домохозяйки из Северной Каролины, которая смотрит Fox News и поддерживает Дональда Трампа. Аккаунт Смит никогда не вступал в группы, посвященные теории заговора, но соцсеть сама начала активно предлагать «миссис Смит» вступить в группы QAnon. И даже когда аккаунт отказывался вступать в эти группы, платформа все равно предлагала разный конспирологический контент.
Другой тестовый аккаунт несуществующего человека из Индии, наоборот, вступал во все группы, которые рекомендовала платформа. И очень быстро оказался среди самых разнообразных экстремистских, расистских, антинаучных групп и жестокого шок-контента.
«В новостной ленте этого тестового юзера я за три недели видел больше изображений мертвых людей, чем за всю свою жизнь», — говорит исследователь, который вел аккаунт.
Facebook не предлагает юзерам контент на выбор, а загоняет их в узкие «кроличьи норы», постоянно предлагая им одно и то же. Вплоть до опасных сект и экстремистов. Компания не разглашала это исследование, но оно попало в Facebook Papers.
Фрэнсис Хауген (слева) покидает здание парламента в Лондоне после того, как дала показания в рамках планов правительства по регулированию социальных сетей, 25 октября 2021 года.
Getty Images
Молодежь уходит из Facebook, но компания скрывает это от инвесторов и рекламодателей. Молодежь все реже регистрируется в Facebook и проводит там все меньше времени. Например, согласно отчету, попавшему в Facebook Papers, по сравнению с прошлым годом время, проведенное подростками из США в соцсети, сократилось на 16 процентов. А в 2018 году 11 процентов подростковых аккаунтов были дублирующими, то есть принадлежали людям, у которых уже был аккаунт.
Но руководство платформы скрывает этот факт, предоставляя инвесторам и крупным рекламодателям только очень общую статистику. В том числе, искусственно завышает количество аккаунтов, когда засчитывает дублирующие учетные записи как аккаунты разных людей. С дублирующими аккаунтами — SUMA — в компании почти никак не боролись, хотя обещали партнерам с этим разобраться. В Facebook уже заявили, что уведомят рекламодателей о риске попадания покупок в дублирующиеся аккаунты, но все это — случайные ошибки.
Facebook поощряла эмоциональный, провокационный и шокирующий контент. В 2016 году соцсеть дополнила привычный лайк разными реакциями-эмодзи. При этом эмоциональные реакции «весили» больше, чем простой лайк. Например, реакцию «возмутительно» платформа считала сразу за пять лайков. Соответственно, контент, который вызывал искреннее возмущение юзеров, чаще попадал в ленту и был более выгодным. Уже тогда сотрудники компании критиковали это решение, считая, что оно открывает путь к повальному спаму и кликбейту. В 2020 году «вес» реакции «возмутительно» обнулили, а реакции «люблю» и «сочувствую» приравняли к двум лайкам.
В некоторых странах Facebook модерирует контент хорошо, а в некоторых — плохо. В некоторых ― не модерирует вообще. Так, 84 процента бюджета и ресурсов, выделенных на модерацию контента, уходило на работу с юзерами из США. Хотя это всего 10 процентов от всех пользователей платформы. В то же время некоторым странам не хватает модераторов, из-за чего происходит путаница, когда юзеров банят за экстремизм, неправильно переводя их фразы с арабского. В третьих странах модерации практически нет — в Мьянме, например, соцсеть представляет собой информационный хаос.
Проблема — в неравномерном распределении ресурсов. Опасаясь судебных исков, компания чрезмерно контролирует контент в демократических странах и совсем не контролирует там, где хейтспич в сети может легко привести к всплескам насилия.
Строго говоря, компания вообще не может модерировать весь контент. Сейчас в Facebook работают около 15 тысяч модераторов, которые говорят на 70 языках, правда, многие — только на английском. Контент еще на 40 языках и бесчисленном количестве диалектов остается в принципе вне всякой модерации.
Остается под вопросом личная причастность Марка Цукерберга к этим историям. Его подписи редко появлялись под документами, отчетами и резолюциями, но бывшие сотрудники утверждают, что Цукерберг вникал почти во все аспекты работы компании.
«Призрак Цукерберга вырисовывается во всем, что делает компания», — сказал Брайан Боланд, бывший вице-президент Facebook по партнерским связям и маркетингу. Он ушел в 2020 году, после того как пришел к выводу, что платформа поляризует общество.
Деятельность Цукерберга будет расследовать Комиссия по ценным бумагам и биржам США. Позиция ее нынешнего руководителя Гэри Генслера пока неизвестна, но бывший руководитель отделения SEC по разоблачению правонарушений Шон МакКесси считает, что снять с себя ответственность у основателя Facebook не получится: «Цукерберг должен быть движущей силой этих решений. [Facebook] это не типичная публичная компания с системой сдерживания и противовесов. Это не демократия, это авторитарное государство».
Марк Цукерберг, генеральный директор и основатель Facebook Inc., ожидает начала совместных слушаний судебного и коммерческого комитетов Сената в Вашингтоне, округ Колумбия, США, 10 апреля 2018 года.
Getty Images
Мы не верим в теории заговора, но верим в журналистику, которая действительно позволяет узнать правду. Поддержите «Бабель» донатом.