В Сенате США дала показания экс-сотрудница Facebook. Компанию обвиняют в «предательстве демократии» и разжигании ненависти. В чем опять виноват Марк Цукерберг — коротко

На прошлой неделе The Wall Street Journal опубликовала серию расследований «Досье Facebook». Они основаны на «слитых» внутренних документах компании. Среди прочего оказалось, что Instagram негативно влияет на психику подростков. Дети сравнивают себя с кумирами и знаменитостями, что приводит к комплексам, проблемам с психическим здоровьем и расстройствам пищевого поведения. Компания и сам Марк Цукерберг прекрасно знают об этом, но ничего не предпринимают — наоборот, строят новые планы по привлечению подростков, так как считают их «ценной, еще не использованной аудиторией». Серия публикаций The Wall Street Journal вызвала шквал критики в адрес компании. В прошлый четверг в Комитете по торговле Сената США прошли слушания, на которых дала показания руководитель службы безопасности Facebook Антигона Дэвис. Пятого октября показания в Сенате дала бывшая сотрудница компании Фрэнсис Хауген. Она же раньше передала документы редакции WSJ. Обозреватель «Бабеля» Самуил Проскуряков следил за выступлением Хауген и объясняет, в чем обвиняют Facebook и чем это грозит компании.

Кто такая Фрэнсис Хауген

Фрэнсис работала в Facebook ведущим менеджером по продукту с 2019 года и уволилась в мае 2021-го. До того успела поработать в Google, Pinterest, Yelp. Она дала интервью, где рассказала о своей работе и о том, что побудило ее предать документы широкой огласке.

Во время работы на Facebook ее все больше беспокоил выбор, который компания делает: «Facebook снова и снова показывала, что предпочитает прибыль, а не безопасность. [...] Для меня это действительно похоже на предательство демократии».

Фрэнсис скопировала десятки тысяч страниц документов — по ее словам, большая их часть размещена на внутреннем сервере компании, доступ к которому имели практически все сотрудники Facebook. Перед тем, как «слить» документы, Фрэнсис советовалась с матерью и священником.

В чем обвиняют Facebook

• Соцсеть ведет тайный список VIP-пользователей, которые имеют «иммунитет» к обычным автоматизированным алгоритмам модерации. Сомнительные или вызывающие вопросы посты таких юзеров всегда изучают живые люди и в индивидуальном порядке. Более того, своим «элитным» пользователям соцсеть позволяет демонстративно нарушать правила: распространять фейки, призывы к насилию, публиковать чужие личные данные и обнаженные фотографии — все то, за что пост обычного пользователя немедленно удалят, а его самого забанят. Подробно об этом «Бабель» писал здесь.
• Instagram негативно влияет на здоровье подростков. Чтобы конкурировать с популярными среди детей TikTok и Snapchat, руководство Facebook запустило разработку «детской» версии Instagram. Исследовательские группы компании думали, как адаптировать интерфейс и содержание приложения, чтобы заинтересовать не только подростков 15—18 лет, но и детей младше 13. При этом руководство и Марк Цукерберг прекрасно знают о негативном влиянии, которое их соцсети оказывают на юных пользователей: внутреннее исследование компании демонстрирует, что 40 процентов юношей испытывают негативные последствия социального сравнения, а 32 процента девочек-подростков, которые вообще критично относились к своему телу, почувствовали себя еще хуже после того, как начали пользоваться соцсетью. В компании скрыли выводы внутреннего исследования.
• Facebook в развивающихся странах используют в преступных целях. Слабая модерация постов за пределами США, Великобритании и Канады превратила соцсеть в виртуальную торговую площадку для преступных организаций — от мексиканских наркокартелей до торговцев людьми из Азии. У компании просто не хватает рук в региональных офисах, чтобы контролировать и удалять такой контент.
• Модераторы не способны предотвратить разжигание ненависти среди неанглоязычных пользователей. Группировки экстремистов используют соцсеть как площадку для своей пропаганды. Например, в провластных эфиопских группах открыто призывают к насилию над этническим меньшинством тиграи. Из-за недостаточно профессиональной работы с данными и нехватки компетентных региональных администраторов такие посты становятся вирусными и подолгу висят в лентах тысяч пользователей, прежде чем их удалят. Другой подобный кейс — кампания против проживающего в Мьянме народа рохинджа, исповедующего в основном ислам. В августе 2018 года в Facebook обнаружили более тысячи постов, комментариев и роликов, где буддисты призывают гнать рохинджа из Мьянмы, называя их «свиньями» и «собаками». Журналисты Reuters объясняли такое попустительство тем, что до 2015 года у Facebook был всего один модератор, который владел бирманским языком и отвечал за удаление такого контента. Позже количество модераторов выросло до четырех и только недавно до 60.
• Facebook не смогла противостоять антипрививочникам, несмотря на желание Цукерберга использовать соцсеть для популяризации вакцин от ковида. Соцсеть наводнена «барьерами для вакцинации». Сотрудникам соцсети хорошо известен масштаб распространения фейков и теорий заговора, но руководство не предлагает никаких эффективных мер по борьбе с ними. Еще весной 2021 года выяснилось, что 41 процент англоязычных постов о коронавирусе в Facebook на самом деле направлены против вакцинации, а всего пользователи видят в ленте посты антиваксеров 775 миллионов раз в сутки.
• Прибыль важнее борьбы с дезинформацией. Компания пыталась бороться с дезинформацией на президентских выборах 2020 года в США, но сразу после них отключила или изменила соответствующие настройки и распустила группу сотрудников, работавших над этими задачами — чтобы «сделать рост важнее безопасности».
• Facebook невольно продвигает агрессивный контент и заведомо ложную информацию. Пост с противоречивым мнением, который вызывает негативные отклики, алгоритмы соцсети расценивают как важный и вызывающий «осмысленные социальные реакции», а значит, его показывают в ленте чаще, чем невинные посты о семье или котиках.

Что Хауген сказала на слушаниях в Сенате

Пятого октября Хауген выступила в Сенате США. Она пришла в Сенат как инсайдер и принесла тысячи внутренних документов в поддержку своей позиции. Они доказывают, что Facebook неоднократно вводила общественность в заблуждение по поводу безопасности детей, точности систем искусственного интеллекта и распространения расистских заявлений и призывов к насилию. Она считает, что парламент должен потребовать от Facebook большей прозрачности ее алгоритмов и внутренних показателей — без этого регулировать работу платформы невозможно.

Хауген предложила внести изменения в Раздел 230 закона «О порядочности в коммуникациях», который защищает платформы и сайты от юридической ответственности за контент, размещенный их пользователями. По ее мнению, такой шаг заставит соцсети более ответственно подходить к выбору того, как ранжировать контент в ленте пользователей и какие алгоритмы использовать для рекомендаций и удаления опасного контента.

В марте этого года представители Конгресса США от Демократической партии Том Малиновски (штат Нью-Джерси) и Анна Г. Эшу (штат Калифорния) внесли законопроект «О защите американцев от опасных алгоритмов» с похожим предложением — вывести платформы и сайты из-под защиты Раздела 230. Авторы законопроекта уверяют, что сохранили основные элементы Раздела 230, защищающие свободу слова пользователей. Проект нацелен исключительно на рекомендательные системы соцсетей.

Что говорят сенаторы

Сенатор-республиканец от штата Техас Тед Круз заявил, что публикации WSJ «произвели эффект разорвавшейся бомбы». Представитель Коннектикута в Сенате и один из инициаторов расследования Ричард Блюменталь сравнил происходящее с борьбой с табачной промышленностью: «Facebook последовала примеру Big Tobacco, скрыв собственные исследования о зависимости и токсических эффектах своих продуктов».

Это сравнение поддержал коллега-однопартиец Блюменталя Эд Марки: «Instagram эксплуатирует их стремление к популярности среди ровесников и вынуждает подвергать свое здоровье опасности».

На первой сессии слушаний по делу Facebook сенатор-демократ Ричард Блюменталь рассказал, как его помощники создали фейковый аккаунт 13-летней девочки и подписались на несколько страниц об экстремальном похудении. Меньше чем через сутки соцсеть стала рекомендовать аккаунту еще больше контента, навязывающего пищевые расстройства и нанесение себе увечий.

Он обратил внимание на недостатки механики Instagram: соцсеть позволяет подросткам создавать аккаунты и ничего не может поделать, если те врут о своем возрасте.

Что отвечает компания

Facebook после серии публикаций сообщила, что приостанавливает работу над «детской» версией Instagram. Руководитель этой соцсети Адам Моссери объяснил, что разработчики взяли паузу, чтобы пообщаться с родителями, исследователями, экспертами и прийти к единой позиции.

Однако публично руководители компании не признали ни одного из выдвинутых в ее адрес обвинений. По их мнению, расследование WSJ представляет однобокий взгляд на проблему и приписывает «ложные мотивы» руководству Facebook. Компания «осознает значительную ответственность, связанную с управлением глобальной платформой», и продолжит «инвестировать в исследования этих серьезных и сложных проблем», чтобы улучшать свои продукты и услуги.

Пока что Facebook не анонсировала никаких реформ и не представила обновленные гайдлайны, которые учитывали бы отмеченные журналистами недостатки.

Тридцатого сентября 2021 года в комитете сената США по защите прав потребителей прошли слушания с участием руководителя отдела безопасности компании Facebook Антигоны Дэвис, которой пришлось отвечать на вопросы и выслушивать критику сенаторов — как республиканцев, так и демократов.

Она придерживалась той же линии, что и ее коллеги в общении с прессой: говорила, что расследователи WSJ неправильно интерпретировали внутренние документы, а на самом деле Instagram помогает многим подросткам преодолеть психологические проблемы. Выступление Дэвис не показалось сенаторам убедительным.

Это не первый большой скандал в Facebook

В марте 2018 года журналисты The New York Times узнали, что британской аналитической компании Cambridge Analytica удалось собрать личные данные более 50 миллионов пользователей соцсети. Позже Facebook сообщила об утечке данных почти 90 миллионов юзеров. Сотрудники Cambridge Analytica использовали собранную информацию, чтобы разработать алгоритм анализа политических предпочтений избирателей — он значительно облегчал рассылку политической рекламы с целью повлиять на голосование. Вероятно, этот алгоритм использовали во время референдума о выходе Великобритании из Европейского Союза, а также предвыборный штаб Дональда Трампа в 2016 году.

Также выяснилось, что администрация социальной сети Facebook в течение многих лет предоставляла доступ к чувствительной информации пользователей примерно 150 компаниям. Среди партнеров соцсети значился и российский «Яндекс».

Главе Facebook Марку Цукербергу в апреле 2018 года пришлось выступить на трех слушаниях в Конгрессе США. Предприниматель заверил американских законодателей, что в дальнейшем в Facebook будут бережно обращаться с личными данными пользователей.

«Я основал Facebook и в конце концов я отвечаю за то, что происходит на нашей платформе», — заявил тогда Цукерберг на своей странице.

Тогда акции компании Facebook потеряли в цене 40 миллиардов долларов всего за один день. Впрочем, вскоре их стоимость опять стала расти. Компании пришлось выплатить Федеральной торговой комиссии США штраф в 5 миллиардов долларов и улучшить политику конфиденциальности данных в соцсети. В ноябре 2020 года Южная Корея оштрафовала Facebook на 6 миллионов долларов за передачу компаниям данных пользователей.

Мы от читателей ничего не скрываем. Поддержите Бабель донатом.