У Сенаті США слухали свідчення колишньої співробітниці Facebook. Компанію звинувачують у «зраді демократії» та розпалюванні ненависті. Чим знову завинив Марк Цукерберг — коротко

Минулого тижня The Wall Street Journal опублікувала серію розслідувань «Досьє Facebook». Вони засновані на «злитих» внутрішніх документах компанії. Зокрема, виявилося, що Instagram негативно впливає на психіку підлітків. Діти порівнюють себе з кумирами та знаменитостями, що призводить до комплексів, проблем із психічним здоровʼям і розладів харчової поведінки. Компанія і сам Марк Цукерберг знають про це, але нічого не роблять — навпаки, будують нові плани щодо залучення підлітків, оскільки вважають їх «цінною, ще не використаною аудиторією». Серія публікацій The Wall Street Journal викликала шквал критики на адресу компанії. Минулого четверга в Комітеті з торгівлі Сенату США відбулися слухання, на яких свідчила керівник служби безпеки Facebook Антігона Девіс. Пʼятого жовтня свідчення в Сенаті надала й колишня співробітниця компанії Френсіс Хауген. Саме вона раніше передала документи редакції WSJ. Оглядач «Бабеля» Самуїл Проскуряков прослухав виступ Хауген і пояснює, у чому звинувачують Facebook і чим це загрожує компанії.

Хто така Френсіс Хауген

Френсіс працювала у Facebook провідним менеджером з продукту від 2019 року і звільнилася у травні 2021-го. До того вона встигла попрацювати в Google, Pinterest, Yelp. Вона дала інтервʼю, де розповіла про свою роботу і про те, що спонукало її піддати документи широкому розголосу.

Під час роботи на Facebook її все більше турбував вибір, який компанія робить: «Facebook знову і знову показувала, що вважає за краще прибуток, а не безпеку. [...] Для мене це справді схоже на зраду демократії».

Френсіс скопіювала десятки тисяч сторінок документів — за її словами, велика їх частина розміщена на внутрішньому сервері компанії, доступ до якого мали практично всі співробітники Facebook. Перш ніж злити документи, Френсіс радилася з матірʼю і священником.

У чому звинувачують Facebook

• Соцмережа веде таємний список VIP-користувачів, які мають «імунітет» до звичайних автоматизованих алгоритмів модерації. Сумнівні пости таких користувачів завжди вивчають живі люди в індивідуальному порядку. До того ж своїм «елітним» користувачам соцмережа дозволяє демонстративно порушувати правила: поширювати фейки, заклики до насильства, публікувати чужі особисті дані та оголені фотографії — усе те, за що пост звичайного користувача негайно видалять, а його самого забанять. Детально про це Бабель писав тут.
• Instagram негативно впливає на здоровʼя підлітків. Аби конкурувати з популярними серед дітей TikTok і Snapchat, керівництво Facebook запустило розробку «дитячої» версії Instagram. Дослідницькі групи компанії розмірковували, як адаптувати інтерфейс і зміст програми, щоб зацікавити не тільки підлітків 15—18 років, але й дітей молодше 13. При цьому керівництво і Марк Цукерберг прекрасно знають про негативний вплив, який їхні соцмережі мають на юних користувачів: внутрішнє дослідження компанії демонструє, що 40 відсотків юнаків відчувають негативні наслідки соціального порівняння, а 32 відсотки дівчаток-підлітків, які взагалі критично ставилися до свого тіла, стали почуватися ще гірше після того, як почали користуватися соцмережею. У компанії приховали висновки внутрішнього дослідження.
• Facebook у країнах, що розвиваються, використовують у злочинних цілях. Слабка модерація постів за межами США, Великої Британії та Канади перетворила соцмережу на віртуальний торговий майданчик для злочинних організацій — від мексиканських наркокартелів до торговців людьми з Азії. У компанії просто не вистачає рук у регіональних офісах, щоб контролювати та видаляти такий контент.
• Модератори не здатні запобігти розпалюванню ненависті серед неангломовних користувачів. Угруповання екстремістів використовують соцмережу як майданчик для своєї пропаганди. Наприклад, у провладних ефіопських групах відкрито закликають до насильства над етнічною меншиною тиграї. Через недостатньо професійну роботу з даними і брак компетентних регіональних адміністраторів такі пости стають вірусними і довгий час висять у стрічках тисяч користувачів, перш ніж їх видаляють. Інший схожий кейс — кампанія проти народу рохінджа, який проживає в Мʼянмі і сповідує переважно іслам. У серпні 2018 року у Facebook виявили понад тисячу постів, коментарів і роликів, де буддисти закликають гнати рохінджа з Мʼянми, називаючи їх «свинями» і «собаками». Журналісти Reuters пояснювали таке потурання тим, що до 2015 року Facebook мала всього одного модератора, який володів бірманською мовою і відповідав за видалення такого контенту. Згодом кількість модераторів зросла до чотирьох і лише недавно — до 60.
• Facebook не змогла протистояти антивакцинаторам, попри бажання Цукерберга використовувати соцмережу для популяризації вакцин від ковіду. Соцмережа наповнена «барʼєрами для вакцинації». Представникам соцмережі добре відомий масштаб поширення фейків і теорій змови, але керівництво не запропонувало жодних ефективних заходів, щоб з ними боротися. Ще навесні 2021 року зʼясувалося, що 41 відсоток англомовних постів про коронавірус у Facebook насправді дискредитують вакцинацію, а загалом користувачі бачать у стрічці пости антиваксерів 775 мільйонів разів на добу.
• Прибуток важливіший за боротьбу з дезінформацією. Компанія намагалася боротися з дезінформацією на президентських виборах 2020 року у США, однак одразу після них відключила або змінила відповідні налаштування і розпустила групу співробітників, які працювали над цими завданнями — аби «зробити зростання важливішим за безпеку».
• Facebook мимоволі просуває агресивний контент і завідомо помилкову інформацію. Пост із суперечливою думкою, який викликає негативні відгуки, алгоритми соцмережі розцінюють як важливий і такий, що викликає «осмислені соціальні реакції», а тому він зʼявляється у стрічці частіше, ніж невинні пости про сімʼю або котиків.

Що Хауген сказала на слуханнях у Сенаті

Пʼятого жовтня Хауген виступила в Сенаті США. Вона прийшла як інсайдер і принесла тисячі внутрішніх документів на підтримку своєї позиції. Вони доводять, що Facebook неодноразово вводила громадськість в оману щодо безпеки дітей, точності систем штучного інтелекту та поширення расистських заяв і закликів до насильства. Вона вважає, що Конгрес повинен зажадати від Facebook більшої прозорості її алгоритмів і внутрішніх показників — без цього регулювати роботу платформи неможливо.

Хауген запропонувала внести зміни в Розділ 230 закону «Про порядність у комунікаціях», який захищає платформи та сайти від юридичної відповідальності за контент, розміщений їхніми користувачами. На її думку, такий крок змусить соцмережі більш відповідально підходити до вибору того, як ранжувати контент у стрічці користувачів і які алгоритми використовувати для рекомендацій та видалення небезпечного контенту.

У березні цього року представники Конгресу США від Демократичної партії Том Малиновський (штат Нью-Джерсі) і Анна Г. Ешу (штат Каліфорнія) внесли законопроєкт «Про захист американців від небезпечних алгоритмів» зі схожою пропозицією — вивести платформи та сайти з-під захисту Розділу 230. Автори законопроєкту запевняють, що зберегли основні елементи Розділу 230, які захищають свободу слова користувачів. Проєкт націлений виключно на рекомендаційні системи соцмереж.

Що кажуть сенатори

Сенатор-республіканець від штату Техас Тед Круз заявив, що публікації WSJ «справили ефект бомби, що розірвалася». Представник Коннектикуту в Сенаті та один з ініціаторів розслідування Річард Блюменталь порівняв те, що відбувається, із боротьбою з тютюновою промисловістю: «Facebook пішла за прикладом Big Tobacco. Вона приховала власні дослідження про залежність і токсичні ефекти своїх продуктів».

З цією аналогією погоджується колега-однопартієць Блюменталя Ед Маркі: «Instagram експлуатує їхнє прагнення до популярності серед однолітків і змушує піддавати своє здоровʼя небезпеці».

На першій сесії слухань у справі Facebook сенатор-демократ Річард Блюменталь розповів, як його помічники створили фейковий акаунт 13-річної дівчинки і підписалися на кілька сторінок про екстремальне схуднення. Менше ніж за добу соцмережа стала рекомендувати акаунту ще більше контенту, який навʼязує харчові розлади і нанесення собі каліцтв.

Сенатор звернув увагу на недоліки механіки Instagram: соцмережа дозволяє підліткам створювати акаунти і нічого не може вдіяти, якщо ті брешуть про свій вік.

Що відповідає компанія

Facebook після серії публікацій повідомила, що припиняє роботу над «дитячою» версією Instagram. Керівник цієї соцмережі Адам Моссері пояснив, що розробники взяли паузу, щоб поспілкуватися з батьками, дослідниками, експертами та прийти до єдиної позиції.

Однак публічно керівники компанії не визнали жодного з висунутих на її адресу звинувачень. На їхню думку, розслідування WSJ надає однобокий погляд на проблему і приписує «помилкові мотиви» керівництву Facebook. Компанія «усвідомлює значну відповідальність, повʼязану з управлінням глобальної платформою», і продовжить «інвестувати в дослідження цих серйозних і складних проблем», щоб покращувати свої продукти та послуги.

Поки що Facebook не анонсувала ніяких реформ і не представила оновлені гайдлайни, які враховували б вказані журналістами недоліки.

Тридцятого вересня 2021 року в комітеті сенату США щодо захисту прав споживачів пройшли слухання за участю керівника відділу безпеки компанії Facebook Антігони Девіс, якій довелося відповідати на запитання і вислуховувати критику сенаторів — як республіканців, так і демократів.

Вона дотримувалася тієї ж лінії, що і її колеги у спілкуванні з пресою: говорила, що розслідувачі WSJ неправильно інтерпретували внутрішні документи, а насправді Instagram допомагає багатьом підліткам подолати психологічні проблеми. Виступ Девіс не здався сенаторам переконливим.

Це не перший великий скандал у Facebook

У березні 2018 року журналісти The New York Times дізналися, що британській аналітичній компанії Cambridge Analytica вдалося зібрати особисті дані понад 50 мільйонів користувачів соцмережі. Пізніше Facebook повідомила про витік даних майже 90 мільйонів користувачів. Співробітники Cambridge Analytica використовували зібрану інформацію, щоб розробити алгоритм аналізу політичних уподобань виборців — він значно полегшував розсилку політичної реклами із метою вплинути на голосування. Імовірно, цей алгоритм використовували під час референдуму про вихід Великої Британії з Європейського Союзу, а також передвиборчий штаб Дональда Трампа у 2016 році.

Також зʼясувалося, що адміністрація соціальної мережі Facebook протягом багатьох років надавала доступ до чутливої інформації користувачів приблизно 150 компаніям. Серед партнерів соцмережі вказаний і російський «Яндекс».

Главі Facebook Марку Цукербергу у квітні 2018 року довелося виступити на трьох слуханнях у Конгресі США. Підприємець запевнив американських законодавців, що в майбутньому у Facebook будуть дбайливо поводитися з особистими даними користувачів.

«Я заснував Facebook і зрештою я відповідаю за те, що відбувається на нашій платформі», — заявив Цукерберг на своїй сторінці.

Тоді акції компанії Facebook втратили в ціні 40 мільярдів доларів всього за один день. Утім, незабаром їхня вартість знову почала рости. Компанії довелося виплатити Федеральній торговій комісії США штраф у 5 мільярдів доларів і поліпшити політику конфіденційності даних у соцмережі. У листопаді 2020 року Південна Корея оштрафувала Facebook на 6 мільйонів доларів за передачу компаніям даних користувачів.

Ми від читачів нічого не приховуємо. Підтримайте Бабель донатом.