В 2013 году к Роберту Макдэниелу из Чикаго внезапно пришли полицейские. И заявили, что по их данным скоро он станет участником перестрелки — стрелком или жертвой. У Макдэниела были аресты за торговлю марихуаной и азартные игры, а жил он в пригородном Остине — неблагополучном районе. Но сам насильственных преступлений не совершал, поэтому слова полицейских его удивили.
Они объяснили, что на него указала система предиктивной аналитики — программа, которая собирает данные о преступниках и преступлениях и «предсказывает» будущие преступления. Программа составляет heat list — список горожан, которые в скором времени могут стать участниками или жертвами преступлений. В такой список попал Макдэниел, поэтому за ним установили надзор. Полицейские несколько лет подряд преследовали его буквально повсюду, регулярно останавливали и проверяли, осматривали место работы.
Но это было только полбеды — от Роберта отвернулись друзья и соседи. В чикагском Остине контакты с полицией осуждаются. Все привыкли, что если полицейские входят в чей-то дом, то выводят оттуда человека в наручниках. А если нет — значит, там живет доносчик, который с полицией сотрудничает.
В 2016 году Макдэниела действительно попытались застрелить. Знакомый вызвал его на разговор о возможных доносах в полицию, но вместо разговора мужчину обстреляли из машины — ранили, но не убили. Роберт считает, что это было «самосбывающееся пророчество» — полицейские и их программа не предсказали преступление, а наоборот — этим предсказанием создали его причину. Если бы полиция не крутилась вокруг Макдэниела, то местные бандиты не приняли бы его за доносчика и не стали бы в него стрелять. Чтобы доказать, что он не стукач, Роберт не стал заявлять в полицию о покушении.
Полицейское управление Чикаго никак не комментирует эту историю и отказывается признавать, что совершило ошибку, доверившись программе.
Полиция по всему миру уже давно пытается найти способ не только реагировать на преступления, но и предсказывать их. Первые математические модели таких предсказаний появились еще в начале ХХ века. Например, статистическая модель социолога Энтони Берджесса, который в 1928 году предложил определять вероятность рецидива у условно-досрочно освобожденных заключенных. Но в полицейскую практику эти модели так и не вошли, они были сложными и не очень точными. С середины ХХ века полицейские в США сосредоточились на моделях реактивного реагирования — пытались построить систему работы так, чтобы как можно быстрее реагировать на совершенные преступления в любой точке города.
Идея предсказания преступлений ушла в литературу. В 1956 году американский фантаст Филип К. Дик написал рассказ «Особое мнение», где преступления предсказывали мутанты, объединенные с мощным компьютером. В центре сюжета — случай «самосбывающегося пророчества», когда человек совершал убийство именно потому, что знал о его предсказании. В 2002 году рассказ экранизировал Стивен Спилберг.
«Особое мнение» (Minority Report), 2002 год.
Minority report
К идее прогнозирования преступлений вернулись в 1990-х. Начальник транзитной полиции Нью-Йорка Билл Брайтон начал наносить на карту места совершения разных преступлений цветными карандашами. Так он выяснил, какие районы и части города являются более «горячими», и разработал систему снижения уровня преступности. Например, в места, где чаще нарушается общественный порядок, Брайтон отправлял больше патрульных машин, в районы, где совершались серии ограблений, — полицейских в штатском и под прикрытием. Система позволяла отслеживать и предполагаемые маршруты гастролирующих банд грабителей, совершавших преступления в разных районах.
Его заместитель Джек Мэйпл на основе «бумажной» системы шефа создал компьютерную программу CompStat, которая быстро распространилась по разным городам. CompStat позволяла делать то же самое, что и карта Брайтона, — подтягивать статистику преступлений, формировать карту, выделять опасные локации.
В Чикаго программа начала работать в 2003 году. И уже на следующий год количество убийств сократилось — за год меньше 500 преступлений, впервые с 1966 года. Полиция связала свой успех с внедрением CompStat, хотя никакой прямой связи между этими фактами не было. Но полицейские все больше и больше полагались в работе на программу.
С 2009 года система предиктивной аналитики начала предсказывать не только места возможных преступлений, но и определять возможных преступников, анализируя персональные данные горожан. И вот тут начались основные проблемы.
Полиция не имеет права арестовать человека, который ничего не сделал, даже если есть предположение, что он может сделать что-то в будущем. Презумпция невиновности — один из основных принципов уголовного процесса в США и в большинстве стран мира. Поэтому, получив результаты анализа от программы, полиция может только установить надзор за таким человеком. И изрядно испортить ему жизнь, как Роберту Макдэниелу. Используя при этом его же персональные данные, что нарушает право еще невиновного человека на неприкосновенность частной жизни.
Кроме того, нет никакой гарантии, что данные, которые программа анализирует, верны. Полиция Чикаго и других городов не раскрывает методы анализа и факторы, на которые программа обращает внимание, когда выносит вердикт. Когда журналист The Verge попробовал выяснить это у начальника полиции Чикаго в 2014 году, тот просто ответил: «Если вы попали в этот список, значит, на то есть причина».
Мэр Нью-Йорка Билл де Блазио представляет систему предиктивной аналитики CompStat 2.0, 23 февраля 2016 года.
Getty Images
В 2010-х в разработку систем предиктивной аналитики включились частные компании — PredPol и HunchLab. Это еще больше запутало ситуацию, ведь принципы работы их программ — корпоративная тайна, отчасти даже для купивших их полицейских департаментов.
Программы разных компаний предлагают разные возможности. Например, PredPol, появившаяся в 2012 году, не только «предсказывает» места преступлений и ведет патрульных к этим точкам по оптимальному маршруту, но и оценивает работу самих патрульных. Одним из первых клиентов компании стал Департамент полиции Лос-Анджелеса.
HunchLab с 2008 года предлагает программу со множеством настроек, которые позволяют полиции анализировать чуть ли не все происходящее в городе, вплоть до статистики по погоде и уровню дохода населения разных районов.
Шеф Департамента полиции Рединга Уильям Хейм перед картой города, на которой программа PredPol Predictive Policing Technology предсказывает преступность. Красные рамки показывают координаты возможного будущего преступления, радиус — около 50 квадратных метров, 17 октября 2013 года.
Getty Images
Во второй половине 2010-х системы предиктивного анализа оказались под шквалом критики. С разных сторон. Например, в опубликованной в 2016 году в «Журнале экспериментальной криминологии» статье идет речь о том, что полицейские департаменты, составлявшие списки «будущих преступников», так и не разработали инструкции с указанием, а что с людьми из этих списков делать дальше. А работа полиции — это всегда набор четких процессуальных инструкций. И сами списки полицейские часто использовали для неправомерного давления на людей.
Отчеты о снижении преступности с помощью программ тоже оказались сомнительными. Рапортуя об успехах, полиция часто пренебрегала реальной статистикой. Например, полиция Мемфиса в 2006 году начала использовать свою предиктивную систему Blue CRUSH и отчиталась, что к 2010 году количество насильственных преступлений снизилось на 15,4 процента по сравнению с 2006 годом.
При более тщательном анализе оказалось, что в 2006-м был всплеск преступности, поэтому сравнивать только с этим годом не очень правильно. А вот если сравнить пять лет до внедрения Blue CRUSH и пять лет после, то получается, что количество, например, насильственных нападений не уменьшилось, а увеличилось на 13,6 процента.
Кроме того, многое зависит от отношения сами полицейских к предиктивным программам. Если они воспринимают ее данные как небольшую помощь, чтобы лучше ориентироваться в ситуации в городе, то проблем нет. Но когда начинают полностью ориентироваться на результаты анализа, то часто сосредотачивают всю работу в проблемных районах, забывая об остальных. Например, исследования показывают, что наркоторговля в Окленде, штат Калифорния, распространена по всему городу. Но система PredPol советовала полицейским в два раза чаще посещать только те районы, которые она посчитала «горячими», — торговать наркотиками в остальных стало намного проще.
В 2018 году штатный поверенный Американского союза гражданских свобод штата Иллинойс Рейчел Мерфи заявила, что в Чикаго предиктивные системы уже используют не только для борьбы с преступностью, но и решая судьбы мигрантов. И снова никто не знает, как именно программа решает, кому выдавать вид на жительство или трудовую визу, а кому — нет. А чиновники просто оформляют непрозрачное решение системы.
В Чикаго эксперимент с «горячими» списками завершили в 2019 году. «Предсказание» преступлений упрощало работу полиции только на первый взгляд, но на самом деле полицейские тратили много времени впустую, проверяя людей из списков. Спустя год Департамент полиции Лос-Анджелеса отказался от программы PredPol. Многие полицейские управления по всей стране вернулись к более простым программам, которые только анализируют статистику, но не выдают однозначных рекомендаций.
Однако подобные технологии начали внедрять в других странах. Сейчас с предиктивными системами экспериментируют в Британии, Германии и некоторых странах Европы. Хотя в Германии, например, у полиции меньше возможностей, чем в США, — составлять списки «неблагонадежных» там пока не собираются.
В 2020 году на Роберта Макдэниела в Остине опять напали местные преступники, считающие его доносчиком. Он снова не стал подавать заявление в полицию.
Карта прогнозных зон полицейского управления в районе Пакойма в Лос-Анджелесе, Калифорния, 24 октября 2016 года.
Getty Images
Не надо быть пророком, чтобы поддержать «Бабель» донатом.