Точки на картах.
В 1980-х метро Нью-Йорка было далеко не самым приятным и безопасным местом. Жителей отпугивали грязные платформы, покрытые граффити вагоны с разбитыми окнами, а еще — кражи, ограбления и убийства. Транспортная полиция не справлялась с преступностью, и с каждым годом метрополитен терял все больше пассажиров, которые опасались за жизнь и кошелек.
Изменить положение дел удалось благодаря нескольким талантливым людям. Одним из них был лейтенант Джейк Мейпл, который придумал отмечать на картах места совершения преступлений — так полицейские видели, в каких районах Нью-Йорка сложилась наиболее криминогенная обстановка, пытались выяснить почему и усиливали присутствие в самых опасных районах. Новая стратегия оказалась эффективной: количество преступлений, совершенных на территории метрополитена, впервые за долгое время пошло на спад.
Достижения лейтенанта помог развить новый глава транспортной полиции Билл Братон, получивший должность в 1990 году. Вскоре в распоряжении полицейских появилась программа CompStat. Она не умела «предсказывать» инциденты, но обрабатывала данные о совершенных преступлениях и помогала составлять актуальную картину криминогенной обстановки в городе. Тем не менее останавливаться было рано: отправляя полицейских в очередную «горячую точку» (hotspot) на карте, Мейпл и Братон замечали, что очаг преступности смещается, с новой силой разгораясь уже в другом месте.
Сотрясение и его последствия.
Предсказать, где и когда случится землетрясение, — практически невозможно. Но уже после самых первых толчков с некоторой точностью можно сделать предположения о следующих. Самым опасным местом считается эпицентр — чем дальше от него вы находитесь, тем лучше. То же самое можно сказать о преступлениях. Велик шанс, что в районе первого инцидента вскоре произойдут и другие.
В 2002 году Билл Братон возглавил полицейский департамент Лос-Анджелеса, где продолжил работу, начатую в Нью-Йорке. За помощью он отправился к математикам из Калифорнийского университета. Изучив данные о преступлениях за 80 лет, любезно предоставленные полицией, ученые обнаружили, что модели из сейсмологии (в частности, ETAS — epidemic type aftershock-sequences) вполне успешно применяются к динамике городской преступности. Так появилась программа, название которой стало нарицательным — PredPol, то есть PREDictive POLicing.
В марте 2021 года компания PredPol объявила о смене названия на Geolitica. Программа расширила функционал и назначение: теперь ее цель — не предотвращать преступление еще до того, как оно произойдет, а помогать управлять патрульной деятельностью полиции. Таким образом, компания уходит от концепции predictive policing. Однако ниже мы из соображений удобства будем называть ее по-старому.
Как устроены алгоритмы PredPol изнутри, точно сказать нельзя (это коммерческая тайна), но общий принцип ее работы известен. Программа получает информацию о преступлениях в городе и с точностью до района и даже улицы показывает, где в ближайшее время с наибольшей вероятностью могут произойти новые правонарушения. Полицейским остается выяснить, как наиболее эффективно воспользоваться этими данными: предупредить жителей или, например, наладить систему патрулирования с учетом прогнозов алгоритма.
Персональный подход.
Указание на потенциально опасные районы, реализованное в PredPol и аналогичных решениях, — это не единственный возможный подход к предиктивной аналитике. Другая разновидность программ занимается выявлением людей, которые или сами потенциально могут быть преступниками, или с некоторой вероятностью станут жертвами преступления. Алгоритмы учитывают их возраст, половую принадлежность, семейное положение, наличие или отсутствие криминального прошлого, а также задолженностей и так далее.
С 2013 года полицейское управление Чикаго использовало Strategic Subject List (SSL) — программу, точно так же, как и PredPol, задуманную еще в начале 2000-х. Она формировала список людей, которые могут оказаться в перестрелке, не важно, в качестве жертвы или стрелка. По данным чикагской полиции, программа справлялась неплохо — например, среди 140 человек, арестованных в 2016 году в результате масштабного полицейского рейда, 117 находились в списке SSL. Тем не менее в 2020 году полиция официально отказалась от использования SSL.
Черный список.
Это произошло после того, как исследование некоммерческой организации RAND Corporation, опубликованное в журнале Journal of Experimental Criminology, указало на неэффективность программы и даже потенциальный вред для тех, кому не посчастливилось оказаться в заветном списке. Оказалось, что попавшие во внимание алгоритма люди чаще становились подозреваемыми и оказывались за решеткой. Исследователи предполагают, что полицейские могли использовать список в качестве наводки, таким образом закрывая дела со стрельбой.
Strategic Subject List, PredPol, COMPAS и другие программы — коммерческие решения, а потому алгоритм их работы непрозрачен. Это вызывает беспокойство у гражданских активистов и исследователей. Так, например, некоторые из них считают, что использование формул из сейсмологии для указания на потенциальные места преступлений в PredPol — в корне ошибочно.
Помимо этого, как и многие другие технологии, опирающиеся на искусственный интеллект, инструменты по предсказанию преступлений далеко не всегда оказываются правы. Предубеждения неизбежно закрадываются в дата-сеты, а информация интерпретируется полицейскими с поправкой на собственные представления о полицейской работе, преступности и другие убеждения. Некоторые алгоритмы могут быть настолько сложны, что даже для разработчиков оказываются «черным ящиком», принцип действия которого невозможно объяснить.
Лучше, чем люди?
Кажется, некоторые модели предиктивной аналитики действительно справляются со своей задачей лучше людей. В исследовании, опубликованном в Journal of the American Statistical Association, ученые провели рандомизированный контролируемый эксперимент, сравнив эффективность работы экспертов-криминологов в департаменте полиции Лос-Анджелеса (США) и департамента полиции Кента (Великобритания) с предиктивными моделями. Они пришли к выводу, что модели предсказывают в 1,4–2,2 раза больше преступлений. Кроме того, патрулирование с использованием предсказаний, сделанных моделями, снизило частоту определенных преступлений на 7,4%.
Впрочем, другие исследования демонстрируют противоположные результаты. Например, сотрудники НКО RAND Corporation изучили опыт применения программы Predictive Intelligence Led Operational Targeting (PILOT) в полицейском департаменте Шривпорта (США). Исследователи пришли к выводу, что использование предиктивной аналитики не привело к снижению имущественных преступлений. К похожим выводам пришли ученые, изучавшие применение программ SKALA и PreMap в Германии.
На самом деле ответить, насколько хорошо работают такие системы, пока довольно сложно. И этому есть несколько причин.
Во-первых, проводимые в реальных условиях эксперименты сталкиваются с ограничениями методологического (районы одного и того же города могут отличаться друг от друга по множеству параметров) и этического характера — в конце концов, речь идет о настоящих преступлениях.
Во-вторых, как отмечают авторы масштабного исследования Criminal Futures: Predictive Policing and Everyday Police Work, не до конца понятно и то, каким должно быть мерило успеха. Внутренние исследования моделей, проводимые полицейскими департаментами при содействии независимых организаций, кроме наиболее обсуждаемого критерия снижения преступности учитывают и многие другие — например, влияние на взаимодействие внутри полицейских структур и способность департаментов работать с большими объемами данных.
По мнению исследователей, в обществе сформировались завышенные ожидания от систем предсказания преступлений. Между тем задача установления причинно-следственных связей между использованием алгоритмов и снижением преступности является почти непреодолимой — по крайней мере, на сегодняшний день.
Предсказанное будущее.
В 2019 году Управление полиции Лос-Анджелеса, которое одним из первых взяло на вооружение PredPol, отказалось от использования программы. Причиной наряду с предполагаемой предвзятостью алгоритма к определенным этническим группам стала невозможность определить, насколько эффективно он помогает бороться с преступностью.
Проблемы предиктивных систем широко освещаются и критикуются в медиа, но вряд ли это заставит полицию от них отказаться. Возможности и масштаб программ, таких как PredPol или PRECOBS, расширяются. Постепенно они выходят за рамки первоначальной задачи, а именно прогнозирования правонарушений на основе данных о преступности, и становятся инструментами, которые помогают полицейским эффективнее оценивать риски, определять закономерности и принимать стратегические решения.
