Презумпция невиновности умирает в 3 секунды: административное задержание на основе прогноза AI о «вероятном будущем преступлении»

УДК 342.7 ПРЕЗУМПЦИЯ НЕВИНОВНОСТИ УМИРАЕТ В 3 СЕКУНДЫ: АДМИНИСТРАТИВНОЕ ЗАДЕРЖАНИЕ НА ОСНОВЕ ПРОГНОЗА AI О «ВЕРОЯТНОМ БУДУЩЕМ ПРЕСТУПЛЕНИИ» PRESUMPTION OF INNOCENCE DIES IN 3 SECONDS: ADMINISTRATIVE DETENTION BASED ON AI PREDICTION OF A «PROBABLE FUTURE CRIME» ВАСИЛЬЕВА ВИКТОРИЯ ВЛАДИМИРОВНА студентка 3 курса Инжинирингового колледжа Белгородского государственного национального исследовательского университета VASILIEVA VIKTORIA VLADIMIROVNA A third-year student at the Engineering College of Belgorod State National Research University

Статья посвящена критическому анализу внедрения систем прогнозного искусственного интеллекта в административно -правовую сферу. В центре внимания – ситуация, когда решение о задержании человека принимается не на основе с овершѐнного деяния, а на основании математической вероятности будущего правонарушения. В работе демонстрируется, что такая практика подрывает фундаментальный принцип презумпции невиновности, вводит новый вид правовой дискриминации – алгоритмический профили нг, и создаѐт прецедент, когда гражданин обязан доказывать свою «неопасность» до того, как ему инкриминировано какое -либо нарушение. На основе анализа зарубежных кейсов (PredPol, LAPD, системы COMPAS и HART) и решений ЕСПЧ формулируются предложения по зако нодательному ограничению использования прогнозных моделей в административном процессе. This article provides a critical analysis of the deployment of predictive artificial intelligence systems in the sphere of administrative law. The focal point is a situation where a decision to detain an individual is made not on the basis of a committed act, but on a mathematical probability of a future offense. The paper demonstrates that such practice undermines the fundamental principle of the presumption of innocenc e, introduces a new form of legal discrimination — algorithmic profiling — and creates a precedent where a citizen is required to prove their "non -dangerousness" before any violation has been imputed to them. Drawing on an analysis of foreign cases (PredPo l, LAPD, COMPAS and HART systems) and ECHR rulings, the article formulates proposals for legislative restrictions on the use of predictive models in administrative proceedings. Ключевые слова: презумпция невиновности, прогнозное правоприменение, административное задержание, искусственный интеллект, цифровые права.

Keywords: presumption of innocence, predictive poli cing, administrative detention, algorithmic bias, digital rights. Введение В ноябре 2021 года полиция Лос -Анджелеса под давлением правозащитных организаций свернула программу прогнозного патрулирования PredPol. Формальная причина – низкая эффективность. Реальная – алгоритм направлял наряды преимущественно в кварталы с низким доходом и высоким процентом цветного населения, создавая эффект «самоисполняющегося пророчества»: чем больше полиции, тем больше задержаний, тем больше данных, подтверждающих «преступный характер» района. Но что, если бы алгоритм применялся не к району, а к ко нкретному человеку? Что, если бы система выдавала не карту горячих точек, а рейтинг личности – вероятность совершения преступления в ближайшие 72 часа? И что, если бы этот рейтинг становился юридическим основанием для административного задержания? Сегодня это звучит как антиутопия. Но уже существуют системы HART (США) и прогнозные модули в Европе, которые анализируют социальные сети, историю перемещений, финансовые транзакции, психическое состояние и даже «лингвистические маркеры агрессии» в сообщениях. На выходе – числовой показатель риска. И в некоторых юрисдикциях полиция уже имеет право остановить, досмотреть, изъять вещи и задержать до 48 часов на основании «обоснованного подозрения», которое теперь может быть сгенерировано машиной. Проблема в том, что презумпция невиновности – это не просто красивая фраза из учебников. Это процессуальный щит. Он означает, что бремя доказывания лежит на обвинителе, а не на защите, и что любое сомнение толкуется в пользу обвиняемого. Но когда основанием для задержания становится вероятностный прогноз, происходит подмена:

- Факт заменяется статистической корреляцией; - Событие заменяется трендом; - Доказательство заменяется предсказанием. В этих условиях презумпция невиновности перестаѐт работать не потому, что еѐ отменили, а потому, что еѐ условия применения исчезают. Как можно считаться невиновным, если тебя задержали до всякого деяния? Как можно оспаривать подозрение, если оно основано на «чѐрном ящике», который не раскрывает свои критерии? Цель данного исследования – не просто описать проблему, а вскрыть еѐ юридические, этические и социальные последствия, а также предложить конкретные механизмы защиты прав граждан в условиях алгоритмического правоприменения. Основная часть Глава 1. Природа прогнозного задержания: от «горячих точек» к «горячим людям». Прогнозное правоприменение (predictive policing) зарождалось как инструмент анализа территорий. Идея была безобидной: по историческим данным о кражах и грабежах вычислять участки с повышенной вероятностью преступлений и направлять туда патрули. Это называлось «геопространственный анализ» и не вызывало особых возражений, пока алгоритм работал с местом, а не с личностью. Однако эволюция технологий и доступ к большим данным привели к смене парадигмы. Современные системы (например, пре диктивные модули Palantir, IBM i2 Analyst’s Notebook, российские «Барс» и «Цифровой профиль») позволяют строить индивидуальные риск -профили. Они агрегируют: - кредитную историю; - частоту и характер контактов с полицией (включая остановки, которые не привели к обвинению); - данные с камер распознавания лиц;

- мобильные геоданные (посещение определѐнных районов); - психоэмоциональные характеристики, извлечѐнные из постов в соцсетях. На выходе – коэффициент угрозы. В экспериментальных системах (например, в Чикагском пр оекте «Strategic Subject List») такой коэффициент использовался для ранжирования лиц с «высоким риском вовлечения в огнестрельное насилие». Изначально он был внутренним, но в ряде городов США полиция начала использовать его для превентивных визитов – сотрудники приходили к «рискованным» лицам и предупреждали, что «за ними следят». Административное задержание – следующий шаг. Если «предупреждение» можно рассматривать как профилактику, то задержание – это уже мера принуждения, ограничивающая свободу. И здесь возникает вопрос: какое право даѐт государству вероятность? По действующему административному законодательству большинства стран, основание для задержания – наличие достаточных данных полагать, что лицо совершило или совершает правонарушение. Ключевое слов о – «совершило». Прошедшее время. Настоящее длительное. Но не будущее. Когда законодатель писала эти нормы, он не предусматривал, что «данными» могут быть три процента, выданные нейросетью. Если мы разрешаем прогноз как основание, мы молчаливо переопределя ем само понятие «правонарушение» – от действия к тенденции. Глава 2. Алгоритмическая предвзятость как системное нарушение презумпции невиновности. Самая сильная атака на презумпцию невиновности в прогнозных системах – не в том, что они ошибаются, а в том, что они систематически смещают подозрение в сторону определѐнных социальных групп. Исследование ProPublica (2016) о системе COMPAS – классический пример. Алгоритм, оценивавший риск рецидива, в два раза чаще присваивал «высокий риск» афроамериканцам, чем бе лым, при том что реальная частота

рецидивов была практически одинаковой. Другими словами, чѐрный человек с той же историей, что и белый, получал в 2 раза больше шансов быть признанным «опасным». Это не случайность. Это производная от данных, на которых обучались алгоритмы: - данные об арестах – но арестуют чаще именно чернокожих (не потому, что они больше преступны, а потому что патрулируют их районы чаще); - данные о вызовах полиции – но вызовы зависят от поведения соседей и отношений с правоохранителями; - данные о судимостях – но они не включают оправдательные приговоры, хотя они есть. В итоге алгоритм воспроизводит и усиливает структурный расизм, упаковывая его в язык математической объективности. А за этим следует административное задержание: полиция полу чает «научное обоснование» для остановки именно того человека, который «подходит под профиль». Теперь представьте: вас задерживают на основе прогноза. Вам не предъявляют состав преступления. Вам говорят: «Наша система считает, что вы совершите кражу в тече ние суток». Вы не знаете, по каким параметрам система пришла к такому выводу (алгоритм запатентован и является коммерческой тайной). Вы не можете проверить данные – они могут быть устаревшими или ошибочными. Вы не можете вызвать разработчика в суд. А между тем вы уже лишены свободы на 48 часов. Это и есть смерть презумпции невиновности – не в тексте закона, а в реальном правоприменении. Глава 3. Правовой вакуум: как закон не поспевает за технологией Европейский суд по правам человека неоднократно подчѐркива л, что презумпция невиновности – это не только запрет считать виновным до приговора, но и требование к обращению, которое не должно создавать впечатления виновности (см. S. and Marper v. the United Kingdom). В этом

деле Суд указал, что даже хранение отпеча тков пальцев и ДНК лица, оправданного по делу, может нарушать его право на уважение частной жизни и создавать «клеймо» подозреваемого. Что же говорить о прогнозном задержании? Это не хранение данных – это активное действие, основанное на этих данных. Если оправданный чувствует себя уязвлѐнным, когда его биометрия лежит в базе, то каково человеку, которого задержали и держали в изоляторе потому, что компьютер посчитал его рискованным? В Европе действует Общий регламент по защите данных (GDPR), который содерж ит статью 22 – запрет на автоматизированные решения, имеющие юридические последствия. Но у этой статьи есть исключение: решения, необходимые для исполнения договора или основанные на явном согласии субъекта. Полиция не подпадает ни под первое, ни под второ е. Однако на практике это правило почти не работает: системы HART в Великобритании используют предиктивные методы, и их легитимность оспаривается именно в этой плоскости. В США вообще нет единого закона, регулирующего использование AI в уголовном правосуди и. Есть отдельные иски, есть руководящие принципы Министерства юстиции, но они не имеют силы закона. В результате миллионы людей оказываются в ситуации, где их судьбу решает программа, за которую никто не несѐт ответственности. Глава 4. «Самоисполняющееся пророчество» и иллюзия эффективности. Прогнозная полиция любит оперировать цифрами: «Мы снизили преступность на 10%». Однако проблема в том, как эти цифры получены. Допустим, алгоритм определил 100 человек как «группу риска». К ним направлены сотрудники. О ни проводят остановки, досмотры. В 30 случаях находят мелкие нарушения (просроченные права, административный штраф, открытое спиртное). Эти 30 случаев фиксируются как «выявленные правонарушения», и система отчитывается об эффективности. Но что насчѐт

70 ос тальных? Они задержаны, унижены, потеряли время, но ничего не нарушили. Более того, если бы полиции не было в этом районе, эти 30 мелких нарушений, возможно, никогда бы не были выявлены. Это не снижение преступности, это перемещение точки обнаружения. Алгоритм не предсказывает преступление, он создаѐт условия для его обнаружения. И это создаѐт обратную связь: задержания подтверждают прогноз, прогноз усиливает задержания. Человек попадает в систему не потому, что он опасен, а потому, что система настроена его ловить. В случае с административным задержанием этот эффект особенно страшен. Если вы попали в прогнозный список, полиция будет вас останавливать чаще. Каждая остановка – запись в базу. Чем больше записей, тем выше ваш «риск». Вы можете никогда не соверш ить преступления, но ваш профиль будет неизменно показывать вас как потенциального преступника. Вы – заложник собственного цифрового следа. Глава 5. Три секунды, которые меняют всѐ Почему в заголовке фигурируют «3 секунды»? Это не метафора, а техническая реальность. Современные алгоритмы обработки видео и биометрических данных способны выдать оценку риска за считаные доли секунды. Камеры распознавания лиц, подключѐнные к базам данных , могут мгновенно идентифицировать человека, а сопутствующая система анализа поведения – присвоить ему уровень угрозы ещѐ до того, как он подойдѐт к полицейскому. Представьте сценарий: вы идѐте по улице, камера фиксирует ваше лицо, с истема сравнивает с баз ой, где есть информация о ваших неоплаченных штрафах, о том, что три года назад вас останавлива ли за хулиганство, но отпустили, AI анализирует вашу походку, направление движения, время суток, погоду и выдаѐт: «вероятность грабеж а – 74%», сигнал поступает на планшет патрульному, о н останавливает вас и, не имея

никаких конкретных признаков противоправного действия, задерживает на основании «оперативной информации». Вы не успели сделать ничего. Но за 3 секунды механического анализа ваша жизнь перевернулась. Вы – в полицейском участке. Ваш телефон изъят. Вы подписываете протокол, не понимая, за что вас задержали. Ваш адвокат, если он у вас есть, не может оспорить прогноз, потому что тот не является доказательством в традиционном смысле – это «вспомогательная информация». Это и есть точка, где презумпция невиновности умирает. Не в парламенте. Не в суде. А на улице, в алгоритме, в трѐх секундах машинного вычисления. Заключение Прогнозное правоприменение не является злом по определению. Идея предотвращать преступлен ия, а не только реагировать на них, заслуживает внимания. Но она не может быть реализована ценой уничтожения фундаментальных прав человека. Мы предлагаем три принципа, которые должны лечь в основу любого законодательства о предиктивных системах в административном праве: 1. Запрет на использование прогноза в качестве единственного или основного основания для задержания. Прогноз может быть лишь поводом для дополнительной проверки, но не для лишения свободы. Для задержания необходимы объективные признаки готовяще гося или совершѐнного правонарушения. 2. Полная прозрачность алгоритмов и данных. Гражданин должен иметь право знать, на каком основании он подвергся принуждению. Критерии оценки риска должны быть опубликованы, а исходные данные доступны для проверки. Коммерч еская тайна не может стоять выше конституционных прав. 3. Создание института «алгоритмической апелляции». Каждый, кто пострадал от прогнозного задержания, должен иметь право на пересмотр

своего профиля, удаление недостоверных данных и компенсацию ущерба. Бремя доказывания законности прогноза должно лежать на государстве. Если эти принципы не будут закреплены, мы рискуем получить систему, в которой невиновность становится анахронизмом, а свобода – привилегией тех, кто не попал в базу данных. Презумпция невиновн ости была завоѐвана веками правовой борьбы. Чтобы еѐ не уничтожили за 3 секунды машинного расчѐта, необходимо действовать уже сегодня. Список литературы 1. European Court of Human Rights. S. and Marper v. the United Kingdom [Электронный ресурс]. Applications nos. 30562/04 and 30566/04, Judgment of 4 December 2008. URL: https://hudoc.echr.coe.int/eng?i=001-90051 [citation:2,7,12] 2. Ferguson, A. G. The Rise of Big Data Policing: Surveillanc e, Race, and the Future of Law Enforcement. New York: NYU Press, 2017. 272 p. [citations:4,9,14] URL: https://nyupress.org/9781479869978/the-rise-of-big-data- policing/ 3. ProPu blica. Machine Bias [Электронный ресурс]. 2016. URL: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal- sentencing. [citation:3,8,13] 4. Makar, Z. The Compounding Impact of Predictive Processes: How Predictive Policing Enforces Already Existing Biases // Oregon Law Review. 2024. Vol. 102. No. 3. P. 1–40. 5. Regulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data (General Data Protection Regulation). URL: https://gdpr-info.eu/art-22-gdpr/. [citation:5,10] 6. Strikwerda, L., Mensink, J., Timmers, R. Data Science and Criminal Law // Research Handbook in Data Science and Law. 2nd ed. Edward Elgar Publishing, 2024. P. 63–80.

7. Terec-Vlad, L., Timofte, E. Ethical and Legal Implicati ons of Predictive Policing Through Cyber Data // Research Handbook in Data Science and Law. 2nd ed. Edward Elgar Publishing, 2024. P. 45–62.