Все новости крипты
в одном месте!
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой
Вот перефразированный текст новости на русском языке:
Полиция британского региона Эйвон и Сомерсет, а также городской совет Бристоля отказались от использования как минимум двух моделей искусственного интеллекта, предназначенных для оценки риска преступлений против детей. Причиной стала их низкая точность, а также невозможность провести полноценную проверку — независимые аудиторы не смогли найти ни исходный код, ни список переменных, используемых в алгоритмах. Об этом сообщает издание WIRED.
Журналисты совместно с правозащитной организацией Liberty Investigates, местным медиа Bristol Cable и некоммерческой редакцией Lighthouse Reports изучили сотни страниц документов, полученных по запросам на доступ к информации. Этот материал появился на фоне запуска PoliceAI — национального центра, который будет тестировать и внедрять ИИ-инструменты в полиции Англии и Уэльса.
Как Бристоль собирал данные
Речь идет о базе данных Think Family Database, которую городской совет Бристоля запустил в 2016 году для работы с семьями и детьми, нуждающимися в поддержке. По данным WIRED, в ней могли содержаться записи почти о 500 000 жителей, хотя на официальном сайте проекта сейчас упоминается около 55 000 семей. Такое расхождение, вероятно, связано с тем, что учитываются как индивидуальные записи, так и семейные профили.
Think Family Database объединяла полицейские и социальные данные: информацию о жилье, психическом здоровье, подростковых беременностях, посещении родительских курсов, прогулах школы и получении бесплатного питания. По информации издания, эти сведения собирались без прямого согласия граждан, но на законных основаниях для обмена данными между государственными органами.
Один из специалистов по данным полиции описал этот подход как «смешивание разных массивов информации», добавив: «Я складываю все это в большое ведро».
На основе этой базы данных полиция и власти создавали модели машинного обучения, которые присваивали взрослым и детям оценки риска. Журналистам известно как минимум о 23 таких моделях, используемых полицией Эйвона и Сомерсета: от прогнозирования краж со взломом и неявки в суд до риска исчезновения человека или вероятности стать жертвой домашнего насилия.
Параллельно работало приложение Offender Management App, рассчитанное примерно на 300 000 человек в регионе. Один из старших офицеров назвал его основой для «турнирной таблицы» самых опасных преступников.
Почему модели отключили
Одна из ранних моделей оценивала риск преступлений против детей. В нее включили данные полиции, городского совета и других госструктур, а также обезличенные сведения благотворительной организации Barnardo’s о 1000 детей, которые уже пострадали от таких преступлений.
На оценку риска влияли такие факторы, как статус ребенка, нуждающегося в помощи, постоянные пропуски школы и проблемы с психическим здоровьем. Другая модель учитывала жилищную поддержку, задолженность по аренде и получение бесплатного школьного питания.
Еще в 2016 году этический комитет полиции предупреждал, что выбранные данные и переменные могут привести к алгоритмической предвзятости. Он рекомендовал использовать систему с осторожностью и заранее объяснять общественности, зачем и как применяется такая аналитика.
Позже проект оценивала британская некоммерческая консалтинговая организация Social Finance. В своем обзоре она назвала оценку рисков самым слабым элементом, а низкую точность — фактором, подорвавшим практическую ценность моделей. К моменту проверки две модели оценки рисков преступлений против детей уже перестали использовать, пишет WIRED.
Social Finance связала ухудшение качества моделей с изменением набора данных. Полиция пыталась масштабировать подход на весь регион Эйвона и Сомерсета, который включает пять местных советов, но не смогла договориться об обмене данными со всеми местными властями. В итоге в моделях осталось в основном полицейское «ядро» без прежних социальных индикаторов.
По данным журналистов, сотрудники городских служб Бристоля жаловались, что уязвимые дети не попадают в результаты. Один из работников писал, что несовершеннолетние, недавно ставшие жертвами преступлений, могли получать более низкий балл, чем фигуранты дел о кражах со взломом. Другие служащие говорили, что не готовы полагаться на оценки из-за непрозрачной методики.
Social Finance также не смогла полноценно проверить модели: исходный код и список переменных найти не удалось. По данным WIRED, ни полиция, ни городской совет Бристоля к июню 2023 года не сохранили документы о решении отказаться от двух моделей оценки рисков преступлений против детей.
Что показал аудит
Отдельно WIRED получило от полиции более 36 000 оценок производительности по 13 моделям, которые использовались или тестировались в 2017-2024 годах. Издание передало массив данных аудиторской компании Eticas. Там пришли к выводу, что у большинства моделей была низкая точность положительных срабатываний. Это означает, что значительную долю людей система ошибочно помечала как рискованных.
Согласно этим данным, модель для выявления потенциальных взломщиков более трех лет показывала точность положительных срабатываний ниже 10%: меньше одного из десяти отмеченных системой людей действительно совершал такое преступление. Аудиторы также отметили, что такие показатели нехарактерны для хорошо управляемых моделей, используемых в операционной работе.
Полиция заявила WIRED, что часть моделей, включая инструмент по кражам со взломом, не внедрялась. Наличие многолетних оценок их производительности ведомство объяснило автоматической проверкой статического файла, который не удалили после отказа от внедрения.
Отдельно на сайте полиции говорится, что часть инструментов ведомства использует ИИ, а результаты алгоритмов применяются только как рекомендательный сигнал для сотрудников. В полиции подчеркнули, что модели не принимают решения автоматически.
Городской совет Бристоля заявил, что сейчас использует только модель риска NEET — оценку вероятности того, что ребенок после окончания школы не будет учиться, работать или проходить обучение. По словам властей, этот инструмент не заменяет профессиональное суждение.
PoliceAI
Эта история вышла на фоне расширения использования искусственного интеллекта в правоохранительных органах Великобритании. 10 июня МВД Великобритании запустило центр PoliceAI для тестирования и масштабирования ИИ-инструментов в 43 полицейских управлениях Англии и Уэльса. Бюджет проекта составил 75 млн фунтов стерлингов на три года.
В первый год PoliceAI сосредоточится на инструментах для разбора, раскрытия и суммирования цифровых доказательств. Испытания должны пройти в десяти управлениях в 2026-2027 годах, а затем масштабироваться на все полицейские силы.
PoliceAI работает на базе Колледжа полиции — профессионального органа, который отвечает за стандарты и обучение силовиков в Англии и Уэльсе. Его возглавляет бывший главный констебль полиции Эйвона и Сомерсета Энди Марш.
WIRED обратило внимание на эту связь: в регионе, где развивали спорную ИИ-аналитику, раньше работал руководитель структуры, теперь участвующей в масштабировании искусственного интеллекта для полиции. На этом фоне случай Бристоля показывает, что риски таких моделей связаны не только с точностью алгоритмов, но и с качеством данных, сохранением документации и возможностью независимой проверки.
Ранее издание сообщило о жителе Мэриленда Алонзо Сойере, который провел девять дней в тюрьме после
Популярные лонгриды:
