Искусственный интеллект будет выявлять потенциальных убийц в Великобритании. Критики называют это антиутопией

Британской некоммерческой организации по защите гражданских свобод Statewatch удалось узнать детали проекта из документов, полученных через запросы по Закону о свободе информации. Проект был заказан офисом бывшего премьер-министра Риши Сунака. Изначально он назывался “проектом прогнозирования убийств”, но его название было изменено на “обмен данными для улучшения оценки рисков”.

Алгоритмы будут анализировать закономерности в данных о преступлениях, совершенных до 2015 года, на основе официальных источников, среди которых Служба пробации и полиция города-графства Большой Манчестер на северо-западе Англии.

Согласно официальной информации, использоваться будут личные данные тех, у кого была хотя бы одна судимость. Однако группа Statewatch утверждает, что анализируемые данные включают в себя информацию о людях, которые никогда не были осуждены, например, жертвы домашнего насилия и люди, которые предпринимали попытки суицида или занимались селфхармом (самоповреждениями).

Как пишет Telegraph, обрабатываемая информация включает имена, даты рождения, пол, этническую принадлежность и идентификационные номера людей в национальной полицейской базе данных. Опасения Statewatch, отмечает издание, основывается на соглашении об обмене данными между Министерством юстиции и полицией Большого Манчестера. Раздел о типах личных данных, которые полиция передает правительству, включает не только информацию об уголовных преступлениях, но и, например, возраст, когда человек впервые стал жертвой (в том числе семейного насилия) и когда впервые контактировал с полицией. Передаются и такие чувствительные данные, как информация о психическом здоровье, зависимостях, селфхарме, попытках суицида, инвалидности и другие “маркеры здоровья, которые предположительно обладают значительной ценностью для прогнозирования”.

София Лиалл, исследователь Statewatch, назвала проект жутким и антиутопичным.

“Снова и снова исследования показывают, что алгоритмические системы для прогнозирования преступлений изначально ошибочны, — заявила она Guardian. — Эта последняя модель, использующая данные нашей институционально расистской полиции и Министерства внутренних дел, укрепит и усилит структурную дискриминацию, которая лежит в основе уголовной юстиции”.

По ее мнению, это только усилит предвзятость в отношении расовых и малообеспеченных общин, а использование чувствительных данных вызывает тревогу.

В Министерстве юстиции Великобритании, тем не менее, говорят, что проект носит исключительно исследовательский характер.

“Он был разработан с использованием существующих данных, которые находятся в распоряжении Службы пробации и тюрем, а также данных полиции об осужденных преступниках”, — заверил официальный представитель Минюста. По его словам, проект должен помочь лучше понять риск насильственных преступлений среди тех, кто находится на пробации.

Министерство заявило, что Служба пробации и тюрем уже использует инструменты оценки рисков, и этот проект проверит, улучшится ли оценка рисков с добавлением новых источников данных, включая данные полиции.

Отчет об этом будет опубликован в ближайшее время, обещает Минюст Великобритании.