Мичиган запускает ИИ-алгоритм для сортировки заключённых по уровню опасности, заменяя решение специальных комиссий
Департамент исправительных учреждений штата внедряет платформу Recidiviz, которая, как утверждается, на 30% точнее предсказывает риск будущего преступления, но критики указывают на непрозрачность методики и опасность предвзятости
С декабря в нескольких мужских тюрьмах Мичигана начнётся пилотное использование программного обеспечения некоммерческой организации Recidiviz, изначально созданной как проект Google для стандартизации данных уголовного правосудия. Система будет классифицировать людей по пяти уровням режима содержания, определяя, к каким программам реабилитации и в каком окружении они будут находиться весь срок заключения.
Ранее такие решения принимала комиссия сотрудников, назначаемая начальником тюрьмы. Теперь алгоритм станет ключевым фактором при оптимизации размещения. Представители департамента заявляют, что ИИ улучшит прогнозирование риска насилия примерно на 30%, однако не раскрывают, на основе каких данных получена эта оценка.
Для просмотра ссылки Войди или Зарегистрируйся
Источник изображения: сгенерировано Muse
Проблема алгоритмической предвзятости в пенитенциарной системе уже имеет прецеденты: расследование ProPublica в Луизиане показало, что аналогичная программа классифицировала слепого 70-летнего инвалида-колясочника с безупречным дисциплинарным досье как «умеренный риск» рецидива, автоматически лишив его права на условно-досрочное освобождение. Хотя мичиганская система нацелена на распределение по корпусам, а не на решения об освобождении, эксперты опасаются, что использование исторических данных, пронизанных социально-экономическими и расовыми искажениями, лишь усугубит кризис переполненности и несправедливости.
Сам Recidiviz описывает свою миссию как предоставление инструментов для выявления людей, имеющих право на образовательные программы, переквалификацию или освобождение, и координацию доступа к ресурсам вроде временного жилья и трудоустройства. Но отсутствие независимой валидации и отказ властей от деталей о сборе данных оставляют открытым вопрос, станет ли алгоритм шагом к реабилитации или ещё одним механизмом дискриминации.
Источник
Для просмотра ссылки Войди или Зарегистрируйся
Учёные предупредили, что ИИ может превратить социальный рейтинг Китая в систему слежки за гражданами
Китайский исследователь опасается, что алгоритмы начнут оценивать не только реальные поступки, но и прогнозируемое поведение людей, ограничивая их права ещё до нарушения закона
Внедрение искусственного интеллекта в китайскую систему социального кредита может превратить её в масштабный инструмент наблюдения за гражданами и прогнозирования их поведения. К такому выводу пришёл китайский исследователь Линь Цзяньсин, опубликовавший работу в Journal of Sichuan Normal University. Он предупреждает: алгоритмы способны перейти от оценки уже совершённых поступков к профилированию людей на основе предполагаемых рисков.
Существующая система социального кредита в Китае не представляет собой единую национальную базу с общим рейтингом каждого гражданина. Она объединяет несколько разных механизмов: финансовую оценку кредитоспособности, чёрные списки нарушителей законодательства, местные программы поощрений и наказаний за определённое поведение, а также инструменты контроля за работой государственных служащих. В совокупности эти механизмы могут влиять, например, на доступ к займам и другим услугам.
По мнению Линь Цзяньсина, применение ИИ позволит анализировать гораздо больше сведений о человеке: его действия, финансовую историю, социальные связи и другие доступные данные. На их основе алгоритм сможет отнести человека к группе повышенного риска, даже если тот не совершал правонарушений. В таком случае административные решения будут приниматься не по фактическим поступкам, а по прогнозу поведения. Человек может столкнуться с дополнительными проверками или ограничениями, не зная о причинах и не нарушая закон.
Для просмотра ссылки Войди или Зарегистрируйся
Источник изображения: сгенерировано Muse
В статье приводятся результаты исследования Стэнфордского университета* 2025 года, посвящённого системе социального кредита в одном из китайских городов. В изученной программе взрослые жители начинали с 1000 баллов, которые менялись в зависимости от соблюдения 389 правил и выполнения условий для получения поощрений. Среди критериев учитывалось и политическое поведение, в том числе подача обращений к государственным органам. Участники с самой низкой категорией рейтинга могли попасть под наблюдение полиции. Жители сельской местности, как выяснили авторы, находились в менее выгодном положении: у них было меньше возможностей получать дополнительные баллы, чем у горожан.
При этом исследование Стэнфорда не подтвердило существование единой общенациональной системы тотального контроля. Однако некоторые местные программы, по выводам авторов, могли наказывать людей за действия, которые сами по себе не относились к уголовным преступлениям.
Новая работа предупреждает, что применение ИИ способно усилить подобные риски.
Авторы не утверждают, что Китай уже внедряет единую общенациональную систему социального рейтинга на базе ИИ. Доказательств существования таких планов в публикации не приводится. Речь идёт о предупреждении на будущее: если алгоритмическое прогнозирование начнут использовать при принятии административных решений, то необходимо исключить наказание невиновных и чрезмерное вмешательство в частную жизнь. Исследование финансировалось в рамках поддерживаемого китайским государством проекта по изучению социального управления и институциональных инноваций.
Источник
Для просмотра ссылки Войди или Зарегистрируйся
АДЛ подтверждает, что десятки аналитиков ‘Составляют списки’ американцев, которые осмеливаются критиковать Израиль
Если вы когда-либо публиковали в интернете посты с критикой израильского правительства, Антидиффамационная лига могла внести вас в свой список — и этот список мог быть передан ФБР. Это не домыслы. Это то, что сейчас вслух говорит генеральный директор Антидиффамационной лиги.
Согласно заявлениям генерального директора Антидиффамационной лиги Джонатана Гринблатта, опубликованным на этой неделе в социальных сетях, АДЛ использует систему постоянного наблюдения для мониторинга и контроля американцев, критикующих Израиль в интернете или занимающихся законной политической деятельностью.
Гринблатт говорит: “У меня в ADL 45 человек — штатных аналитиков - 45 штатных аналитиков разведки, отслеживающих плохих парней в социальных сетях, в искусственном интеллекте, в видеоиграх, подкастах, криптовалюте, называйте как хотите”. Он добавляет, что организация создала “программное обеспечение для отслеживания редакторов Википедии”.
Это признание подтверждает то, о чем давно говорили критики: частная организация, занимающаяся вопросами внешней политики, ведет досье на американских граждан — не для правоохранительных органов, а для контроля за политическими высказываниями.
«Мишени»: американское инакомыслие
В интервью упоминается более обширная речь Гринблатта, которую он произнес в синагоге Лос-Анджелеса. В этой речи, позже удаленной из публичного доступа, Гринблатт перечисляет американцев, представляющих весь политический спектр — левых, правых и центристов, — которых объединяет только готовность ставить под сомнение политику США в отношении Израиля или заниматься политической деятельностью вне официальных каналов.
Антивоенные активисты. Христианские консерваторы. Так называемые «сторонники теории заговора». Все они названы «плохими парнями».
‘Крупнейший инструктор правоохранительных органов в Америке’
Деятельность Антидиффамационной лиги не ограничивается составлением списков. Гринблатт назвал организацию «крупнейшим инструктором правоохранительных органов в Америке», утверждая, что она ежегодно обучает 20 000 сотрудников вопросам экстремизма и ненависти.
Это означает, что та же организация, которая составляет политические досье, влияет на то, как американская полиция определяет, кто представляет угрозу. Постоянное взаимодействие между частными правозащитными организациями и правоохранительными органами — это путь к идеологическому захвату, когда внешнеполитические приоритеты Антидиффамационной лиги становятся основным критерием, через призму которого местная полиция смотрит на свои сообщества.
Формирование цифровой общественной площадки
Мониторинг Антидиффамационной лиги распространяется на инфраструктуру, формирующую общественный дискурс. По данным Quds News Network, Гринблатт заявил, что Антидиффамационная лига «работает с OpenAI, Alphabet, Anthropic, Meta, Microsoft» над «обучением» их больших языковых моделей, а также «инвестирует в Википедию».
Последствия могут быть значительными. Если группа, называющая критиков Израиля «плохими парнями», влияет на обучающие данные систем искусственного интеллекта и редакционные процессы в Википедии — крупнейшей в мире энциклопедии, — то она формирует представления будущих поколений об американском инакомыслии, Ближнем Востоке и о том, кто имеет право высказываться.
Иностранный интерес, а не организация по защите гражданских прав
Антидиффамационная лига позиционирует себя как организация по защите гражданских прав. Но ее действия говорят о другом: это заинтересованная сторона с определенной внешнеполитической повесткой, которая использует инструменты слежки, обучения сотрудников правоохранительных органов и влияния на технологическую индустрию, чтобы заставить замолчать несогласных американцев.
Первая поправка к Конституции США защищает право американцев критиковать любое иностранное правительство, в том числе Израиль, без внесения в список и передачи информации в ФБР. Она защищает право на политическую организацию, протест против войны, вступление в Социалистическую рабочую партию и защиту прав палестинцев.
Если частная организация хочет следить за высказываниями, это ее право. Но когда эта организация делится своими списками с федеральными правоохранительными органами, обучает полицию и формирует алгоритмы, определяющие, что американцы видят и читают, она перестает быть частной организацией. Она становится де-факто государственным органом, контролирующим мысли в интересах иностранного государства.
Антидиффамационная лига не сразу ответила на запрос о комментарии по поводу конкретного количества аналитиков, критериев, используемых для отнесения людей к категории «плохих парней», а также о том, уведомляются ли американцы, попавшие в списки Антидиффамационной лиги, о своем включении в список и предоставляется ли им возможность подать апелляцию, и что подразумевается под «инвестированием в Википедию».
Пока на эти вопросы нет ответов, американский народ имеет полное право спросить: кто уполномочил Антидиффамационную лигу решать, кого включать в список? И что будет с американцами, которых Израиль назвал «плохими парнями»?
Источник
Для просмотра ссылки Войди или Зарегистрируйся