Тысячи детей и взрослых были автоматически исключены из программ Medicaid и пособий по инвалидности компьютерной системой, которая должна была упростить подачу заявок и получение медицинской помощи.
Тысячи жителей Теннесси были незаконно лишены Medicaid и других пособий из-за программных и информационных ошибок в алгоритмической системе, которую штат использует для определения права на получение помощи малоимущими жителями.
Судебное решение по иску о незаконном лишении пособий
Судья постановил, что система стоимостью 400 миллионов долларов, призванная упростить процесс, на самом деле нарушила права заявителей, автоматически отклоняя их без надлежащего рассмотрения.
Иск, поданный от имени пострадавших жителей Теннесси, утверждал, что система непрозрачна и сложна для понимания, что лишает заявителей возможности оспорить отказы. Судья согласился с этим аргументом, постановив, что государство нарушило право на надлежащую правовую процедуру, не предоставив адекватного уведомления и возможности быть услышанным.
Это решение является важной победой для защитников малоимущих и инвалидов, которые давно предупреждают об опасностях использования алгоритмов в принятии решений, влияющих на жизнь людей.
Опасность автоматизации социальных программ
Случай в Теннесси — яркий пример того, как благие намерения автоматизации могут привести к непредвиденным и разрушительным последствиям.
Важно отметить, что системы на основе алгоритмов столь же хороши, как и данные, на которых они обучаются. В случае с системой Теннесси ошибки в данных и программном обеспечении привели к тому, что тысячи людей остались без жизненно важной медицинской помощи.
Это решение должно послужить тревожным сигналом для правительств по всей стране, которые все чаще полагаются на алгоритмы для предоставления государственных услуг. Крайне важно, чтобы эти системы разрабатывались и внедрялись прозрачно, подотчетно и с учетом прав человека.
Личная история о сбоях в системе
Мне довелось столкнуться с подобной бюрократической неразберихой, когда я пытался оформить налоговый вычет на благотворительность. Я точно помню, как заполнял все графы, прикладывал копии квитанций – в общем, старался быть образцовым гражданином. Но через пару месяцев мне пришло письмо с требованием вернуть «излишне выплаченную сумму», угрожая штрафами.
Выяснилось, что система неверно интерпретировала одну цифру в моем ИНН, из-за чего записала пожертвование на несуществующий счёт. Ситуация была настолько абсурдной, что даже сотрудник налоговой, к которому я обратился за помощью, рассмеялся. «Ну, с компьютером, знаете ли, не поспоришь!», — сказал он, исправляя ошибку вручную. К счастью, все разрешилось благополучно, но осадочек, как говорится, остался.
