МОСКВА, 7 фев — РАПСИ. Окружной суд Гааги предписал правительству страны прекратить использование автоматизированной системы выявления мошенничества в сфере социального обеспечения, сообщает The Guardian.

Суд пришел к заключению, что актуальная версия алгоритма моделирования риска нарушает право человека на уважение частной жизни и защиту персональных данных в трактовке Европейской конвенции по правам человека, а также способствует дискриминации жителей Нидерландов с низким уровнем дохода.

Запрет касается так называемой Systeem Risico Indicatie, или SyRI, разработанной в 2014 году при поддержке Министерства по социальным вопросам и занятости Нидерландов. Суть технологии заключается в автоматизированном моделировании вероятности мошенничества со стороны лица, получающего пособие или претендующего на него, а также нарушений трудового законодательства.

Система, используя большие массивы персональных данных граждан, которые имеются в распоряжении государственных органов, была призвана выявлять предположительных мошенников и оповещать об этом правоохранительные органы, которые, в свою очередь, в течение двух лет могли бы инициировать проверку.

Претензии к SyRI со стороны правозащитных организаций заключались в том, что ее алгоритм обработки сведений функционировал таким образом, что под проверку попадали в большинстве случаев жители малоимущих районов в городах Нидерландов, тогда как в настоящее время отсутствует какое-либо статистическое подтверждения повышенного уровня мошенничества с их стороны.

Представители коалиции истцов пояснили The Guardian, что такие «цифровые государства всеобщего благосостояния», как правило, разрабатывают и интегрируют современные технологии автоматизированного принятия решений и искусственного интеллекта без надлежащего контроля со стороны отраслевых и общественных организаций, предпочитая по какой-то причине скрывать свои действия. И, по их мнению, решений суда Нидерландов является тому подтверждением.

Специальный докладчик ООН по вопросу о крайней нищеты и правах человека Филип Алстон приветствовал решение Окружного суда Гааги и заявил, что это «явная победа для всех тех, кто обоснованно обеспокоен серьезной угрозой, которую цифровые системы социального обеспечения представляют для прав человека». Он также отметил, что правовая позиция суда «создает сильный прецедент для других судов» на территории Европейского Союза

Кристиан ван Веен, директор проекта «Цифровое государство всеобщего благосостояния и права человека» в Школе права Нью-Йоркского университета, напомнил, что «SyRI не является уникальной системой: многие другие государства экспериментируют с системами автоматизированного принятия решений».