В Китае отказались от антикоррупционного ИИ — он выявлял слишком много нарушителей

Антикоррупционный проект с использованием искусственного интеллекта Zero Trust («Нулевое доверие»), который семь лет назад запустили в Китае, будет свернут, пишет South China Morning Post. Причина — ИИ оказался слишком эффективным, уличив в коррупционных нарушениях более 8,7 тысячи китайских чиновников.

Слишком хорош, чтобы быть

Систему борьбы с коррупцией Zero Trust («Нулевое доверие») с 2012 года применяли в 30 округах и крупных городах Китая, но широкого распространения она не получила — в провинциях страны решили не поддерживать продолжение проекта.

Основная причина отказа, по словам СМИ, — высокая эффективность проекта. За семь лет система охватила только 1% чиновников страны, и обнаружила среди них 8,7 тысячи нарушителей.

ИИ действовал по алгоритму, проверяя чиновников по 150 базам данных, интересуясь их доходами и доходами их родственников. Если показатели превышали определенный порог, то человек помечался маркером, его приглашали в полицию, а китайские власти получали уведомление.

Еще одним минусом системы стало то, что она выявляла факты нарушений, но не могла указать, как именно они были совершены. Из-за этого полиции приходилось проводить повторное расследование, которое далеко не всегда позволяло привлекать взяточников к ответственности. В итоге работа ИИ редко приводила к обвинительным приговорам, чаще чиновники просто получали предупреждения об опасности коррупционной деятельности.