Машины против коррупции

В Китае испытали систему искусственного интеллекта, позволяющую выявлять коррупционеров.

Почва для проекта благодатная: госслужбы Китая масштабно используют новые информационные технологии с элементами искусственного интеллекта. Например, Министерство иностранных дел КНР применяет системы с машинным обучением для оценки инвестиционных рисков. В некоторых городах развернуты системы видеонаблюдения с распознаванием лиц. Проводятся эксперименты с технологией блокчейн, связанные с защитой целостности данных в государственных базах.

В начале нынешнего года в Поднебесной прошел первый судебный процесс, во время которого система с элементами искусственного интеллекта под кодовым номером 206 применялась для записи и анализа выступлений сторон, быстрого поиска нужных фрагментов записей с камер наблюдения, а также других фактов, упоминавшихся участниками процесса. Цель эксперимента — проверка возможности ускорения судебных процессов и снижения количества ошибок.

Примеры можно продолжать.

Проект Zero Trust. Согласно официальной статистике, в Поднебесной около 50 млн чиновников. Китайская коррупция уже стала притчей во языцех. Борьба с ней натыкается на множество проблем. Одна из них — необходимость кропотливого и трудоемкого анализа данных, часто намеренно запутанных и неочевидных. Это типичная задача для нейронных сетей, которые как раз и применяются для распознавания повторяющихся паттернов в больших объемах данных.

Благодаря постоянному обучению на значительных массивах данных такая система начинает различать закономерности, на выявление которых человек тратит слишком много времени. «Нейронки» распознают лица на фотографиях, помогают настраивать рекламные кампании, выполняют множество других функций, связанных с анализом Big Data.

В Китае приняли решение попытаться использовать технологию для выявления нечистых на руку чиновников. Причем к этому вопросу в Поднебесной подошли весьма серьезно. Проект Zero Trust разрабатывался Академией наук при содействии различных структур Коммунистической партии КНР, ответственных за внутреннюю безопасность. Именно сотрудники данных служб выступили в качестве экспертов на ранних стадиях машинного обучения системы.

Zero Trust был предоставлен доступ более чем к сотне баз данных местных органов власти. Помимо внесенных в них записей, использовались спутниковые фотоснимки, с помощью которых искали новые особняки и другие дорогостоящие объекты. Комбинация различных источников позволила сопоставить данные о профессиональной деятельности и частично о личной жизни сотрудников госаппарата. В результате была выстроена система, связывавшая факты на многих уровнях и выявлявшая признаки поведения чиновников, которые в известных ей случаях впоследствии приводили к коррупции. Создатели Zero Trust неоднократно подчеркивали ее профилактическую направленность.

Испытания и итоги. Испытания системы проводились на уровне городских властей. В проекте приняли участие в общей сложности более тридцати городов и других территориально-административ­ных единиц (менее 1 % от их общего количества в стране). Все они находятся на окраинах Китая.

Система довольно успешно выявляла и сопоставляла факты дорогостоящих покупок и движения средств на счетах, так или иначе связанных с определенным чиновником, его семьей и близкими «контактами», с неоднозначными решениями органов государственной власти, на которые данный чиновник мог повлиять. Вычислялась вероятность преступления, система сообщала о ней экспериментаторам.

Согласно опубликованным сведениям, с 2012 по 2018 год Zero Trust выдала более 8 тыс. срабатываний. Некоторые из них завершились следствием, судом и наказанием, большинство — профилактикой и предупреждениями разной степени тяжести.

Однако в скором времени проект забуксовал: власти городов-участников стали самостоятельно отключать систему, ссылаясь на сложность и техническую неготовность поддерживать ее функционирование. В результате сегодня проект фактически свернут. Основная официальная причина закрытия проекта — отсутствие правовой базы. В Китае вопросы доступа автоматических самообучающихся систем к конфиденциальной информации пока никак не регулируются, что не позволяет задавать правила игры для искусственного интеллекта. Сейчас система работает только в уезде Сюйшуй и используется как справочный ресурс.

Итог испытаний сформулировали как «частично успешный». Система неплохо справлялась со своей задачей, однако допускала определенный процент ложнопозитивных срабатываний. Каждый такой случай требовал внимательного изучения человеком.

Официальные комментарии о судьбе Zero Trust весьма скупы. Известно, что представитель дисциплинарной инспекции Компартии КНР в провинции Хайнань Жан И назвал данную систему «лишь одним из инструментов, позволяющих спасти людей, сворачивающих на скользкую дорожку».

Так что пока люди сильнее машин, по крайней мере в Китае.