Китайские учёные создали ИИ-прокурора

Шанхайская прокуратура Пудун, крупнейшая в стране, разработала и испытала эту машину. На данный момент машина способна выявлять и предъявлять обвинения по восьми наиболее распространённым в Шанхае преступлениям — мошенничество с кредитными картами, организация азартных игр, неосторожное вождение, умышленное причинение вреда здоровью, препятствование исполнению служебных обязанностей, кража, мошенничество и ссора.

Исследователи заявили, что на основе письменного описания дела так называемый ИИ-прокурор может выдвинуть обвинение с 97-процентной точностью.

Профессор Ши Йон, ведущий учёный проекта, сказал, что технология ИИ может снизить ежедневную нагрузку на прокуроров, позволяя им заниматься более сложной работой. Ши также является директором лаборатории по анализу данных и управления знаниями Китайской академии наук, ведущего государственного исследовательского института.

«Система может в определённой степени заменить прокуроров в процессе принятия решений», — заявил Ши и его коллеги в статье, только что опубликованной в китайском рецензируемом журнале Management Review.

Впервые о недавно разработанной машине с искусственным интеллектом сообщила газета South China Morning Post.

Ши и его коллеги рассказали, что китайские прокуроры начали использовать ИИ в 2016 году. Сейчас многие из них используют инструмент ИИ, известный как «Система 206», которая способна оценить силу доказательств, условия для ареста и то, насколько опасен подозреваемый для общества.

Однако все существующие инструменты ИИ играют лишь ограниченную роль, поскольку «они не участвуют в процессе принятия решений о выдвижении обвинений и [вынесении] приговоров», говорится в статье.

Для принятия таких решений требуется, чтобы машина определила и удалила все материалы, не имеющие отношения к преступлению, и сохранила полезную информацию.

Машина также должна преобразовать сложный, постоянно меняющийся человеческий язык в стандартный математический или геометрический формат, понятный компьютеру, говорится в статье.

Китайские интернет-компании разработали мощные инструменты для обработки естественного языка, но для их работы часто требуются большие компьютеры, к которым у прокуроров нет доступа.

ИИ-прокурор, разработанный командой Ши, может работать на настольном компьютере. Для каждого подозреваемого он будет выдвигать обвинение, основываясь на 1000 «признаков», полученных из созданного человеком описания дела, а затем «Система 206» оценивает улики.

По словам Ши, для обучения машины они использовали более 17 тыс. дел за период с 2015 по 2020 год.

Авторы статьи ожидают, что ИИ-прокурор вскоре станет более компетентным благодаря модернизации. Он сможет распознавать менее распространённые преступления и выдвигать несколько обвинений против одного подозреваемого.

Однако новая машина вызвала вопросы у китайских прокуроров. Прокурор из Гуанчжоу заявил в отчёте, что у него есть некоторые сомнения по поводу использования ИИ-прокурора при выдвижении обвинений.

97-процентная точность может быть высокой с точки зрения технологии, но всегда будет существовать вероятность ошибки, сказал прокурор.

«Кто возьмёт на себя ответственность, когда это произойдёт? Прокурор, машина или разработчик алгоритма?»

Прямое применение ИИ в принятии решений также может повлиять на автономию прокурора-человека. Большинство прокуроров не хотят, чтобы компьютерные учёные вмешивались в юридическое решение, добавил прокурор.

Ещё один вопрос заключается в том, что ИИ-прокурор может выдвинуть обвинение, основываясь только на своём предыдущем опыте, сказал прокурор. Он не сможет предугадать реакцию общества на то или иное дело в меняющейся социальной среде.

«ИИ может помочь обнаружить ошибку, но он не может заменить человека в принятии решения», — сказал прокурор.

Китайские СМИ прославили ИИ-прокурора как первое в мире достижение в этой области.

В отличие от западных демократических стран, в Китае нет независимой правовой системы, а суды контролируются коммунистической партией.

Тех, кто говорит или действует неприемлемым для партии образом, диссиденты, религиозные верующие, адвокаты по правам человека и гражданские журналисты, часто обвиняют в расплывчатых правонарушениях, таких как «разжигание ссор и провоцирование беспорядков» или «подрыв государственной власти», и в 99,9% случаев неизменно осуждают.

Например, журналистке Чжан Чжань  в настоящее время грозит четырёхлетнее тюремное заключение за репортаж о ранних стадиях вспышки COVID-19 в Ухане в феврале 2020 года. Этот приговор вызвал широкое осуждение со стороны западных правительств и правозащитных групп. По словам её семьи, здоровье Чжан резко ухудшилось в тюрьме после длительной голодовки и отказа в адекватной медицинской помощи.

Фрэнк Дун — журналист более чем с 20-летним опытом работы, освещает темы, связанные с Китаем.