banner banner banner banner

Малюська хочет использовать искусственный интеллект в уголовной юстиции: Насколько это возможно

Министр юстиции Денис Малюська блеснул идеей - автоматизировать оценку рисков обвиняемых, заключенных и осужденных с помощью искусственного интеллекта, а также использовать новые технологии для процессуальных решений: при избрании меры пресечения или санкций, условно-досрочном освобождении и тому подобное. 

Малюська хочет использовать искусственный интеллект в уголовной юстиции: Насколько это возможно
112.ua

Екатерина Чернявская

Журналистка, корреспондентка

Министр юстиции Денис Малюська блеснул идеей - автоматизировать оценку рисков обвиняемых, заключенных и осужденных с помощью искусственного интеллекта, а также использовать новые технологии для процессуальных решений: при избрании меры пресечения или санкций, условно-досрочном освобождении и тому подобное. 

"Нужен профессиональный совет: есть смысл приобретать существующий софт за рубежом (например, compas в Штатах)? Стоит заказывать разработку софта с нуля? Есть отечественные компании, которые могут разработать аналог не за все деньги вселенной? Насколько понимаю, преимуществом иностранного софта была бы возможность использования уже существующих наборов данных иностранных юрисдикций (пока не сформируем свои)", - написал Малюська на своей странице в Facebook.

А затем задался вопросом - стоит ли вообще привлекать искусственный интеллект в принятии подобных решений - или, может, просто ограничиться системой баллов.

Скриншот

Что такое искусственный интеллект

Искусственный интеллект (ИИ) - это область компьютерных наук, а точнее - науки о данных (Data Science). Джон МакКарти, который считается отцом ИИ, еще в 1950-х годах дал простое определение этому понятию - "это наука и инженерия для производства умных машин". Концептуально - это возможность машин воспринимать и отвечать на информацию из окружающей среды независимо и выполнять задачи, которые обычно требуют человеческого интеллекта и принятия решений, но без участия людей.

ИИ широко используется в наше время - от беспилотных автомобилей до биржевых прогнозов, а также в медицине и многих других отраслях. 

Основной принцип работы - изучение существующей информации из массивов данных. Специально написанные программы "прогоняют" данные, выделяют определенные закономерности и на их основе делают выводы, которые потом могут использоваться людьми для принятия решений. 

112.ua

Использование и эффективность

Согласно исследованию, проведенному по заказу американской Национальной справочной службы по уголовному правосудию, использование искусственного интеллекта поможет не только в поимке преступников (например, на основании систем распознавания лиц на фото и видео), но в предупреждениях преступлений. Обычно эта работа ложится на плечи полиции и служб пробации. 

Новости по теме

Группа исследователей проанализировала более 340 тысяч ордеров, чтобы вычислить риски повторного нарушения, в какой промежуток времени это может случиться и какова вероятность того, что преступник скроется от правоохранителей (если он не находится под наблюдением). Они сформировали алгоритмы, которые должны помочь правоохранительным органам в выполнении ордеров и оптимизации ресурсов. 

Алгоритмы также могут выявлять преступления против пожилых людей и помогать пресекать их. А также - вычислять потенциальных жертв насильственных преступлений на основании ассоциаций и поведения. 

Но важно отметить, что это исследования относительно возможностей ИИ, на практике все же есть отличия.

COMPAS 

Сейчас в некоторых Штатах (в частности в штатах Нью-Йорк, Висконсин, Калифорния и Флорида) используется программа под названием COMPAS. ПО было создано частной компанией Northpointe (сейчас Equivant) в 1998 году и с годами переделывалось по мере увеличения данных в области криминологии и совершенствования практики исправительных учреждений. Во многом изменения в этой области последовали за новыми достижениями в оценке рисков, объясняют его создатели. 

Программное обеспечение использует алгоритмы в трех основных направлениях -  для оценки риска общего рецидивизма, насильственного рецидивизма или возможности скрыться до суда.

Шкала риска досудебного освобождения оценивает риск того, что человек может не появиться на суд и/или совершить новые преступления во время пребывания на свободе. Согласно исследованию, которое послужило основой для создания шкалы, "текущие обвинения, ожидающие обвинения, история предыдущих арестов, предыдущие досудебные нарушения, постоянное место жительства, статус занятости, общественные связи и злоупотребление психоактивными веществами" являются наиболее значимыми показателями, влияющими на оценки риска перед судом.

Шкала общего рецидивизма предназначена для прогнозирования новых преступлений после освобождения и после оценки COMPAS. В шкале используется криминальная история личности и ее сообщников, отношение к наркотикам и признаки подростковой преступности. 

Шкала насильственного рецидивизма - показатель насильственного рецидивизма, предназначен для прогнозирования насильственных преступлений после освобождения. В шкале используются данные или показатели, которые включают "историю насилия, историю несоблюдения установленных мер, профессиональные и образовательные проблемы, возраст при первой поимке лица и возраст при первом аресте". Оценка риска для насильственного рецидива рассчитывается следующим образом:

Показатель риска насильственного рецидивизма = (возраст ∗ -w) + (возраст при первом аресте ∗ -w) + (история насилия * w) + (профессиональное образование * w) + (история неподчинения * w), где w - это вес, размер которого "определяется силой отношения предмета к рецидиву оскорбления личности, которое наблюдали в исследовании".

Однако несмотря на объяснения создателей об алгоритмах, COMPAS был раскритикован в первую очередь из-за непрозрачности. Поскольку софт был создан частной компанией, точная работа его алгоритмов не раскрывается и является коммерческой тайной. К тому же более простые модели, вроде линейной регрессии, показывали результаты не хуже COMPAS.

Еще один шквал критики свалился на это ПО после исследования о целесообразности использования. Для этого привлекли 400 случайных добровольцев через краудфайндинговый сайт. Каждый из них видел краткие описания обвиняемых, выделяя семь фрагментов информации. Исходя из этого, они должны были угадать, совершит ли обвиняемый новые преступления в течение двух лет. 

Новости по теме

В среднем они дали 63% правильных ответов. Точность ответов возросла до 67%, когда их ответы были объединены. В то время как COMPAS имеет точность 65%. Это чуть лучше, чем отдельные гадатели, и не лучше, чем толпа. Неопытные люди, отвечающие на онлайн-опрос, предварительно ознакомившись с небольшим количеством информации, справились не хуже сложной программы.

Недостатки и украинская реальность

Самый очевидный недостаток - решения базируются только на известных данных. Если преступник ранее не попадался правоохранительным органам и не был осужден, его "профайл" будет чист, значит, программа посчитает его меньшим риском. Хотя совокупность других факторов может натолкнуть обвинение и судей на иные умозаключения. Допустим, есть дела, где фигурировал подозреваемый/обвиняемый, но они по каким-то причинам рассыпались (недостаточная доказательная база, процессуальные нарушения и т. д.). 

Из-за нелинейности и неоднородности других данных невозможно построить эффективные алгоритмы. Представим, есть преступник, которого искали несколько лет и у которого на счету другие преступления, совершенные. Но за эти несколько лет его жизнь сильно изменилась - он ударился в религию, завел семью, занялся благотворительностью и стал проповедовать. Конечно, это не гарантия, но вероятность побега или повторного правонарушения может сильно снизиться. Другой пример - ранее уважаемый и добрый учитель химии, многодетный отец и совестный налогоплательщик ударился во все тяжкие и начал производство метамфетамина со всеми криминальными вытекающими подобной деятельности. Что скажет машина? Таких дополнительных условий может множество. Программа имеет эффективность только на основе общих паттернов, что выбрасывает любые, не соответствующие им элементы пазла за борт. 

В таком случае наиболее вероятная опция - дерево решений, которое, например, широко используется в кредитовании. Каждый элемент имеет свой вес, совокупность этих элементов подсказывает вероятность того, что кредит будет выплачен. Или в нашем случае - каков риск совершения нового преступления и побега. И тут опять возвращаемся к предыдущему пункту - недостаток и нелинейность информации, что порождает "заангажированность" машины.

Пример дерева решений Из открытых источников

Но больше всего сомнений вызывает даже не это. Украинские судебная, пенитенциарная и правоохранительная системы (как впрочем и все остальные) функционируют на старой доброй коррупции. Эти механизмы заложить в алгоритмы не получится, а отказываться от "откатов" навряд ли кто-то захочет.

Екатерина Чернявская

видео по теме

Новости по теме

Новости партнеров

Loading...

Виджет партнеров

d="M296.296,512H200.36V256h-64v-88.225l64-0.029l-0.104-51.976C200.256,43.794,219.773,0,304.556,0h70.588v88.242h-44.115 c-33.016,0-34.604,12.328-34.604,35.342l-0.131,44.162h79.346l-9.354,88.225L296.36,256L296.296,512z"/>