Штучний інтелект – це цікава, але дуже «сира» технологія на даному етапі розвитку. Pingvin Pro описував багато різних історій про дослідження, можливості та проблеми штучного інтелекту. Всі вони зібрані ось на цій сторінці. Але дослідники та вчені продовжують свою роботу з вдосконалення цієї машини. Передбачення злочинів досить хитка справа і штучний інтелект, який застосовується для цього має довгу історію перекосу поліції у бік кольорових спільнот. Одного разу ми розказували про те, як технологія упереджено ставиться до темношкірих людей. І за ці роки, на жаль, нічого суттєво не змінилося.
В Сполучених Штатах спостерігається зростання кількості насильницьких злочинів. Тому з’явився ще один дослідницький проєкт. Минулого місяця група вчених з університету Чикаго представила алгоритм, що хвалиться в прес-релізі своєю здатністю передбачати злочини з «90% точністю». Алгоритм визначає місця у великих містах, які, за його розрахунками, мають високу ймовірність скоєння злочинів. Програмне забезпечення також може оцінити, як поліцейська діяльність варіюється в різних районах восьми великих міст США, серед яких Чикаго, Лос-Анджелес та Філадельфія.
У чому помилка штучного інтелекту під час передбачення злочинів?
Але використання штучного інтелекту для управління правоохоронними органами турбує багатьох учених, які займаються питаннями соціальної справедливості, та криміналістів, які посилаються на довгу історію таких технологій, несправедливо передбачаючи посилене спостереження за темношкірими та латиноамериканцями. Навіть один із авторів дослідження визнає, що здатність алгоритму передбачати злочини обмежена.
Поліція вже давно використовує будь-який доступний інструмент для передбачення злочинів. До технічного прогресу поліцейські юрмилися в конференц-залах і наносили на карту шпильки з кримінальними інцидентами, сподіваючись, що це допоможе зрозуміти, де їм слід шукати далі. За останні 15 років найбільші поліцейські управління країни, як-от Нью-Йорк, Лос-Анджелес та Чикаго, задумалися про способи використання штучного інтелекту не лише для аналізу злочинів, а й для їхнього прогнозування. Вони часто зверталися до компаній з аналізу даних, зокрема PredPol та Palantir, які створюють програмне забезпечення, яке правоохоронці можуть використовувати для прогнозування злочинів.
Прогностичні поліцейські інструменти створюються шляхом передачі даних, як-от звіти про злочини, записи про арешти та зображення номерних знаків. Алгоритм, який навчений шукати закономірності, передбачає, де і коли певний тип злочину відбудеться в майбутньому. Але алгоритми хороші рівно настільки, наскільки хороші дані, якими вони живляться, що є проблемою, особливо для людей у Сполучених Штатах. Про це зауважив Вінсент Саутерленд з факультету раси, нерівності та права Нью-Йоркського університету.
За словами Саутерленда, історично склалося так, що поліцейські дані у Сполучених Штатах упереджені. Поліцейські з більшою ймовірністю заарештують когось або звинувачують у скоєнні злочину в районах з низьким доходом, де переважають кольорові люди. І ця реальність не обов’язково відображає те, де відбувається злочин, але те, де поліцейські проводять свій час.
Це означає, що в більшості наборів даних про злочинну діяльність переважають кольорові люди та мешканці малозабезпечених районів. Подання цих даних до алгоритму призводить до припущення, що в цих областях відбувається більше злочинної діяльності. Таким чином, створюючи петлю зворотного зв’язку, який має расові та соціально-економічні упередження.
Як можна було би вирішити проблему
Якби замість цього, інструменти використовували для з’ясування, де потрібно надавати більше соціальних послуг, підвищувати залучення спільноти та усувати корінні соціальні причини насильства, це було б ефективнішим використанням технології. Для того, щоб дійсно знизити злочинність, поліцейські управління повинні працювати в тандемі із соціальними працівниками та громадськими групами для вирішення питань освіти, житла та громадянської активності. Але й для цього необхідні кошти, які не поспішають виділяти. Тому й досі є це замкнене коло…