Головна » Технології / Статті » Штучний інтелект успадковує гріхи людей

Вже відомі випадки, коли штучний інтелект із взірця неупередженості ставав «сам по собі». Але то були забави. Наразі ця машина ще більше дивує та, водночас, лякає своїми можливостями.




Система штучного інтелекту «Compas» використовується в судовій системі США. Все це для того, щоб уникнути суб’єктивності рішень при винесенні вироку. Однак сталося не так, як гадалося. Відомі, як мінімум, дві ситуації, коли штучний інтелект помилявся та показував свої расистські нахили.

У першій ситуації була заарештована дівчина, що викрала велосипед, бо не встигала завершити свої справи. До цього вона не мала проблем із законом. Трохи пізніше, на крадіжці в супермаркеті попався чоловік, що вже відбув п’ятирічний термін у в’язниці. Система спрогнозувала, що в майбутньому дівчина схильна до повторної крадіжки, а от чоловік ні. Справа в тому, що ця дівчина була афроамериканкою, а чоловік представником європеоїдної раси. Тільки от сталось якраз навпаки – дівчина проблем із законом більше не мала, а чоловік знову попався та заробив собі чималий термін.

Система штучного інтелекту

Система штучного інтелекту

Друга ситуація, коли в різний час заарештували двох чоловіків за продаж та зберігання наркотиків. Штучний інтелект і цього разу визначив афроамериканця, як загрозу для суспільства. І знову помилився, адже іншого порушника заарештовували надалі ще тричі.

Тільки от проблема не в тому, що він сам вигадав щось нове, а лиш посилив добре закріплене старе. Якщо в США була проблема расизму серед представників правосуддя, то штучний інтелект, вивчаючи особисті справи злочинців, їхню соціальну приналежність та дохід, почав виробляти таку ж модель поведінки. У підсумку виходить, що система стає концентрованим місцем для расизму, сексизму та інших людських «гріхів».

І ще кілька прикладів. Пам’ятаєте, як нейромережа компанії Google, що здатна розпізнавати зображення, визначила двох афроамериканців як горил? А соціальна мережа LinkedIn надає перевагу претендентам чоловічої статі. Це вже багато про що свідчить.

Забавний випадок стався з ботом жіночої статі на ім’я Тай від Microsoft. Лише за добу перебування в Twitter вона перетворилася на фанатку Гітлера і Трампа. А потім ще почала виписувати ксенофобні твіти про мексиканців та євреїв.

Словом, над штучним інтелектом ще треба ретельно попрацювати. Щоправда, спершу було би добре вирішити проблему серед людей.

Якщо Ви знайшли помилку, будь ласка, виділіть фрагмент тексту та натисніть Ctrl+Enter.
Поділитися:

Новини партнерів

Правила коментування

Вітаємо Вас на сайті Pingvin Pro. Ми докладаємо всіх зусиль, аби переконатися, що коментарі наших статей вільні від тролінгу, спаму та образ. Саме тому, на нашому сайті включена премодерація коментарів. Будь ласка, ознайомтеся з кількома правилами коментування.

  1. Перш за все, коментування відбувається через сторонній сервіс Disqus. Модератори сайту не несуть відповідальність за дії сервісу.
  2. На сайті ввімкнена премодерація. Тому ваш коментар може з’явитися не одразу. Нам теж інколи треба спати.
  3. Будьте ввічливими – ми не заохочуємо на сайті грубість та образи. Пам’ятайте, що слова мають вплив на людей! Саме тому, модератори сайту залишають за собою право не публікувати той чи інший коментар.
  4. Будь-які образи, відкриті чи завуальовані, у бік команди сайту, конкретного автора чи інших коментаторів, одразу видаляються. Агресивний коментатор може бути забанений без попереджень і пояснень з боку адміністрації сайту.
  5. Якщо вас забанили – на це були причини. Ми не пояснюємо причин ані тут, ані через інші канали зв’язку з редакторами сайту.
  6. Коментарі, які містять посилання на сторонні сайти чи ресурси можуть бути видалені без попереджень. Ми не рекламний майданчик для інших ресурсів.
  7. Якщо Ви виявили коментар, який порушує правила нашого сайту, обов’язково позначте його як спам – модератори цінують Вашу підтримку.

Останні статті

Статті

Скільки коштуватиме комп’ютер, щоб пограти в STALKER 2: Серце Чорнобиля?

Цієї неділі, в рамках ігрової виставки E3 2021, українська ігрова студія GSC Game World показала нам свій перший повноцінний трейлер ігроладу STALKER 2: Серце Чорнобиля. Як ми раніше повідомляли, гра має вийти 28 квітня 2022 року, тобто аж за 10 місяців з дня написання цієї статті. Вона буде доступна для комп’ютерів з операційною системою Windows 10 […]


Статті

macOS Monterey: що нового в операційній системі для комп’ютерів Mac?

Вчора в рамках конференції для розробників WWDC 2021 компанія Apple не лише представила iOS 15, iPadOS 15 та watchOS 8, а й нову версію операційної системи для комп’ютерів Mac – macOS Monterey. Ця нова ОС надає ще більше можливостей для спілкування з близькими, ефективної роботи та зручного використання декількох пристроїв Apple як єдиної екосистеми. Нові інструменти в macOS Monterey […]


Останні новини

Новини ІТ

Мати блогера «злила» в мережу відео про неанонсований смартфон Xiaomi

Як завжди, до офіційного запуску будь-якого пристрою відбувається безліч витоків і домислів. Однак, перед офіційним запуском Xiaomi Mi 10 Ultra у серпні 2020 року, в мережі з’явилося повне відео розпакування цього пристрою. Його «злив» китайський блогер, а точніше мати блогера. Він надіслав Xiaomi лист з вибаченнями за витік 11 серпня 2020 року. Але за цю […]


Новини ІТ

Google Drive та YouTube зазнають серйозних змін із доступом до матеріалів

Багато старих матеріалів з посиланнями на Google Drive можуть стати недоступними починаючи з 13 вересня 2021 року. Компанія Google заявила, що має намір випустити оновлення, яке дозволить більш безпечно ділитися файлами. Це призведе до того, що сервіс генеруватиме не лише посилання, а й ключ доступу. Підписуйтесь на наш Telegram-канал Системні адміністратори повинні вирішити до 23 липня, […]


Новини партнерів

"],"monthNamesShort":["\u0421\u0456\u0447","\u041b\u044e\u0442","\u0411\u0435\u0440","\u041a\u0432\u0456","\u0422\u0440\u0430","\u0427\u0435\u0440","\u041b\u0438\u043f","\u0421\u0435\u0440","\u0412\u0435\u0440","\u0416\u043e\u0432","\u041b\u0438\u0441","\u0413\u0440\u0443"],"nextText":"\u0414\u0430\u043b\u0456","prevText":"\u041f\u043e\u043f\u0435\u0440\u0435\u0434\u043d\u0456\u0439","dayNames":["\u041d\u0435\u0434\u0456\u043b\u044f","\u041f\u043e\u043d\u0435\u0434\u0456\u043b\u043e\u043a","\u0412\u0456\u0432\u0442\u043e\u0440\u043e\u043a","\u0421\u0435\u0440\u0435\u0434\u0430","\u0427\u0435\u0442\u0432\u0435\u0440","\u041f\u2019\u044f\u0442\u043d\u0438\u0446\u044f","\u0421\u0443\u0431\u043e\u0442\u0430"],"dayNamesShort":["\u041d\u0434","\u041f\u043d","\u0412\u0442","\u0421\u0440","\u0427\u0442","\u041f\u0442","\u0421\u0431"],"dayNamesMin":["\u041d\u0434","\u041f\u043d","\u0412\u0442","\u0421\u0440","\u0427\u0442","\u041f\u0442","\u0421\u0431"],"dateFormat":"d M, yy","firstDay":1,"isRTL":false});});

Повідомити про помилку

Текст, який буде надіслано нашим редакторам: