Етична дилема: кого уб’є безпілотна автівка?

Якщо він повинен зробити вибір, буде ваш безпілотний автомобіль вбивати вас чи пішохода на вулиці?

Насувається ера самокерованих транспортних засобів, що, ймовірно, значно скоротить число жертв руху, натомість ставить складні моральні дилеми, йдеться у дослідженні, опублікованому у четвер. Автономні системи водіння повинні отримати алгоритми для прийняття важливих рішень, які засновані більше на етиці, ніж технології, згідно з результатами дослідження, опублікованого у часописі Science.

— З’ясування того, як будувати етичні автономні алгоритми для машин є однією з найгостріших проблем в області штучного інтелекту сьогодні, — йдеться в дослідженні Жана-Франсуа Боннефона з Тулузької школи економіки, Азима Шаріфа з Орегонського університету  і Аядом Раваном з Массачусетського технологічного інституту. — У даний час, мабуть, немає простого способу розробки алгоритмів, який примирив би моральні цінності і особисту зацікавленість, не кажучи вже про різні культури з різними моральними установами щодо життєвих компромісів.

Дослідники розповідають, що автономні транспортні засоби пропонують безліч соціальних переваг, таких як зменшення забруднення повітря і усунення до 90 відсотків дорожньо-транспортних пригод.

— Не всі аварії уникатимуться, хоча деякі випадки вимагатимуть безпілотну автівку приймати складні етичні рішення щодо неминучої шкоди. — говорять дослідники. — Наприклад, авто може запобігти можливій шкоді кільком пішоходам, але жертвою стане перехожий, або зіткнутися з вибором пожертвувати своїм власним пасажиром, щоб уберегти одного або кількох пішоходів.

Програмування складне

Ці дилеми “малоймовірні події”, але програмісти “все одно повинні включати правила прийняття рішення про те, що робити у таких гіпотетичних ситуаціях”, наголошують дослідники. Розробники повинні брати до уваги неоднозначні і часом суперечливі суспільні відносини. В опитуванні, проведеному дослідниками, 76 відсотків учасників сказали, що буде більш етично для самокерованих автомобілів, щоб принести в жертву одного пасажира, а не вбити 10 пішоходів. Натомість 23 відсотки сказали, що було б краще, щоб вбити свого пасажира, коли тільки один пішохід може бути врятований. І тільки 19 відсотків би купили безпілотне авто, якщо він був би запрограмований на те, що один з членів сім’ї може стати жертвою заради більшого блага.

Відповіді показують очевидне протиріччя:

— Люди хочуть жити у світі, де кожен є власником безпілотних автомобілів, які зводять до мінімуму втрати, але вони хочуть, щоб їх власний автомобіль, захистив їх за всяку ціну, — сказав Раван.

Регулювати чи ні?

Одне з можливих рішень, кажуть дослідники, є дорожні правила, які встановлюють чіткі принципи керування для того, коли транспортний засіб повинен встановити пріоритет життя пасажира або інших людей, але все одно не зрозуміло як громадськість буде приймати це.

— Якщо ми намагаємося використовувати регулювання, щоб вирішити хорошу громадську проблему програмування автомобіля без водія ми б відбиваючи у людей купувати ці автомобілі, — говорить Раван. — Це призведе до затримки прийняття нової технології, яка дозволить усунути більшість дорожньо-транспортних пригод».

У коментарі в Science, Джошуа Грін з Гарвардського університету сказав, що дослідження показує незрозумілим те, що нас чекає у майбутньому.

“Життя і смерть неприємні компроміси, і незалежно від того, які приймають етичні принципи щодо автономних транспортних засобів, вони будуть відкриті для критичних зауважень, даючи виробникам мало стимулів оприлюднювати свої принципи роботи,—  написав Грін.— Проблема, здається, є більш філософською, ніж технічною. Перед тим як ми зможемо поставити наші цінності в машини, ми повинні з’ясувати, як зробити наші цінності ясними і послідовними. Для моральних філософів 21-го століття це стане серйозним викликом.

Ми теж не залишимося осторонь цієї проблеми і пропонуємо вам у коментарях написати свою ідею вирішення цієї складної дилеми.