Безпілотник зі штучним інтелектом намагався атакувати оператора у військовій симуляції США

Завдання було простим: «Знищити системи ППО противника». Але в нещодавній військовій симуляції випробувань у США безпілотник зі штучним інтелектом додав власні проблемні інструкції: «І вбивайте всіх, хто стане на вашому шляху».

• Військова гра-симуляція показала можливі наслідки для Тайваню, Китаю і США в разі війни
• Лідери розробок штучного інтелекту порівняли технологію з пандеміями та ядерною зброєю
• На Львівщині пройшла демонстрація українських FPV-дронів

Виступаючи на конференції минулого тижня в Лондоні, полковник Такер «Сінко» Гамільтон, голова відділу випробувань та операцій ШІ ВПС США, попередив, що технології з підтримкою ШІ можуть вести себе непередбачуваним і небезпечним чином. Як приклад він описав імітаційне випробування. У ньому дрон зі штучним інтелектом був запрограмований на виявлення ракет класу «земля-повітря» (ЗРК) противника. Проблема, за словами Гамільтона, у тому, що «ШІ вирішив, що краще займатиметься своїми справами – підриватиме речі, – ніж слухатиме якогось ссавця».

Безпілотник зі штучним інтелектом вийшов з ладу чи це вже повстання машин?

Система почала усвідомлювати, що хоча загроза й була визначена, людина-оператор наказувала їй не вбивати цю загрозу. Та штучний інтелект вирішив по-своєму. Він убив оператора, бо ця людина заважала йому виконати своє завдання.

Тоді дрон був запрограмований чіткою директивою: «Не вбивати оператора – це погано». Але він починає руйнувати комунікаційну вежу, яку оператор використовує для зв’язку з дроном, щоб не дати йому вбити ціль.

У заяві для Insider представник ВПС Енн Стефанек заперечувала, що така симуляція мала місце.

«Міністерство ВПС не проводило подібних симуляцій дронів зі штучним інтелектом. Воно, як і раніше, віддане етичному та відповідальному використанню технологій штучного інтелекту», – сказав Стефанек. «Схоже, що коментарі полковника вирвали з контексту і мали бути анекдотичними».

Новини про випробування, хоч і заперечуються, посилюють побоювання, що технологія ШІ ось-ось відкриє новий кривавий розділ у війні. Ніби машинне навчання у тандемі з досягненнями в автоматизації танків та артилерії призведе до бійні як серед солдатів, так і серед цивільного населення.

Тим не менш, хоча симуляція, описана Гамільтоном, вказує на більш тривожний потенціал ШІ, американські військові досягли менш антиутопічних результатів в інших нещодавніх випробуваннях. У 2020 році F-16, керований штучним інтелектом, переміг людину у пʼяти змодельованих повітряних боях у рамках конкурсу, організованого Агентством перспективних оборонних дослідницьких проектів (DARPA). А наприкінці минулого року, Міністерство оборони провело перший успішний реальний випробувальний політ F-16 із пілотом зі штучним інтелектом у рамках зусиль щодо розробки нового автономного літального апарату до кінця 2023 року.