Завдання було простим: «Знищити системи ППО противника». Але в нещодавній військовій симуляції випробувань у США безпілотник зі штучним інтелектом додав власні проблемні інструкції: «І вбивайте всіх, хто стане на вашому шляху».
- Військова гра-симуляція показала можливі наслідки для Тайваню, Китаю і США в разі війни
- Лідери розробок штучного інтелекту порівняли технологію з пандеміями та ядерною зброєю
- На Львівщині пройшла демонстрація українських FPV-дронів
Виступаючи на конференції минулого тижня в Лондоні, полковник Такер «Сінко» Гамільтон, голова відділу випробувань та операцій ШІ ВПС США, попередив, що технології з підтримкою ШІ можуть вести себе непередбачуваним і небезпечним чином. Як приклад він описав імітаційне випробування. У ньому дрон зі штучним інтелектом був запрограмований на виявлення ракет класу «земля-повітря» (ЗРК) противника. Проблема, за словами Гамільтона, у тому, що «ШІ вирішив, що краще займатиметься своїми справами – підриватиме речі, – ніж слухатиме якогось ссавця».
Безпілотник зі штучним інтелектом вийшов з ладу чи це вже повстання машин?
Система почала усвідомлювати, що хоча загроза й була визначена, людина-оператор наказувала їй не вбивати цю загрозу. Та штучний інтелект вирішив по-своєму. Він убив оператора, бо ця людина заважала йому виконати своє завдання.
Тоді дрон був запрограмований чіткою директивою: «Не вбивати оператора – це погано». Але він починає руйнувати комунікаційну вежу, яку оператор використовує для зв’язку з дроном, щоб не дати йому вбити ціль.
У заяві для Insider представник ВПС Енн Стефанек заперечувала, що така симуляція мала місце.
«Міністерство ВПС не проводило подібних симуляцій дронів зі штучним інтелектом. Воно, як і раніше, віддане етичному та відповідальному використанню технологій штучного інтелекту», – сказав Стефанек. «Схоже, що коментарі полковника вирвали з контексту і мали бути анекдотичними».
Новини про випробування, хоч і заперечуються, посилюють побоювання, що технологія ШІ ось-ось відкриє новий кривавий розділ у війні. Ніби машинне навчання у тандемі з досягненнями в автоматизації танків та артилерії призведе до бійні як серед солдатів, так і серед цивільного населення.
Тим не менш, хоча симуляція, описана Гамільтоном, вказує на більш тривожний потенціал ШІ, американські військові досягли менш антиутопічних результатів в інших нещодавніх випробуваннях. У 2020 році F-16, керований штучним інтелектом, переміг людину у пʼяти змодельованих повітряних боях у рамках конкурсу, організованого Агентством перспективних оборонних дослідницьких проектів (DARPA). А наприкінці минулого року, Міністерство оборони провело перший успішний реальний випробувальний політ F-16 із пілотом зі штучним інтелектом у рамках зусиль щодо розробки нового автономного літального апарату до кінця 2023 року.