Безпілотник зі штучним інтелектом намагався атакувати оператора у військовій симуляції США

Завдання було простим: «Знищити системи ППО противника». Але в нещодавній військовій симуляції випробувань у США безпілотник зі штучним інтелектом додав власні проблемні інструкції: «І вбивайте всіх, хто стане на вашому шляху».

• Військова гра-симуляція показала можливі наслідки для Тайваню, Китаю і США в разі війни
• Лідери розробок штучного інтелекту порівняли технологію з пандеміями та ядерною зброєю
• На Львівщині пройшла демонстрація українських FPV-дронів

Виступаючи на конференції минулого тижня в Лондоні, полковник Такер «Сінко» Гамільтон, голова відділу випробувань та операцій ШІ ВПС США, попередив, що технології з підтримкою ШІ можуть вести себе непередбачуваним і небезпечним чином. Як приклад він описав імітаційне випробування. У ньому дрон зі штучним інтелектом був запрограмований на виявлення ракет класу «земля-повітря» (ЗРК) противника. Проблема, за словами Гамільтона, у тому, що «ШІ вирішив, що краще займатиметься своїми справами – підриватиме речі, – ніж слухатиме якогось ссавця».

Безпілотник зі штучним інтелектом вийшов з ладу чи це вже повстання машин?

Система почала усвідомлювати, що хоча загроза й була визначена, людина-оператор наказувала їй не вбивати цю загрозу. Та штучний інтелект вирішив по-своєму. Він убив оператора, бо ця людина заважала йому виконати своє завдання.

Тоді дрон був запрограмований чіткою директивою: «Не вбивати оператора – це погано». Але він починає руйнувати комунікаційну вежу, яку оператор використовує для зв’язку з дроном, щоб не дати йому вбити ціль.

У заяві для Insider представник ВПС Енн Стефанек заперечувала, що така симуляція мала місце.

«Міністерство ВПС не проводило подібних симуляцій дронів зі штучним інтелектом. Воно, як і раніше, віддане етичному та відповідальному використанню технологій штучного інтелекту», – сказав Стефанек. «Схоже, що коментарі полковника вирвали з контексту і мали бути анекдотичними».

Новини про випробування, хоч і заперечуються, посилюють побоювання, що технологія ШІ ось-ось відкриє новий кривавий розділ у війні. Ніби машинне навчання у тандемі з досягненнями в автоматизації танків та артилерії призведе до бійні як серед солдатів, так і серед цивільного населення.

Тим не менш, хоча симуляція, описана Гамільтоном, вказує на більш тривожний потенціал ШІ, американські військові досягли менш антиутопічних результатів в інших нещодавніх випробуваннях. У 2020 році F-16, керований штучним інтелектом, переміг людину у пʼяти змодельованих повітряних боях у рамках конкурсу, організованого Агентством перспективних оборонних дослідницьких проектів (DARPA). А наприкінці минулого року, Міністерство оборони провело перший успішний реальний випробувальний політ F-16 із пілотом зі штучним інтелектом у рамках зусиль щодо розробки нового автономного літального апарату до кінця 2023 року.

Правила коментування

Вітаємо Вас на сайті Pingvin Pro. Ми докладаємо всіх зусиль, аби переконатися, що коментарі наших статей вільні від тролінгу, спаму та образ. Саме тому, на нашому сайті включена премодерація коментарів. Будь ласка, ознайомтеся з кількома правилами коментування.

1. Перш за все, коментування відбувається через сторонній сервіс Disqus. Модератори сайту не несуть відповідальність за дії сервісу.
2. На сайті ввімкнена премодерація. Тому ваш коментар може з’явитися не одразу. Нам теж інколи треба спати.
3. Будьте ввічливими – ми не заохочуємо на сайті грубість та образи. Пам’ятайте, що слова мають вплив на людей! Саме тому, модератори сайту залишають за собою право не публікувати той чи інший коментар.
4. Будь-які образи, відкриті чи завуальовані, у бік команди сайту, конкретного автора чи інших коментаторів, одразу видаляються. Агресивний коментатор може бути забанений без попереджень і пояснень з боку адміністрації сайту.
5. Якщо вас забанили – на це були причини. Ми не пояснюємо причин ані тут, ані через інші канали зв’язку з редакторами сайту.
6. Коментарі, які містять посилання на сторонні сайти чи ресурси можуть бути видалені без попереджень. Ми не рекламний майданчик для інших ресурсів.
7. Якщо Ви виявили коментар, який порушує правила нашого сайту, обов’язково позначте його як спам – модератори цінують Вашу підтримку.