У романі Вільяма Гібсона «Нульова історія» (Zero History) головний персонаж носить найпотворнішу футболку у світі, яка чарівним чином робить власника невидимим для CCTV (система відеоспостереження). Тепер, коли держави у всьому світі впроваджують штучно інтелектуальні системи спостереження для відстеження та моніторингу громадян, ми можемо опинитися у власних потворних футболках. Дослідники з Північно-Східного університету, Массачусетського технологічного інституту та IBM розробили спеціальний малюнок. Він представлений калейдоскопною плямою з різних фігур та кольорів, яка робить користувача невидимою для штучного інтелекту камер.
- Цифрова диктатура майбутнього на прикладі Китаю
- Google Lens отримав функцію копіювання тексту на комп’ютер
- Новий розумний чип аналізує побачене за кілька наносекунд
Як працює малюнок
Зазвичай, нейронна мережа розпізнає когось або щось на зображенні, малюючи «обмежувальну рамку» навколо об’єкту і навішуючи на нього ярлик. Знаючи, де нейромережа проводить кордони, що дозволяють їй вирішити є щось об’єктом чи ні, розробники змогли створити дизайн, який вводить в оману систему класифікації і розмітки ШІ.
Розглядаючи конкретно дві нейронні мережі розпізнавання об’єктів, які зазвичай використовуються в навчальних цілях – YOLOv2 і Faster R-CNN – команда змогла ідентифікувати області тіла, де додавання піксельних шумів може збити з пантелику ШІ і, по суті, зробити користувача невидимим. Для першої мережі показник невпізнаваності збільшився з 27% до 63%, а для другої – з 11% до 52%.
Разом з тим, дослідникам довелося добряче попрацювати над уникненням розпізнавання в динаміці. Тобто, коли це відбувається на відеозаписі, а не на статичній фотографії. Зазвичай, це набагато складніше. Крім того, тканина футболки при ходьбі береться складками, і це теж слід було взяти до уваги. Розробники застосували метод, який назвали «трансформером». Спочатку вони виміряли характер руху футболки, а потім завдали дизайн принта.
В цілому, експериммент можна вважати вдалим. Однак, придбати таку футболку ви не зможете. Робота дослідницьких команд, навпаки, направлена на покращення систем розпізнавання.