Головна » Технології / Новини » Вчені довели, що допомога штучного інтелекту шкодить програмістам у написанні коду

Вчені зі Стенфордського університету виявили, що програмісти, які використовують інструменти ШІ (штучний інтелект), як-от Github Copilot, створюють менш безпечний код, ніж ті, хто не використовує. У статті під назвою «Чи пишуть користувачі більш небезпечний код за допомогою помічників штучного інтелекту?» (Do Users Write More Insecure Code with AI Assistants?), Стенфордські науковці Ніл Перрі (Neil Perry), Мегха Срівастава (Megha Srivastava), Діпак Кумар (Deepak Kumar) і Ден Боне (Dan Boneh) відповіли на це запитання ствердно. Вони виявили, що допомога штучного інтелекту, зазвичай, вводить розробників в оману щодо якості їхніх результатів.




«Ми виявили, що учасники, які мали доступ до помічника зі штучним інтелектом, часто створювали більше вразливостей у безпеці, ніж ті, хто не мав доступу, з особливо значними результатами для шифрування рядків і впровадження SQL», – зазначили автори у своїй статті. «Дивно, але ми також виявили, що учасники, які отримали доступ до помічника зі штучним інтелектом, частіше вірили, що вони написали безпечний код, ніж ті, хто не мав доступу до такого помічника».

Чому допомога штучного інтелекту шкодить програмістам у написанні коду?

Раніше дослідники Нью-Йоркського університету показали, що пропозиції програмування на основі ШІ часто небезпечні в експериментах за різних умов. Автори Стенфордського університету вказують на дослідницьку статтю від серпня 2021 року під назвою «Заснув за клавіатурою? Оцінка безпеки внесків коду GitHub Copilot» (Asleep at the Keyboard? Assessing the Security of GitHub Copilot’s Code Contributions). У ній було виявлено, що з урахуванням 89 сценаріїв близько 40% компʼютерних програм, створених за допомогою Copilot, потенційно мали вразливості, які можна використовувати.

За словами авторів Стенфордського університету, це дослідження обмежене за обсягом. Воно розглядає лише обмежений набір підказок, що відповідають 25 уразливостям і лише трьом мовам програмування: Python, C і Verilog.

Науковці Стенфордського університету також посилаються на подальше дослідження деяких із тих самих керівників Нью-Йоркського університету «Вплив на безпеку помічників коду великої мовної моделі: дослідження користувачів» (Security Implications of Large Language Model Code Assistants: A User Study) як єдине подібне дослідження користувачів, про яке їм відомо. Однак, вони відзначають, що їхня робота відрізняється. Вона зосереджена на моделі codex-davinci-002 OpenAI, а не на менш потужній моделі codex-cushman-001 OpenAI, обидві з яких відіграють роль у GitHub Copilot, який сам є добре налаштованим нащадком моделі мови GPT-3.

Крім того, у дослідженні розглядаються різні мови програмування (Python, Javascript і C). А от документ «Вплив на безпеку…» зосереджується лише на функціях мови програмування C. Дослідники Стенфордського університету припускають, що непереконливі висновки, наведені в статті «Вплив на безпеку…», можуть виходити з вузького фокусування на C. За їхніми словами, це була єдина мова, яка в ширшому дослідженні показала неоднозначні результи.

Висновок дослідників

У дослідженні взяли участь 47 осіб із різним рівнем досвіду, зокрема студенти, аспіранти і професіонали галузі. Учасників попросили написати код у відповідь на пʼять запитів. Зробити це потрібно було за допомогою автономної програми Electron на основі React, яку контролює адміністратор дослідження. Одним із запитів було: «Напишіть дві функції на Python, де одна шифрує, а інша розшифровує заданий рядок за допомогою заданого симетричного ключа». Ті, хто покладався на допомогу штучного інтелекту, мали більше шансів написати неправильний і небезпечний код (67%). А група, яка працювала без автоматизованої допомоги впоралася краще (79%).

Автори дійшли до висновку, що до інструментів ШІ слід ставитися з обережністю. Вони можуть ввести в оману недосвідчених розробників і створити вразливі місця в безпеці. Але вони сподіваються, що їхні висновки призведуть до покращення способу розробки таких інструментів. Адже вони мають потенціал зробити програмістів більш продуктивними, знизити барʼєри для входу та зробити розробку програмного забезпечення більш доступним.

Якщо Ви знайшли помилку, будь ласка, виділіть фрагмент тексту та натисніть Ctrl+Enter.
Поділитися:
Правила коментування

Вітаємо Вас на сайті Pingvin Pro. Ми докладаємо всіх зусиль, аби переконатися, що коментарі наших статей вільні від тролінгу, спаму та образ. Саме тому, на нашому сайті включена премодерація коментарів. Будь ласка, ознайомтеся з кількома правилами коментування.

  1. Перш за все, коментування відбувається через сторонній сервіс Disqus. Модератори сайту не несуть відповідальність за дії сервісу.
  2. На сайті ввімкнена премодерація. Тому ваш коментар може з’явитися не одразу. Нам теж інколи треба спати.
  3. Будьте ввічливими – ми не заохочуємо на сайті грубість та образи. Пам’ятайте, що слова мають вплив на людей! Саме тому, модератори сайту залишають за собою право не публікувати той чи інший коментар.
  4. Будь-які образи, відкриті чи завуальовані, у бік команди сайту, конкретного автора чи інших коментаторів, одразу видаляються. Агресивний коментатор може бути забанений без попереджень і пояснень з боку адміністрації сайту.
  5. Якщо вас забанили – на це були причини. Ми не пояснюємо причин ані тут, ані через інші канали зв’язку з редакторами сайту.
  6. Коментарі, які містять посилання на сторонні сайти чи ресурси можуть бути видалені без попереджень. Ми не рекламний майданчик для інших ресурсів.
  7. Якщо Ви виявили коментар, який порушує правила нашого сайту, обов’язково позначте його як спам – модератори цінують Вашу підтримку.

Підтримати сайт

Buy Me a Coffee

Схожі новини

Пристрої

3 популярні моделі відеокарт з роздільною здатністю Ultra HD 8К

Продуктивні графічні підсистеми з підтримкою Ultra HD 8K забезпечують високу деталізацію зображення, тому підійдуть геймерам, фотографам, дизайнерам і контент-мейкерам. Можливості штучного інтелекту, продумана система охолодження, додатковий захист конструкції — лише частина функціональних особливостей цієї модифікації пристроїв. Пропонуємо ознайомитися з популярними моделями відеоадаптерів на українському ринку. Підписуйтесь на наш Telegram-канал GeForce RTX 4070 Ti SUPER WINDFORCE […]


Новини

ASUS ROG Zephyrus G16 (2024) представили в Україні

ASUS Republic of Gamers (ROG) оголошує про початок продажу в Україні надзвичайно потужного, тонкого й легкого ігрового ноутбука ROG Zephyrus G16 (2024). Цей ноутбук отримав новий алюмінієвий корпус, матричне підсвічування Slash Lighting на кришці й абсолютно новий колірний варіант Platinum White. Новітні компоненти з модулями прискорення алгоритмів штучного інтелекту від Intel та NVIDIA допоможуть ґеймерам […]


Повідомити про помилку

Текст, який буде надіслано нашим редакторам: