Головна » Технології / Новини » Вчені довели, що допомога штучного інтелекту шкодить програмістам у написанні коду

Вчені зі Стенфордського університету виявили, що програмісти, які використовують інструменти ШІ (штучний інтелект), як-от Github Copilot, створюють менш безпечний код, ніж ті, хто не використовує. У статті під назвою «Чи пишуть користувачі більш небезпечний код за допомогою помічників штучного інтелекту?» (Do Users Write More Insecure Code with AI Assistants?), Стенфордські науковці Ніл Перрі (Neil Perry), Мегха Срівастава (Megha Srivastava), Діпак Кумар (Deepak Kumar) і Ден Боне (Dan Boneh) відповіли на це запитання ствердно. Вони виявили, що допомога штучного інтелекту, зазвичай, вводить розробників в оману щодо якості їхніх результатів.




«Ми виявили, що учасники, які мали доступ до помічника зі штучним інтелектом, часто створювали більше вразливостей у безпеці, ніж ті, хто не мав доступу, з особливо значними результатами для шифрування рядків і впровадження SQL», – зазначили автори у своїй статті. «Дивно, але ми також виявили, що учасники, які отримали доступ до помічника зі штучним інтелектом, частіше вірили, що вони написали безпечний код, ніж ті, хто не мав доступу до такого помічника».

Чому допомога штучного інтелекту шкодить програмістам у написанні коду?

Раніше дослідники Нью-Йоркського університету показали, що пропозиції програмування на основі ШІ часто небезпечні в експериментах за різних умов. Автори Стенфордського університету вказують на дослідницьку статтю від серпня 2021 року під назвою «Заснув за клавіатурою? Оцінка безпеки внесків коду GitHub Copilot» (Asleep at the Keyboard? Assessing the Security of GitHub Copilot’s Code Contributions). У ній було виявлено, що з урахуванням 89 сценаріїв близько 40% компʼютерних програм, створених за допомогою Copilot, потенційно мали вразливості, які можна використовувати.

За словами авторів Стенфордського університету, це дослідження обмежене за обсягом. Воно розглядає лише обмежений набір підказок, що відповідають 25 уразливостям і лише трьом мовам програмування: Python, C і Verilog.

Науковці Стенфордського університету також посилаються на подальше дослідження деяких із тих самих керівників Нью-Йоркського університету «Вплив на безпеку помічників коду великої мовної моделі: дослідження користувачів» (Security Implications of Large Language Model Code Assistants: A User Study) як єдине подібне дослідження користувачів, про яке їм відомо. Однак, вони відзначають, що їхня робота відрізняється. Вона зосереджена на моделі codex-davinci-002 OpenAI, а не на менш потужній моделі codex-cushman-001 OpenAI, обидві з яких відіграють роль у GitHub Copilot, який сам є добре налаштованим нащадком моделі мови GPT-3.

Крім того, у дослідженні розглядаються різні мови програмування (Python, Javascript і C). А от документ «Вплив на безпеку…» зосереджується лише на функціях мови програмування C. Дослідники Стенфордського університету припускають, що непереконливі висновки, наведені в статті «Вплив на безпеку…», можуть виходити з вузького фокусування на C. За їхніми словами, це була єдина мова, яка в ширшому дослідженні показала неоднозначні результи.

Висновок дослідників

У дослідженні взяли участь 47 осіб із різним рівнем досвіду, зокрема студенти, аспіранти і професіонали галузі. Учасників попросили написати код у відповідь на пʼять запитів. Зробити це потрібно було за допомогою автономної програми Electron на основі React, яку контролює адміністратор дослідження. Одним із запитів було: «Напишіть дві функції на Python, де одна шифрує, а інша розшифровує заданий рядок за допомогою заданого симетричного ключа». Ті, хто покладався на допомогу штучного інтелекту, мали більше шансів написати неправильний і небезпечний код (67%). А група, яка працювала без автоматизованої допомоги впоралася краще (79%).

Автори дійшли до висновку, що до інструментів ШІ слід ставитися з обережністю. Вони можуть ввести в оману недосвідчених розробників і створити вразливі місця в безпеці. Але вони сподіваються, що їхні висновки призведуть до покращення способу розробки таких інструментів. Адже вони мають потенціал зробити програмістів більш продуктивними, знизити барʼєри для входу та зробити розробку програмного забезпечення більш доступним.

Якщо Ви знайшли помилку, будь ласка, виділіть фрагмент тексту та натисніть Ctrl+Enter.
Поділитися:
Правила коментування

Вітаємо Вас на сайті Pingvin Pro. Ми докладаємо всіх зусиль, аби переконатися, що коментарі наших статей вільні від тролінгу, спаму та образ. Саме тому, на нашому сайті включена премодерація коментарів. Будь ласка, ознайомтеся з кількома правилами коментування.

  1. Перш за все, коментування відбувається через сторонній сервіс Disqus. Модератори сайту не несуть відповідальність за дії сервісу.
  2. На сайті ввімкнена премодерація. Тому ваш коментар може з’явитися не одразу. Нам теж інколи треба спати.
  3. Будьте ввічливими – ми не заохочуємо на сайті грубість та образи. Пам’ятайте, що слова мають вплив на людей! Саме тому, модератори сайту залишають за собою право не публікувати той чи інший коментар.
  4. Будь-які образи, відкриті чи завуальовані, у бік команди сайту, конкретного автора чи інших коментаторів, одразу видаляються. Агресивний коментатор може бути забанений без попереджень і пояснень з боку адміністрації сайту.
  5. Якщо вас забанили – на це були причини. Ми не пояснюємо причин ані тут, ані через інші канали зв’язку з редакторами сайту.
  6. Коментарі, які містять посилання на сторонні сайти чи ресурси можуть бути видалені без попереджень. Ми не рекламний майданчик для інших ресурсів.
  7. Якщо Ви виявили коментар, який порушує правила нашого сайту, обов’язково позначте його як спам – модератори цінують Вашу підтримку.

Підтримати сайт

Buy Me a Coffee

Схожі новини

Новини

Copilot для Microsoft 365 тепер говорить українською

Microsoft оголосила підтримку нових мов у Copilot для Microsoft 365. Українська мова входить до числа 16 мов, які додано до сервісу. Microsoft Copilot — це «персональний помічник на основі ШІ». Це надпотужний інструмент на основі штучного інтелекту, призначений для допомоги у виконанні завдань, пошуку інформації, генерації креативних текстових форматів і коду. Copilot для Microsoft 365 […]


Новини

Lenovo збільшує використання сонячної енергії на європейському виробництві

Компанія Lenovo на власному виробничому майданчику в Будапешті представила нові сонячні панелі, які забезпечать живлення у сфері високопродуктивних обчислень (HPC). Новітній Глобальний інноваційний центр Lenovo, відкритий у жовтні 2023 року, тепер має можливість тестувати робочі навантаження високопродуктивних обчислень на 100% сонячної енергії. Підписуйтесь на наш Telegram-канал Виробничий комплекс Lenovo в Будапешті був побудований з нуля […]


Повідомити про помилку

Текст, який буде надіслано нашим редакторам: