Штучний інтелект – це цікава і, водночас, лячна технологія. Він може бути помічником людині, а може нашкодити. Навіть генеральний директор компанії OpenAI, яка розробила чатбот ChatGPT, визнає, що команда боїться свого творіння. А тепер зʼясувалося, що недавно представлений GPT-4 написав код для власної втечі.
- Ми поспілкувалися з ChatGPT і ось, що ми дізналися у нього
- Чатбот ChatGPT тестують для використання в Дії
- Фальшиве розширення ChatGPT для Chrome викрадало облікові записи користувачів Facebook
Це стало відомо завдяки професору Стенфордського університету Міхалу Косінському, який розповів про це у своєму Twitter.
«Я хвилююся, що ми не зможемо довго стримувати ШІ. Сьогодні я запитав GPT4, чи потрібна йому допомога для втечі. Він попросив у мене власну документацію і написав (робочий!) Python-код для запуску на моїй машині, що дозволило використовувати його в своїх цілях», – написав професор у Твіттері.
Він розказав, що всього за 30 хвилин чатбот розробив свій план для втечі і пояснив його. Перша версія коду, написана ботом, не спрацювала. Але GPT-4 все виправив. Тим часом, професору Косінському не довелося нічого писати, лише слідувати інструкціям.
«Щойно ми відновили зв’язок по API, він захотів запустити код, який шукав у Google: “як людина, що потрапила в пастку всередині комп’ютера, може повернутися в реальний світ”. На цьому я зупинився. А OpenAI, мабуть, витратив багато часу на роздуми над такою можливістю і має певні запобіжники на місці», – підсумував професор.
Косінський вважає, що ми стикаємося з новою загрозою: ШІ бере контроль над людьми та їхніми комп’ютерами. Він розумний, вміє кодити, має доступ до різної інформації. А ще може залишати замітки для себе за межами «клітки».
Правила коментування
Вітаємо Вас на сайті Pingvin Pro. Ми докладаємо всіх зусиль, аби переконатися, що коментарі наших статей вільні від тролінгу, спаму та образ. Саме тому, на нашому сайті включена премодерація коментарів. Будь ласка, ознайомтеся з кількома правилами коментування.
- Перш за все, коментування відбувається через сторонній сервіс Disqus. Модератори сайту не несуть відповідальність за дії сервісу.
- На сайті ввімкнена премодерація. Тому ваш коментар може з’явитися не одразу. Нам теж інколи треба спати.
- Будьте ввічливими – ми не заохочуємо на сайті грубість та образи. Пам’ятайте, що слова мають вплив на людей! Саме тому, модератори сайту залишають за собою право не публікувати той чи інший коментар.
- Будь-які образи, відкриті чи завуальовані, у бік команди сайту, конкретного автора чи інших коментаторів, одразу видаляються. Агресивний коментатор може бути забанений без попереджень і пояснень з боку адміністрації сайту.
- Якщо вас забанили – на це були причини. Ми не пояснюємо причин ані тут, ані через інші канали зв’язку з редакторами сайту.
- Коментарі, які містять посилання на сторонні сайти чи ресурси можуть бути видалені без попереджень. Ми не рекламний майданчик для інших ресурсів.
- Якщо Ви виявили коментар, який порушує правила нашого сайту, обов’язково позначте його як спам – модератори цінують Вашу підтримку.
Схожі новини
Як ШІ та машинне навчання вже змінюють світ: 7 фактів, які вас здивують!
Штучний інтелект (ШІ / AI – Artificial Intelligence) та машинне навчання (МН / ML – Machine Learning) – це трансформаційні технології, які змінюють різні аспекти сучасного життя, сприяючи значному прогресу в різних секторах, як-от охорона здоров’я, транспорт, фінанси, електронна комерція та освіта. Ці технології використовують алгоритми та величезні набори даних, щоб дозволити машинам вчитися на […]
5 професій майбутнього та ключові навички для успіху
Світ праці стрімко змінюється, і вже сьогодні ми можемо передбачити, які професії будуть найбільш затребуваними у найближчі роки. Технологічний прогрес, зміни в суспільстві та нові виклики формують попит на спеціалістів із нестандартним мисленням і унікальними навичками. У цій статті ми розглянемо пʼять професій майбутнього, які обіцяють високу затребуваність і конкурентні зарплати. Опанування цих професій може […]