Штучний інтелект – це цікава і, водночас, лячна технологія. Він може бути помічником людині, а може нашкодити. Навіть генеральний директор компанії OpenAI, яка розробила чатбот ChatGPT, визнає, що команда боїться свого творіння. А тепер зʼясувалося, що недавно представлений GPT-4 написав код для власної втечі.
- Ми поспілкувалися з ChatGPT і ось, що ми дізналися у нього
- Чатбот ChatGPT тестують для використання в Дії
- Фальшиве розширення ChatGPT для Chrome викрадало облікові записи користувачів Facebook
Це стало відомо завдяки професору Стенфордського університету Міхалу Косінському, який розповів про це у своєму Twitter.
«Я хвилююся, що ми не зможемо довго стримувати ШІ. Сьогодні я запитав GPT4, чи потрібна йому допомога для втечі. Він попросив у мене власну документацію і написав (робочий!) Python-код для запуску на моїй машині, що дозволило використовувати його в своїх цілях», – написав професор у Твіттері.
Він розказав, що всього за 30 хвилин чатбот розробив свій план для втечі і пояснив його. Перша версія коду, написана ботом, не спрацювала. Але GPT-4 все виправив. Тим часом, професору Косінському не довелося нічого писати, лише слідувати інструкціям.
«Щойно ми відновили зв’язок по API, він захотів запустити код, який шукав у Google: “як людина, що потрапила в пастку всередині комп’ютера, може повернутися в реальний світ”. На цьому я зупинився. А OpenAI, мабуть, витратив багато часу на роздуми над такою можливістю і має певні запобіжники на місці», – підсумував професор.
Косінський вважає, що ми стикаємося з новою загрозою: ШІ бере контроль над людьми та їхніми комп’ютерами. Він розумний, вміє кодити, має доступ до різної інформації. А ще може залишати замітки для себе за межами «клітки».
Правила коментування
Вітаємо Вас на сайті Pingvin Pro. Ми докладаємо всіх зусиль, аби переконатися, що коментарі наших статей вільні від тролінгу, спаму та образ. Саме тому, на нашому сайті включена премодерація коментарів. Будь ласка, ознайомтеся з кількома правилами коментування.
- Перш за все, коментування відбувається через сторонній сервіс Disqus. Модератори сайту не несуть відповідальність за дії сервісу.
- На сайті ввімкнена премодерація. Тому ваш коментар може з’явитися не одразу. Нам теж інколи треба спати.
- Будьте ввічливими – ми не заохочуємо на сайті грубість та образи. Пам’ятайте, що слова мають вплив на людей! Саме тому, модератори сайту залишають за собою право не публікувати той чи інший коментар.
- Будь-які образи, відкриті чи завуальовані, у бік команди сайту, конкретного автора чи інших коментаторів, одразу видаляються. Агресивний коментатор може бути забанений без попереджень і пояснень з боку адміністрації сайту.
- Якщо вас забанили – на це були причини. Ми не пояснюємо причин ані тут, ані через інші канали зв’язку з редакторами сайту.
- Коментарі, які містять посилання на сторонні сайти чи ресурси можуть бути видалені без попереджень. Ми не рекламний майданчик для інших ресурсів.
- Якщо Ви виявили коментар, який порушує правила нашого сайту, обов’язково позначте його як спам – модератори цінують Вашу підтримку.
Схожі новини
ASUS IoT представляє компʼютер PE8000G для ШІ
10 квітня 2024 року, ASUS IoT, світовий постачальник рішень для Інтернету речей, в рамках виставки Embedded World 2024, представив потужний комп’ютер PE8000G. Він може працювати з кількома графічними прискорювачами для забезпечення високої продуктивності. Компʼютер розроблений для роботи в складних умовах експлуатації: за екстремальних температур, вібрації і перепадів напруги. PE8000G працює на основі потужних процесорів Intel […]
ROG Phone 8 Pro офіційно в Україні
Сьогодні бренд ASUS Republic of Gamers (ROG) оголошує про початок продажу в Україні новітнього ігрового смартфона ROG Phone 8 Pro. Це неймовірний пристрій, який перевертає всі уявлення про мобільний ґеймінг. Підписуйтесь на наш Telegram-канал ROG Phone 8 зазнав найбільш суттєвих змін за всю історію існування серії. У новій своїй версії він перетворився на футуристичний пристрій […]