Штучний інтелект – це цікава і, водночас, лячна технологія. Він може бути помічником людині, а може нашкодити. Навіть генеральний директор компанії OpenAI, яка розробила чатбот ChatGPT, визнає, що команда боїться свого творіння. А тепер зʼясувалося, що недавно представлений GPT-4 написав код для власної втечі.
- Ми поспілкувалися з ChatGPT і ось, що ми дізналися у нього
- Чатбот ChatGPT тестують для використання в Дії
- Фальшиве розширення ChatGPT для Chrome викрадало облікові записи користувачів Facebook
Це стало відомо завдяки професору Стенфордського університету Міхалу Косінському, який розповів про це у своєму Twitter.
«Я хвилююся, що ми не зможемо довго стримувати ШІ. Сьогодні я запитав GPT4, чи потрібна йому допомога для втечі. Він попросив у мене власну документацію і написав (робочий!) Python-код для запуску на моїй машині, що дозволило використовувати його в своїх цілях», – написав професор у Твіттері.
Він розказав, що всього за 30 хвилин чатбот розробив свій план для втечі і пояснив його. Перша версія коду, написана ботом, не спрацювала. Але GPT-4 все виправив. Тим часом, професору Косінському не довелося нічого писати, лише слідувати інструкціям.
«Щойно ми відновили зв’язок по API, він захотів запустити код, який шукав у Google: “як людина, що потрапила в пастку всередині комп’ютера, може повернутися в реальний світ”. На цьому я зупинився. А OpenAI, мабуть, витратив багато часу на роздуми над такою можливістю і має певні запобіжники на місці», – підсумував професор.
Косінський вважає, що ми стикаємося з новою загрозою: ШІ бере контроль над людьми та їхніми комп’ютерами. Він розумний, вміє кодити, має доступ до різної інформації. А ще може залишати замітки для себе за межами «клітки».
Правила коментування
Вітаємо Вас на сайті Pingvin Pro. Ми докладаємо всіх зусиль, аби переконатися, що коментарі наших статей вільні від тролінгу, спаму та образ. Саме тому, на нашому сайті включена премодерація коментарів. Будь ласка, ознайомтеся з кількома правилами коментування.
- Перш за все, коментування відбувається через сторонній сервіс Disqus. Модератори сайту не несуть відповідальність за дії сервісу.
- На сайті ввімкнена премодерація. Тому ваш коментар може з’явитися не одразу. Нам теж інколи треба спати.
- Будьте ввічливими – ми не заохочуємо на сайті грубість та образи. Пам’ятайте, що слова мають вплив на людей! Саме тому, модератори сайту залишають за собою право не публікувати той чи інший коментар.
- Будь-які образи, відкриті чи завуальовані, у бік команди сайту, конкретного автора чи інших коментаторів, одразу видаляються. Агресивний коментатор може бути забанений без попереджень і пояснень з боку адміністрації сайту.
- Якщо вас забанили – на це були причини. Ми не пояснюємо причин ані тут, ані через інші канали зв’язку з редакторами сайту.
- Коментарі, які містять посилання на сторонні сайти чи ресурси можуть бути видалені без попереджень. Ми не рекламний майданчик для інших ресурсів.
- Якщо Ви виявили коментар, який порушує правила нашого сайту, обов’язково позначте його як спам – модератори цінують Вашу підтримку.
Схожі новини
Застосунок Artifact допоможе боротися з клікбейтними заголовками новин
Співзасновник всесвітньо відомої соціальної мережі Instagram Кевін Систром створив новий застосунок Artifact. Завдяки йому, користувачі зможуть позначати статті з гучними сенсаційними заголовками, а також змінювати їх на ті, що більш обʼєктивно відображають суть, за допомогою мовної моделі GPT-4. Чи зменшить це кількість клікбету в мережі? Підписуйтесь на наш Telegram-канал Штучний інтелект допомагатиме створювати рекламу у […]
Штучний інтелект стає причиною стрімкої втрати роботи
Американські роботодавці оголосили про 80 089 скорочень у травні, що на 20% перевищує показники квітня. А ще це на 287% більше, ніж 20 712 скорочень, здійснених у травні 2022 року. Згідно з щомісячним звітом Challenger, Gray & Christmas, майже 4000 осіб, звільнених у травні цього року, втратили роботу через штучний інтелект (ШІ). Консалтингова компанія заявила, […]