OpenAI та Google представили спільний проект Activation Atlases. Його головна ціль – зрозуміти внутрішні процеси прийняття рішень штучним інтелектом, а також виявити помилки чи недоліки. Завдяки цьому проекту, тепер дослідники зможуть аналізувати роботу окремих алгоритмів, розуміючи, яким чином вони об’єднують абстрактні елементи для ідентифікації конкретних.
- Google наполягає на негайному оновленні Chrome
- Технологію Google Duplex розповсюджують по території США
Activation Atlases показує, що бачить нейромережа. Один із авторів проекту порівняв принцип роботи з мікроскопом. Activation Atlases використовує нейронну мережу GoogLeNet або InceptionV1, яка навчена на зображеннях з бази даних ImageNet. Вона обробляє дані через десять шарів, що складаються з сотень нейронів. У свою чергу, кожен нейрон активується в різному ступені на різних типах зображень.