Штучний інтелект може стати загрозою для існування

Щорічно публічні компанії США подають до Комісії з цінних паперів і бірж 10-K-форму. Вона призначена для інформування інвесторів про фінансовий стан компанії за попередній рік, а також для інформування про нові бізнес-ризики та практики. Зазвичай компанії додають нові ризики в міру розвитку свого бізнесу. Проте, Microsoft додав новий розділ, у якому розповідає про потенційну можливість загрози упередженого розвитку ШІ для компанії. Варто не забувати, що штучний інтелект розвивається дуже стрімко.

Microsoft наголошує, що алгоритми машинного навчання можуть бути помилковими. Набори даних можуть бути недостатніми або містити упереджену інформацію. Неправильна або суперечлива практика використання даних компанією або іншими особами може негативно позначитися на прийнятті рішень ШІ. Ці недоліки можуть підірвати рішення, прогнози або аналіз, які виробляють програми ШІ. Це може призвести до збитку або юридичної відповідальності. Якщо розробник включає або пропонує рішення ШІ, які викликають суперечки через їх вплив на права людини, конфіденційність, зайнятість або інші соціальні проблеми, компанія може завдати шкоди бренду або репутації.

Microsoft майже вирішив проблему із DNS-серверами

Корупція в Китаї перемогла штучний інтелект

У березні 2018 року, Microsoft також сформував групу під назвою «ШІ і етика в техніці й дослідженнях», або AETHER, для боротьби з проблемами штучного інтелекту на стадії розробки. Пізніше група представила «приладову панель», яка автоматично виявляє упередженість штучного інтелекту. Водночас, старший дослідник Microsoft, Ханна Уоллах, зазначила, що поки програми на основі машинного навчання неможливо позбавити від упереджених рішень.