Глава ООН з прав людини закликає до мораторію на використання технологій штучного інтелекту, які представляють серйозну небезпеку для прав людини. Зокрема, йдеться про системи сканування осіб, які відстежують людей в громадських місцях. Нагадаємо, що штучний інтелект, скануючи резюме, позбавляє роботи ≈ 27 млн осіб. А Ілон Маск представив людиноподібного робота Tesla Bot.
Як ООН бачить ситуацію і що пропонує?
Мішель Бачелет, Верховний комісар ООН з прав людини, також заявила, що країни повинні заборонити деякі програми ШІ. До таких програм належать урядові системи «соціальної оцінки», які оцінюють людей за їхньою поведінкою, і певні інструменти на основі ШІ, які поділяють людей на групи, наприклад, за етнічною приналежністю або статтю.
«Технології на основі штучного інтелекту можуть бути силою добра, але вони також можуть «мати негативні, навіть катастрофічні, наслідки, якщо вони використовуються без належного урахування того, як впливають на права людини».
Мішель Бачелет
Бачелет не закликала до повної заборони технології розпізнавання осіб, але сказала, що урядам слід припинити сканування осіб в режимі реального часу, поки вони не продемонструють, що технологія точна, не допускає дискримінації і відповідає певним стандартам конфіденційності та захисту даних.
Хоча країни в звіті не згадуються, Китай був серед тих, які впровадили технологію розпізнавання осіб. Особливо для спостереження в західному регіоні Сіньцзян, де мешкають багато уйгурів. Ключові автори звіту заявили, що найменування конкретних країн не входить в їхні повноваження і навіть може бути контрпродуктивним.
Вона також процитувала кілька судових справ у Сполучених Штатах і Австралії, де штучний інтелект був застосований помилково. У звіті також висловлюється обережність щодо інструментів, які намагаються визначити емоційний і психічний стан людей шляхом аналізу їхньої міміки або рухів тіла. Адже такі технології схильні до упередженості, невірної інтерпретації і не мають наукового підґрунтя.
Використання технологій сканування осіб і штучного інтелекту буде обмежено
Європейські регулюючі органи вже зробили кроки, щоб приборкати найбільш ризиковані додатки штучного інтелекту. Пропоновані правила, викладені офіційними особами Європейського союзу заборонятимуть деякі види використання ШІ. Зокрема, сканування обличчя в реальному часі. А також жорстко контролюватимуть інші види використання, які можуть загрожувати безпеці або правам людей.
Адміністрація президента США Джо Байдена висловила аналогічну стурбованість, хоча ще не виклала детальний план процесу. Нещодавно сформована група під назвою Рада з торгівлі та технологій, яку спільно очолюють американські і європейські офіційні особи, прагнула співпрацювати в розробці загальних правил для ШІ та іншої технічної політики.
Зусилля щодо обмеження найбільш ризикованого використання ШІ були підтримані Microsoft й іншими технологічними гігантами США, які сподіваються встановити правила, що впливають на цю технологію. За словами Хікса, Microsoft працювала з Управлінням з прав людини і надала йому фінансування, щоб допомогти поліпшити використання технологій. Але фінансування звіту надійшло з регулярного бюджету Управління з прав людини.