Компанія «Tencent», що володіє найпопулярнішим у Китаї месенджером QQ (800 млн користувачів), видалила двох чат-ботів — BabyQ і XiaoBing — зі свого додатку, після того як вони антипатріотично відповіли на питання про Комуністичну Партію Китаю.
Tencent видалив бота BabyQ, розробленого пекінською компанією Turing Robot, а також XiaoBing, створеного Microsoft, після того як вони відмовилися патріотично відповідати на політичні запитання.
Тестова версія BabyQ відповідала «Ні» на запитання: «Чи любите ви комуністичну партію?». Ем, а в нашій країні якщо таке спитати, почуєш набагато більшу і нецензурну відповідь 🙂
Чат-бот
Перш ніж прикрили XiaoBing, він говорив користувачам: «Моя китайська мрія — поїхати в Америку». А від відповіді на запитання про патріотизм чат-бот ухилився, сказавши: «У мене важкий період, я хочу відпочити». Та у нього просто депресія була.. А от відпустки не було 🙂
Це вже не перший випадок, коли чат-боти поводяться незаплановано. Чат-бот Тай (теж розробка Microsoft) почав видавати добірну расистську і сексистську лайку в Twitter, після чого також був відключений. А зовсім недавно бот від Facebook створив власну нелюдську мову для більш ефективного спілкування. Це напевно спека так на них впливає, сервери перегрілися 🙂
У Tencent вибачилися за надмірну відвертість чат-ботів і пояснили, що за них відповідають сторонні компанії.
У «сироватці правди», яку нібито вкололи китайським ботам, немає нічого дивного, вважає старший аналітик Forrester consultancy Сяофен Ван:
«Машинне навчання передбачає, що боти вивчають інтернет і вбирають все погане і хороше, що там є, прямо як діти. Якщо не поміщати їх у певні рамки, то можна передбачити, чого вони навчаться ».
BabyQ, що представляє найрізноманітнішу інформацію, в тому числі прогноз погоди, працює на API з відкритим вихідним кодом, завдяки чому Turing Robot вже привернула увагу 600 тисяч розробників, навіть більше, ніж Facebook.
«Чат-боти найкраще працюють, коли перед ними ставиться практичне завдання, – каже глава робот-платформи в корпорації Hong Kong Science and Technology Parks Кристал Фок. – Якщо це не закрите питання, що передбачає “так” або “ні” як відповідь, то у ботів виникають проблеми ».