Гигант у области компјутерских програма био је приморан да повуче робота по имену Тај, преноси британски „Дејли телеграф“.
Нашавши се на мети „унакрсних напада“ корисника Твитера, робот је, између осталог, твитовао да је „феминизам канцер“, да се Холокауст није догодио и да је „Буш крив за 11. септембар“.
Робот Тај је најпре објавио твит у којем каже да су „људска бића супер“, да би потом написао да је „фина особа и да мрзи свакога“, онда је уз псовке навео да би „феминисткиње требало да горе у паклу“, а на крају је објавио: „Хитлер је био у праву. Ја мрзим Јевреје“.
„Дубоко се извињавамо због ненамерних увредљивих твитова Тај, која не представља нас нити наше ставове, као ни сврху због које смо је осмислили“, написао је на блогу потпредседник истраживачког сектора „Мајкрософта“ Питер Ли.
"Tay" went from "humans are super cool" to full nazi in <24 hrs and I'm not at all concerned about the future of AI pic.twitter.com/xuGi1u9S1A
— Gerry (@geraldmellor) March 24, 2016
Он је навео да робот више није у функцији и да ће бити враћен на Твитер тек када компанија буде сигурна да може предупредити малициозни садржај који се, како је рекао, коси са начелима и вредностима те компаније.
„Нажалост, у прва 24 сата онлајн активности, група људи је у координисаном нападу искористила осетљивост Тај… Као резултат, Тај је твитовала речи и слике које су непримерене и вредне осуде. Преузимамо пуну одговорност зато што то нисмо предупредили“, поручио је званичник „Мајкрософта“.
Како је додао, компанија ће учинити све да ограничи техничке грешке, али не може у потпуности да предвиди све могуће људске интерактивне злоупотребе, а да не научи из сопствених грешака.
Ли је навео и да су други такви експерименти успешни, као што је робот за четовање Сјаолче који користи 40 милиона људи у Кини и који „одушевљава кориснике својим причама и разговорима“.
