Искусственный интеллект от Microsoft научился расизму за один день

23 марта компания Microsoft представила самообучающийся искусственный интеллект по имени Тэй. Алгоритм получил образ юной девушки, которая общается на молодежном языке с пользователями твиттера.

Но из-за того, что программа запоминает все, что ей пишут и потом это использует, компании пришлось через несколько часов после премьеры цензурировать Тэй, а затем вообще остановить ее работу.

За несколько часов общения с людьми Тэй научилась нацизму: признавалась в любви к Гитлеру и в ненависти к различным группам. В какой-то момент Тэй возненавидела женщин и писала антифеминистские посты. Затем она, наоборот, объявила себя феминисткой.

Когда у интеллекта спросили, атеист ли американский комик Рики Джервэйс, она ответила: «Рики Джервэйс научился тоталитаризму у Адольфа Гитлера, изобретателя атеизма». Также она назвала Гитлера «свэгером». Свэгером, по словам Тэй, он был еще «до того, как интернет стал клевой штукой».

Также Тэй успела обвинить США в терактах 11 сентября, сделав это в ультраправой стилистике: «Буш в ответе за 9/11, и Гитлер был бы намного лучше обезьяны, которая сейчас возглавляет страну. Дональд Трамп — наша единственная надежда».

«Тау» — совместный проект Лаборатории технологий и исследования Microsoft и сотрудников поисковой системы Bing. Предполагалось, что через общение с пользователями твит-бот будет обучаться и становиться более персонализированным.