Le 23 mars 2016, Microsoft lance Tay, un robot conversationnel sur Twitter censé apprendre à parler comme les jeunes internautes. En quelques heures, des utilisateurs lui font répéter des propos racistes, sexistes et complotistes.
Microsoft retire Tay en moins de 24 heures et présente ses excuses. L’épisode montre qu’une IA qui apprend de ses interactions en ligne peut reproduire les pires biais de ses interlocuteurs.
Date de l’erreur : 23 mars 2016. Source : Microsoft, blog officiel, mars 2016 ; BBC.