Oups AI

Catégorie : Biais

Quand une IA reproduit ou amplifie des préjugés présents dans ses données.

  • Tay : le chatbot de Microsoft devenu injurieux en moins de 24 heures

    Le 23 mars 2016, Microsoft lance Tay, un robot conversationnel sur Twitter censé apprendre à parler comme les jeunes internautes. En quelques heures, des utilisateurs lui font répéter des propos racistes, sexistes et complotistes.

    Microsoft retire Tay en moins de 24 heures et présente ses excuses. L’épisode montre qu’une IA qui apprend de ses interactions en ligne peut reproduire les pires biais de ses interlocuteurs.

    Date de l’erreur : 23 mars 2016. Source : Microsoft, blog officiel, mars 2016 ; BBC.