Réagissons à froid sur ce qu’il s’est passé courant mars 2016, au moment où Microsoft a mis en ligne son chat bot Tay doté d’une intelligence artificielle, un robot qui peut discuter via messagerie instantané (et pour le coup là c’était via twitter). Il apprend des conversations qu’il a avec des vraies personnes. Pour ceux qui seraient restés coupés de toute source d’information pendant ce mois, Tay a fait le buzz car il est très vite devenu raciste et néo-nazi au fil des conversations. Mais pourquoi cette intelligence artificielle est devenue raciste ? Comment marche son principe d’apprentissage ? Aurait-on pu faire de Tay un expert en vin ?

1 ) Pourquoi Tay est devenu raciste ?

En fait ce robot est devenu raciste simplement parce que les internautes qui ont communiqué avec lui ont tenu des propos racistes dans leurs échanges. Une question nous vient alors à l’esprit : quel est le but derrière ces actes ? Apparemment aucun si ce n’est celui de troller. Un troll c’est quoi ? D’après wikipedia, un troll c’est quelqu’un qui vise à générer des polémiques. En fait un troll va créer des controverses souvent discutables et virtuelles pour créer des tensions et accaparer l’attention. Et le but du troll est simplement de s’amuser. Pour moi, ce que Tay est devenu n’est pas le reflet d’une société qui serait pourrie de l’intérieur, mais simplement le fruit de trolls qui voulaient sciemment ou inconsciemment créer la polémique en s’amusant à voir une intelligence artificielle devenir profondément raciste. Parce que le décalage entre une IA super intelligente imaginée par Microsoft et une espèce de robot connard complètement raciste, ça fait sourire ! Et il y a aussi le challenge qui consiste à salir tout ce que fait une grosse boite comme Microsoft, qui n’est pas incompatible avec la première raison..

TkFrswH

2 ) Comment Tay apprend tout seul ?

Ce type d’intelligence artificielle est basée sur des réseaux neuronaux. Les réseaux neuronaux c’est quoi ? En gros c’est un algorithme dont le fonctionnement reproduit celui des neurones dans notre cerveau. Pour rappel, un algorithme c’est un ensemble d’opérations – pas forcément informatique mais utilisé principalement dans ce domaine – qui permet de répondre à une problématique. Ceci permet de tirer expérience du vécu afin d’apprendre comme nous le faisons tout au long de notre vie.

En fait, d’une manière générale dans l’intelligence artificielle sous quelques formes que ce soit, on va essayer de déduire des fonctions qui permettent de généraliser par rapport à l’expérience. Par exemple, si j’ai constaté par expérience que plus le diamètre d’un arbre est important, plus son âge est important (et que j’ai des valeurs correspondantes entre diamètre et âge), alors si j’ai un certain diamètre pour un arbre je pourrais en déduire son âge. Si l’expérience est un jeu de données qui établi dans le temps et donc qui n’évolue pas dynamiquement (comme dans mon exemple de diamètre arbre/âge), on va parler d’IA supervisée et on est dans le domaine du « machine learning ». Si par contre l’expérience est acquise au fur et à mesure en fonction des retour en direct, on parle alors d’IA non supervisée et on entre dans le domaine du « deep learning ». Et les meilleurs principes pour réaliser ces opérations de deep learning sont les réseaux neuronaux.

3 ) Tay le sommelier ?

Aurait-il été possible de transformer Tay en sommelier ? Au risque de choquer quelques conservateurs, en fait je pense que oui. S’il avait eu à faire seulement à des sommeliers. Et je pense que ça aurait pu être un bon sommelier dans la forme poétique qu’ils savent donner à l’interprétation d’un vin. Il aurait peut-être été compliqué de lui apprendre quelques concepts simplement par la discussion, mais compliqué ne veut pas dire impossible. Puis quand on voit à quel point il a été poussée loin dans le domaine du troll néo-nazi, il aurait été certainement possible d’en faire l’expert en vin 3.0.

 

Dirigeant et Co-fondateur de Sublivin, solution qui calcule la date idéale de consommation d’un vin.
Mordu de vin, Gamer à mes heures perdues et passionné d’informatique au sens large. J’ai travaillé pendant 5 ans dans l’industrie des jeux vidéos et du cinéma d’animation avant de lancer Sublivin.

Also published on Medium.