Machine Learning et alchimie

Ali Rahimi, un chercheur en intelligence artificielle chez Google à San Francisco, a affirmé que les algorithmes par  lesquels les ordinateurs apprennent en Deep Learning c’est à dire la phase d’entraînement des réseaux de neurones, étaient une forme d ‘«alchimie». Il se demande pourquoi certains algorithmes fonctionnent et d’autres pas, et quels sont les  critères pour choisir une architecture plutôt qu’une autre. (1)
Pour ma part c’est une sorte de progression par essais/erreurs en fonction des résultats obtenus (la qualité du texte) en essayant différents paramètres dans chacun des cas. Cette technique peut paraître peu scientifique voire empirique (alchimique ?) en effet… Yann LeCun a démenti il y a quelques temps que les Machines Learning étaient de boîtes noires – du moins celle de son labo chez FaceBook, sous entendu ces IA sont des programmes informatiques et que par conséquent on peut suivre ce qu’elles produisent pas à pas. Ce qui revient en informatique à poser des points d’arrêts du programme et aller vérifier l’évolution des valeurs de variables… Vu les millions de calculs qui sont exécutés par le moindre programme, cela risque d’être très long et fastidieux.
Lors de ma découverte du Machine Learning , il m’a déjà fallu un certain temps pour comprendre pourquoi on utilisait les calculs matriciels et comment les vecteurs qui en étaient issus étaient utilisés pour agencer les mots en phrases.


Alexander Amini, Daniela Rus. Massachusetts Institute of Technology, adapted by M. Atarod/Science

L’image ci-dessus représente  un calcul de descente de gradient, c’est pour moi la prochaine étape dans la compréhension de la plupart de ces algorithmes, comment l’algorithme de gradient s’intègre à ces ensembles ? C’est pour cette raison  que j’ai choisi l’image d’entête de mon blog : une bille dans un relief en 3D. C’est beau je trouve cette bille qui roule en descendant  à travers  « une vallée dérangeante ». On peut penser aussi à la grosse balle rouge qui traverse les paysages de la série « Le prisonnier » et qui risque à tout instant d’engloutir le héro. Espoir et peur sur l’Intelligence artificielle…

(1) http://www.sciencemag.org/news/2018/05/ai-researchers-allege-machine-learning-alchemy

Votre commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l’aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l’aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l’aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l’aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s