11 juillet 2018

Explicabilité : le mauvais procès fait à l’intelligence artificielle

Comprenons-nous vraiment les rouages de l’intelligence artificielle ? Maitrisons-nous vraiment ce qu’il se passe avec cette technologie ? Manuel Davy fait le point.

« Personne ne sait vraiment comment les algorithmes les plus avancés font ce qu’ils font. Ça pourrait être un problème. » Cet extrait tiré de « The Dark Secret at the Heart of AI », la revue technologique du MIT, rend compte d’une des entraves à l’acceptation de l’IA : son explicabilité. C’est-à-dire sa capacité à expliquer par quel raisonnement certains algorithmes d’apprentissage parviennent à de bons résultats. Preuve que ce sujet vieux comme l’IA reste éminemment d’actualité et dépasse les frontières du monde scientifique, le rapport Villani allait jusqu’à qualifier l’explicabilité d’ « enjeu démocratique ».

Le mutisme des algorithmes tient à la complexité du lien entre les données analysées par l’intelligence artificielle et la décision prise. Une complexité qui, d’ailleurs, échappe à la machine elle-même. Dans son ouvrage « Des robots et des hommes », paru l’an dernier, Laurence Devillers, chercheuse au CNRS, rappelait qu’ « il faut garder à l’esprit que ces technologies apprennent sans comprendre donc qu’elles décident sans comprendre ». Les réseaux de neurones du deep learning en sont un parfait exemple. Constitués de couches qui transforment successivement les données d’entrée jusqu’à calculer finalement une décision, les données transformées par les couches les plus profondes n’ont aucun sens pour l’humain. La décision prise est donc inexplicable.

Si ce manque de transparence embarrasse les scientifiques, il constitue surtout une source d’inquiétude pour les opinions publiques. A l’ère de la transparence, de l’horizontalité et du rendre compte, cette opacité bouscule notre fonctionnement. Toutefois refuser l’intelligence artificielle reviendrait à mettre à mal notre cohérence.

 

« L’intelligence artificielle n’est pas la seule réalité que nous ne parvenons pas à appréhender »

Il est vrai qu’en quelques années à peine, l’intelligence artificielle a fait irruption dans notre quotidien, suscitant beaucoup de questions. Pourtant, il ne s’agit pas de la seule réalité que nous ayons du mal à appréhender.

 

Lire la suite de « Explicabilité : le mauvais procès fait à l’intelligence artificielle » sur Maddyness