Liens, News, et informations diverses et variées du moment

Ce sont les meilleurs algorithmes du monde. Des machines fantastiques capables de dépasser les capacités humaines de reconnaissance visuelle : ces réseaux de neurones profonds (voir Repères) sont capables
d'identifier en un clin d'œil n'importe quel objet, animal, visage humain ou panneau de signalisation… Au point que ces systèmes sont devenus les fers de lance de l'intelligence artificielle, qui promet aujourd'hui de tout révolutionner.

Sauf que ce succès cache une véritable faille. Une vulnérabilité incroyable, que personne n'avait vue venir… Si le problème n'a pas encore filtré dans la presse grand public, il occupe fébrilement des équipes entières de chercheurs depuis environ deux ans. Le problème ?

Ces algorithmes formidables sont victimes d'illusions d'optique totalement aberrantes !

Prenez la photo numérique d'un objet. Modifiez subtilement la valeur de quelques-uns de ses pixels... et l'algorithme se met soudain à voir tout autre chose, alors que l'oeil humain ne voit aucune différence avec la photo originale. Devant l'image finement manipulée d'un panda, le robot croit ainsi voir un singe - avec un degré de confiance supérieur à 99 %.

D'autres en viennent à prendre une tortue pour une mitraillette, un skieur pour un chien, un chat pour un bus, George Clooney pour Dustin Hoff-man, et pourquoi pas une orange pour un hélicoptère.

Pire : "à ce jour, personne ne parvient à expliquer ce phénomène" , avoue Andrew Ilyas, théoricien de l'apprentissage machine au MIT ; il faut dire que les informaticiens peinent encore à comprendre ce qui se trame dans ces espaces de calcul à très haute dimension.

Avec leur côté Magritte, ces expériences de piratage pourraient prêter à sourire. Sauf que le dysfonctionnement devient nettement moins drôle quand on sait que ces algorithmes désormais voués à envahir notre quotidien, pourraient être amenés à interpréter un panneau "stop" comme un panneau prioritaire, un feu rouge pour un feu vert, une tumeur cancéreuse pour un organe sain, une école pour une cible militaire, une bombe pour un sandwich, le visage d'un terroriste pour celui d'un agent habilité, la preuve d'un meurtre pour un fait anodin ou réciproquement, etc. Pareilles hallucinations pourraient même préfigurer les attaques informatiques des décennies à venir…

UN PIRATAGE TOUT SIMPLE
Car les dernières recherches menées dans les laboratoires universitaires et chez les géants Google ou Facebook montrent que la menace est très concrète. " Les premières expériences demandaient beaucoup de temps de calcul et avaient lieu dans les conditions très calibrées de laboratoire, avec accès à tous les paramètres internes du modèle attaqué, raconte Jonathan Peck, spécialiste des mathématiques des réseaux de neurones à l'Université de Gand (Belgique). Mais ce n'est plus le cas : ces attaques sont devenues très accessibles." Plusieurs études ont montré, ces derniers mois, que ces subtiles perturbations visuelles continuaient d'opérer dans le monde réel, à partir des images prises par une banale caméra de smartphone en mouvement, sous divers angles de vue et niveaux de luminosité. Une équipe américaine a montré qu'un panneau "stop" entièrement recouvert d'un autocollant reproduisant un "stop" habilement modifié pouvait tromper n'importe quelle voiture autonome (voir ci-dessus) - sans éveiller la suspicion des automobilistes. Des chercheurs de l'Université Carnegie-Mellon (États-Unis) sont aussi parvenus, à l'aide de simples lunettes aux motifs imprimés, à duper totalement une I.A. de reconnaissance faciale.