L’édito de GNU/Linux Magazine n°211 !

Nous vivons dans un monde où nous sommes submergés de données qui nous parviennent de toutes parts. Un traitement manuel n’est plus envisageable et il faut donc analyser ces données de manière automatique en utilisant des techniques de plus en plus pointues (machine learning, deep learning, etc.). Néanmoins, la technologie ne peut nous mettre à l’abri de l’effet « Hans le malin » (https://fr.wikipedia.org/wiki/Hans_le_Malin). En effet, il est très facile de tirer de données de qualité (recueillies correctement, propres, etc.) absolument n’importe quelle conclusion qui, en général, ira dans la direction souhaitée. Pour mettre en garde contre ce phénomène, deux enseignants de l’University of Washington, Carl Bergstrom, professeur du département de Biologie et Jevin West, professeur assistant de l’Information School (https://ischool.uw.edu/), ont eu l’idée de lancer une initiative nommée « Calling Bullshit » (expression anglaise que je me garderai de traduire et qui permet de signifier son désaccord à une autre personne). Cette initiative prend la forme d’un site internet (http://callingbullshit.org) sur lequel on peut trouver :

– le plan du cours qu’ils dispensent sur le sujet avec des références à de nombreuses lectures ;

– des vidéos de leur cours (très intéressantes à condition de disposer d’un peu de temps…) ;

– des méthodes pour valider une information ;

– des études de cas.

J’ai récemment reçu un communiqué de presse. L’information était la suivante : une ville française (assez importante) a signé un contrat (assez conséquent) avec une société pour développer un outil permettant aux acteurs de la sécurité d’anticiper les risques et de préparer leur intervention via l’analyse de données massives (il faut dire Big Data si on veut faire plus vendeur). Cette information a raisonné en moi et je me suis souvenu de l’un des cas présentés sur le site qui fait allusion à la notion de pré-crime de Philip K. Dick (adapté au cinéma dans Minority Report par Steven Spielberg). On nous présente l’article de deux auteurs chinois qui indiquent pouvoir détecter des personnes criminelles en analysant des photos de leur visage sur la base de photographies de personnes reconnues coupables de crimes (et donc prises en photo lors de leur incarcération) et de personnes tout venant. L’hypothèse de départ de ce travail nous ramène à des heures assez sombres de notre Histoire. Toujours est-il que, tout naturellement, les criminels étaient ceux qui ne souriaient pas et donc la ligne prédictrice du crime était à lier en fonction du sourire des passants…

Ainsi, si l’on imagine que les auteurs de délits dissimulent leurs traits sous des bonnets ou cagoules pour ne pas être reconnus sur les vidéos, le futur fantastique logiciel dont je parlais précédemment pourra indiquer aux forces de l’ordre… la météo et plus précisément quand il fera froid. Comme vous le comprenez, je reste donc très sceptique sur les capacités d’anticipation d’un tel système, sans même un seul précog et me questionne fortement sur l’usage de l’argent public avec de tels objectifs.

Je profite d’ailleurs de ces lignes pour vous annoncer la sortie prochaine de notre Hors-Série sur le Machine Learning, pour que chacun puisse garder un œil critique sur ce qui est fait ou annoncé en grande pompe.

La technologie permet des avancées scientifiques précieuses… mais tout dépend entre les mains de qui. En attendant, n’oubliez pas de sourire en lisant votre magazine, on ne sait jamais… 😉

Tristan Colombo

-> Découvrir/acheter ce numéro : https://boutique.ed-diamond.com/en-kiosque/1287-gnulinux-magazine-211.html

-> S’abonner : https://boutique.ed-diamond.com/abonnements/3-gnu-linux-magazine

Laisser un commentaire