odoutrellot / private

0 stars 0 forks source link

Le rapport Villiani sur l'IA #3

Open odoutrellot opened 6 years ago

odoutrellot commented 6 years ago

Ces derniers jours a été présenté le rapport Villiani pour l'Intelligence Artificielle. Il semble que l'intelligence artificielle soit le nouveau buzzsword à la mode. Après la blockchain qui a eu son heure de gloire ces deux dernières années, l'IA semble le nouveau sujet. Et pourtant, le sujet à travers les bots ou autres interfaces conversationnelles n'est pas totalement nouveau

On ne parle pas d'Intelligence ici

Il me semble qu'à des fins de communication, un usage impropre est fait du terme intelligence artificielle

Big Data Deep learning Statistique

Les données en question

Outre le fait que le terme d'IA est ici galvaudé, ce qui m'inquiète, c'est que cette technologie dans l'acception qui en est ici faite implique d'avoir une politique très libérale sur les données. Ces informations que nous laissons partout dans nos navigation sur le Web, dans nos interactions avec des acteurs économique sur Internet ou auprès des acteurs institutionnels. De toutes ces informations, l'IA à la sauce Macron a besoin.

Sans que j'ai le courage de vérifier l'information, il me semble bien que Mounir Mahjoubi, a évoqué qu'il lui semblait tout à fait envisageable que l'on puisse vendre ses données personnelles contre des services.

Mais c'est déjà ce que nous faisons, sans en avoir le plus souvent conscience ou conscience de ce que cela implique, avec des services comme Facebook.

Le grand public a déjà une méconnaissance crasse des périls qui nous menacent sur le long terme et ce que propose ce gouvernement c'est d'aller encore plus loin.

Pendant longtemps, c'est un Big Brother étatique qui était à l'origine de nos sueurs froides. Le récit orwellien, inspiré de la puissance potentielle que pourrait acquérir le régime soviétique avait permis de créer un épouvantail aussi crédible que terrifiant. Ces dernières années, il me semble que l'image s'était estompée au profit d'une crainte de l'entreprise consommatrice de donnée. Une ambition de contrôle toujours mais au service de capacité d'achat. Quelque part on pouvait s'imaginer que l'on conservait sa capacité à refuser d'acheter et donc le contrôle.

Mais des éléments comme ceux qui ont été révélés par Eward Snowden montrent un schéma plus angoissant : à des entreprises captant nos données sous couvert de nous vendre leurs produit s'ajoute, mais caché, l'action du gouvernement américain qui récupère des données qui lui donne un pouvoir bien plus grand sur nos vies. C'est quelque part le chemin que pourrait vouloir prendre le gouvernement de Macron en cherchant à tout prix à libéraliser l'usages de nos données.

Le grand exemple que l'on invoque le plus souvent pour argumenter du bien fondé d'une telle démarche est médical : avec de plus grands volumes de données nous pourrions faire d'immenses progrès médicaux. Mais tout d'abord, je ne souhaite pas que mes données soient utilisée malgré moi à des fins de recherche, j'en suis propriétaire et souhaite pouvoir le choisir. D'autre part, quand bien même celle-ci seraient anonymisées, il faudrait que j'ai confiance ne l'Etat pour garantir cet anonymat au niveau technologique (donc qu'une norme de sécurité importante soit posée sur l'ensemble de la chaîne de transmission de l'information) et que l'on me garantisse enfin, et je ne vois pas comme ce serait possible, que personne je cherche à inférer des informations de ces données par recoupement (hors ces recoupement seraient forcement facile à faire entre différents services de l'Etat ; que ces services communiquent ou non n'est pas le sujet à partir du moment où c'est possible c'est un péril).

Enfin et surtout, j'imagine que les hôpitaux sont déjà en capacité de produire ces statistiques sans qu'elles ne soient reliées en aucune façon avec un profil me concernant. Dans ces conditions, j'aurais tendance à me demander où se trouve ici le loup.

Mais aussi, en fait je voudrais que l'on m'explique dans le détails les avancées médicales attendues par cette collecte de données et en quoi elle n'est pas possible aujourd'hui avec les informations que l'établissement pourrait générer sur des métadonnées qu'il peut collecter à partir des rapports des médecins.

L'obsession du retard français

Au coeur des interrogations/préoccupations à l'origine de la commande du rapport, il semble que la question de la place de la France dans sa capacité à trouver en ce sujet un moyen de revenir un acteur de premier rang soit centrale.

Que la compétitivité de la France dans un domaine soit à l'origine de toute démarche du gouvernement Macron n'est pas très surprenant. A bien y réfléchir la tentative de construction de champions nationaux ou l'identification de technologie de rupture sur lesquelles la France pourrait rattraper son "retard", celui qui tend à l'exclure du cancer des nations les plus riches n'est pas surprenant. La démarche ne présente que peu d'originalité par rapport aux gouvernements qui l'ont précédés.

Ce n'est en pratique pas si intéressant : l'exercice comment à être rôdé. On va prendre un sujet sur lequel on souhaite mettre l'accent et dire qu'il est stratégique pour demain. L'idé

Etre un vieux con

Est-ce que le fait que je me sente absolument réfractaire à l'ensemble des éléments qui sont présentés ici fait de moi une personne qui refuse le progrès ? Est-ce qu'accepter les avancées du progrès se conjugue forcement avec le fait de perdre toute forme de vie privée et que je doive me laisser entrainer dans un système qui accroît à chaque instant son contrôle sur ma vie ?

Quand je vois tout cela, je ne peux m'empêcher d'avoir le sentiment que l'on me propose plus de sécurité en matière de santé contre un peu de ma liberté (qui inclut ma vie privée). Cela suscite automatiquement chez moi un rappel de la citation bien connue de Benjamin Franklin : " Un peuple prêt à sacrifier un peu de liberté pour un peu de sécurité ne mérite ni l'une ni l'autre, et finit par perdre les deux. ".

[Pousser un peu plus ma position]

D'une certaine façon, je n'ose même pas être choqué par le fait que le gouvernement Macron soit à l'origine de telles propositions. Il est dans leur conviction de tout sacrifier sur l'autel de la compétitivité internationale, sous couvert de progrès", quitte à ce que les citoyens soient vendus par bribes à des acteurs économiques. Le primat de l'économique sur l'humain est partout dans la pensée libérale portée par Macron.

Isolé, ce sujet n'est peut-être pas si grave que l'on pourrait le penser (pour peu que l'on . souhaite en prendre la peine), ce qui m'inquiète c'est ce que ce genre de préconisation, si elle est suivie permettra de faire, une fois associée avec la suivante et celle d'après.

Questions

Notes

http://www.opusline.fr/rapport-villani-lia-principales-recommandations-sante/

odoutrellot commented 6 years ago

Première ébauche et construction. J'ai un peu peur que ça parte dans tous les sens. J'ai aussi le sentiment que je ne suis pas au clair sur ce qu'il y a à dire, que je devrais repartir sur la matière de base.

A lire :

odoutrellot commented 6 years ago

J'ai continué à écrire sur l'angle de l'usage qui peut être fait contre nous de nos données. Je n'ai toujours pas l'impression d'avoir trouvé ou créé un angle pour mon papier. Edit post : peut être que si, à creuser