A quoi rêvent les algorithmes ?

 

Tel est le titre du dernier ouvrage de Dominique Cardon, sociologue. Ce livre a pour sous-titre Nos vies à l'heure des big data. En voici une note de lecture.

L’objectif poursuivi par Dominique Cardon

Dominique Cardon analyse le phénomène d’accélération du processus de numérisation de nos sociétés qui nourrit de gigantesques base de données d’informations. Elles sont analysées au point de modéliser de mieux en mieux nos comportements et de les prédire.

Il propose une critique des modèles avec un objectif clair : “Une radiographie critique des algorithmes est un enjeu démocratique aussi essentiel qu’inaperçu.”

La société des comportements

“La thèse de ce livre est que, si les logiques de personnalisation s’installent aujourd’hui dans nos vies, c’est parce qu’elles calculent une nouvelle forme de social, la société des comportements, où se recompose la relation entre le centre de la société et des individus de plus en plus autonomes.”

Par exemple, les réseaux sociaux ont installé sur le web “une immense usine de production de signes expressifs” qui creuse un écart entre la multiplicité des désirs d’être et la réalité des existences quotidiennes (Dominique Cardon se réfère alors à Accélération de Hartmut Rosa, ouvrage majeur de sociologie contemporaine).

Trois secousses expliquent l'avènement de cette société des comportements

Il y a eu trois secousses explique Dominique Cardon : “les mesurés sont eux-mêmes devenus facilement calculateurs ; les catégories (les catégories socio-professionnelles par exemple) parviennent moins bien à représenter les individus qui se singularisent de plus en plus ; les corrélations statistiques ne vont plus de la cause vers la conséquence, mais remontent des conséquences vers une estimation des causes probables.”

Les modèles statistiques des data scientists viennent des sciences exactes. Ils partent à la recherche de recherche de régularité de manière inductive. Qu'on se le dise !

Les bases de données les plus pertinentes appartiennent surtout aux grandes plateformes du web

Ces plateformes sont celles de Google, Facebook, Amazon. Ce sont des bases de données faiblement accessibles aux citoyens. Elles ne sont pas des biens communs. C'est important d'avoir cela en tête.

Les machines calculatoires ne sont pas intelligentes

Les algorithmes suivent les existences quotidiennes sans chercher à les interpréter, “le futur de l’internaute est prédit par le passé de ceux qui lui ressemblent” souligne Dominique Cardon. Les concepteurs des algorithmes “ne sont pas parvenus à glisser un esprit à l’intérieur de leurs machines” ! 

Prenons par exemple les traducteurs automatiques : les machines ne font pas des raisonnements abstraits, leurs concepteurs y ont renoncé !, mais elles apprennent des mots, mot par mot, puis par groupes de deux mots, groupes de trois mots, etc. La machine traduit moins qu’elle ne fait une estimation statistique de la meilleure traduction possible.

Retenons ça, “ce passage des règles abstraites vers la statistique des contextes”.

Nos comportements obéissent à des habitudes routinières 

“Les policiers à l’ancienne, connaisseurs de leur terrain et habitués aux maraudes, ne sont jamais vraiment surpris des directives du logiciels” ! Nous pouvons lire et relire les romans de Fred Vargas !

Les algorithmes nous enferment-ils dans notre conformisme ?

Les algorithmes sont prédictifs parce qu’ils font l’hypothèse que notre futur sera une reproduction de notre passé. Ils “marchent” plutôt bien quand quand la boucle de rétroaction entre l’information et l’action est courte, par exemple “proposer des livres, les acheter”. Quand le couplage est plus long, les algorithmes sont à la peine affirme Dominique Cardon.

Ils sont à la peine parce qu’ils sont calibrés au sein d’écosystèmes fermés, “et non croisés au grand air avec des flux d’informations venant de toute part”. Etes-vous rassurés ?

Faut-il que les données, des données disons, soient des biens communs ?

Il y a des initiatives de self data. Il existe quelques bases qui sont des biens communs, comme Wikipedia ou OpenStreetMap.

Dans ces cas-là, souligne Dominique Cardon, “le partage de bases de données publiques, libres et ouvertes réclame une gouvernance originale permettant de profiter des savoirs dont elles peuvent être le support, sans favoriser des phénomènes de centralisation et sans menacer la vie privée des personnes.”

Etre alerte sur comment on nous veut du bien !

“L’imaginaire des concepteurs de services de big data est obnubilé par la figure du concierge ou de l’assistant personnel”, autant être alerte sur comment on nous veut du bien !

Et “puisqu’il est difficile de choisir ex ante d’être ou de ne pas être tracé, il devient de plus en plus important de contrôler ex post ce dont nos données font l’objet.”

Dominique Cardon rapporte là par exemple que c’est sous la pression des utilisateurs que Facebook a du revenir sur plusieurs de ses initiatives visant à introduire dans le fil d’actualité des informations qui n’étaient pas associées aux conversations des utilisateurs.

“Plus que jamais, il importe de savoir à quoi rêvent les algorithmes.”

Faites vos hypothèses quand vous faites une recherche sur Google, un achat sur Amazon, un parcours sur votre mur sur Facebook et partagez-les, ces hypothèses qui sont les vôtres !

 

Source de la photo : franceculture.fr/emission-la-suite-dans-les-idees-etant-donnees-la-revolution-sociale-des-big-data-2015-10-03. Ecoutez l'émission !

---