Tweet
Manipulation, débordement, les dérives du calcul : les algorithmes sont-ils infaillibles ?
Ils font aujourd’hui partie de notre quotidien. Les algorithmes trient, confrontent, croisent et analysent nos données sans même que nous nous en rendions compte. Leur discrétion inquiète d’autant plus que, les contours des algorithmes sont encore flous. Dominique Cardon, auteur de l’ouvrage À quoi rêvent les algorithmes, démystifie ces programmes de calcul qui peuvent aussi faciliter nos vies.
« Comme une recette de cuisine, un algorithme est une série d’instructions permettant d’obtenir un résultat. À très grande vitesse, il opère un ensemble de calcul à partir des gigantesques masses de données (le « big data »). Il hiérarchise l’information, devine ce qui nous intéresse, sélectionne les biens que nous préférons et s’efforce de nous suppléer dans de nombreuses tâches. Nous fabriquons ces calculateurs mais en retour, ils nous construisent. »
Les algorithmes sont partout : dans nos achats, nos déplacements, dans nos démarches de recherche d’emploi, de formation professionnelle.
La révolution des calculs, c’est quoi au juste ?
Comprendre la révolution des calculs, c’est dans un premier temps, saisir l’ampleur du phénomène : une révolution qui imprime ses marques sur nos existences, portée par le big data. L’ouvrage de Dominique Cardon est ambitieux, « il décrit le monde auquel rêvent les algorithmes, avant que nous nous réveillons – trop tard ». Car aucun secteur n’est épargné : les outils statistiques n’ont longtemps communiqué que des versions simplifiées à l’extrême des choix politiques ou économiques faits pour eux, par les États ou les grandes entreprises.
Les statistiques sont des instruments de connaissance, conçus comme des outils politiques aux mains des décideurs. Quantificateurs de notre vie sociale, il sont à la fois baromètres, indices, palmarès, quantificateurs du moindre de nos gestes. Mais cette obsession de la mesure a aussi ses limites : le chiffrage constant de l’information enfermerait les individus dans leurs propres choix, nourris par le ciblage toujours plus marqué de nos informations personnelles.
« La thèse de ce livre est que, si les logiques de personnalisation s’installent aujourd’hui dans nos vies, c’est parce qu’elles calculent une forme nouvelle du social, la société des comportements, où se recompose la relation entre le centre de la société et des individus de plus en plus autonomes. »
Les quatre familles de calcul numérique : à côté, au-dessus, à l’intérieur et au-dessous des données numériques
Pour décrire métaphoriquement le rapport du calculateur au monde, Dominique Cardon identifie quatre familles de mesures « à côté, au-dessus, à l’intérieur et au-dessous des données numériques ». Ainsi, les mesures d’audience se situent « à côté du web », elles dénombrent les clics des internautes et la popularité des sites. « Au-dessus du web », nous trouvons le « Page Rank », l’algorithme de classement de l’information issue du moteur de recherche Google. Il permet de hiérarchiser et de classer les sites. Les réseaux sociaux et les indicateurs de notations se positionnent « à l’intérieur du web », ils participent de la popularité et construisent la réputation des personnes et des produits. Enfin, les données situées « sous le web » exploitent les traces de navigation des internautes et permettent ainsi d’anticiper voire de prédire leurs comportements à la lumière de l’historique des autres utilisateurs.
Manipulation, débordement, les dérives du calcul : les algorithmes sont-ils infaillibles ?
Les algorithmes peuvent être biaisés. « Plus les individus sont transparents, plus ceux qui les observent sont opaques. Les grands acteurs du web protègent jalousement la propriété commerciale de la recette de leurs algorithmes, au prétexte que la rendre publique faciliterait la vie de ceux qui essaient de les truquer », précise Dominique Cardon. En effet, comment s’assurer de la fiabilité des algorithmes ? Un site mieux référencé proposera-t-il obligatoirement un contenu de meilleure qualité ? Les algorithmes n’ont pas vocation à être éthiques, ni même à trancher un arbitrage de valeurs. Ils sont accusés de déformer, de trahir ou de censurer les représentations « vraies et neutres » de la réalité. Des soupçons en cascade qui portent non seulement sur l’algorithme mais aussi sur ceux qui sont suspectés de vouloir le manipuler.
« Des robots cliqueurs augmentent artificiellement l’audience des sites ou le nombre de vues sur Youtube. Le marché des faux comptes Facebook ou Twitter permet aux entreprises en mal de e-réputation de gonfler artificiellement leurs compteurs et de se prévaloir d’une notoriété qu’elles ont en fait achetée. Hôteliers, vendeurs de toutes sortes font appel à des petites mains pour rémunérer de faux avis de consommateurs (10 à 30% des avis de consommateurs sur internet sont faux. »
Et si les algorithmes se contentaient d’épouser les comportements des internautes, en répliquant et en amplifiant les fractures déjà présentent dans nos sociétés : les algorithmes reconduisent les inégalités de nos sociétés, en donnant aux mieux dotés les moyens d’enrichir leurs réseaux relationnels.
Et s’il fallait débrancher les algorithmes ?
L’auteur propose de « passer en manuel » : l’enjeu politique que poseraient les nouvelles boites noires du calcul algorithmique est celui de leur aptitude à débrayer, à passer « en manuel ». Car les algorithmes proposent en fait d’automatiser les arbitrages et les choix les plus mécaniques de nos vies.
« Dans les activités complexes, les habilités manuelles ont été transférées vers les machines. Les pilotes d’avion ne conduisent plus vraiment les avions, mais les surveillent. Les architectes ne font plus de dessins à la main mais les modélisent directement en 3D. Les algorithmes de détection visuelle sont en train d’apprendre à lire les radiographies et les IRM que valideront ensuite les médecins. »
En somme, pas de quoi dramatiser. Les algorithmes sont là pour nous aider. Inutile de s’épancher une fois de plus sur l’éternel conflit entre l’Homme et la machine. L’ouvrage rappelle avec finesse l’utilité de reconsidérer ce couple, qui est voué à rétroagir et s’influencer mutuellement.
« Les sociétés de calculs réalisent un couplage nouveau entre une puissance d’agir, de plus en plus forte, des individus et des systèmes sociotechniques imposant, eux aussi, des architectures de plus en plus fortes. Il est encore temps de dire aux algorithmes que nous ne sommes pas la somme imprécise et incomplète de nos comportements. »
Contrepoints
Ils font aujourd’hui partie de notre quotidien. Les algorithmes trient, confrontent, croisent et analysent nos données sans même que nous nous en rendions compte. Leur discrétion inquiète d’autant plus que, les contours des algorithmes sont encore flous. Dominique Cardon, auteur de l’ouvrage À quoi rêvent les algorithmes, démystifie ces programmes de calcul qui peuvent aussi faciliter nos vies.
« Comme une recette de cuisine, un algorithme est une série d’instructions permettant d’obtenir un résultat. À très grande vitesse, il opère un ensemble de calcul à partir des gigantesques masses de données (le « big data »). Il hiérarchise l’information, devine ce qui nous intéresse, sélectionne les biens que nous préférons et s’efforce de nous suppléer dans de nombreuses tâches. Nous fabriquons ces calculateurs mais en retour, ils nous construisent. »
Les algorithmes sont partout : dans nos achats, nos déplacements, dans nos démarches de recherche d’emploi, de formation professionnelle.
La révolution des calculs, c’est quoi au juste ?
Comprendre la révolution des calculs, c’est dans un premier temps, saisir l’ampleur du phénomène : une révolution qui imprime ses marques sur nos existences, portée par le big data. L’ouvrage de Dominique Cardon est ambitieux, « il décrit le monde auquel rêvent les algorithmes, avant que nous nous réveillons – trop tard ». Car aucun secteur n’est épargné : les outils statistiques n’ont longtemps communiqué que des versions simplifiées à l’extrême des choix politiques ou économiques faits pour eux, par les États ou les grandes entreprises.
Les statistiques sont des instruments de connaissance, conçus comme des outils politiques aux mains des décideurs. Quantificateurs de notre vie sociale, il sont à la fois baromètres, indices, palmarès, quantificateurs du moindre de nos gestes. Mais cette obsession de la mesure a aussi ses limites : le chiffrage constant de l’information enfermerait les individus dans leurs propres choix, nourris par le ciblage toujours plus marqué de nos informations personnelles.
« La thèse de ce livre est que, si les logiques de personnalisation s’installent aujourd’hui dans nos vies, c’est parce qu’elles calculent une forme nouvelle du social, la société des comportements, où se recompose la relation entre le centre de la société et des individus de plus en plus autonomes. »
Les quatre familles de calcul numérique : à côté, au-dessus, à l’intérieur et au-dessous des données numériques
Pour décrire métaphoriquement le rapport du calculateur au monde, Dominique Cardon identifie quatre familles de mesures « à côté, au-dessus, à l’intérieur et au-dessous des données numériques ». Ainsi, les mesures d’audience se situent « à côté du web », elles dénombrent les clics des internautes et la popularité des sites. « Au-dessus du web », nous trouvons le « Page Rank », l’algorithme de classement de l’information issue du moteur de recherche Google. Il permet de hiérarchiser et de classer les sites. Les réseaux sociaux et les indicateurs de notations se positionnent « à l’intérieur du web », ils participent de la popularité et construisent la réputation des personnes et des produits. Enfin, les données situées « sous le web » exploitent les traces de navigation des internautes et permettent ainsi d’anticiper voire de prédire leurs comportements à la lumière de l’historique des autres utilisateurs.
Manipulation, débordement, les dérives du calcul : les algorithmes sont-ils infaillibles ?
Les algorithmes peuvent être biaisés. « Plus les individus sont transparents, plus ceux qui les observent sont opaques. Les grands acteurs du web protègent jalousement la propriété commerciale de la recette de leurs algorithmes, au prétexte que la rendre publique faciliterait la vie de ceux qui essaient de les truquer », précise Dominique Cardon. En effet, comment s’assurer de la fiabilité des algorithmes ? Un site mieux référencé proposera-t-il obligatoirement un contenu de meilleure qualité ? Les algorithmes n’ont pas vocation à être éthiques, ni même à trancher un arbitrage de valeurs. Ils sont accusés de déformer, de trahir ou de censurer les représentations « vraies et neutres » de la réalité. Des soupçons en cascade qui portent non seulement sur l’algorithme mais aussi sur ceux qui sont suspectés de vouloir le manipuler.
« Des robots cliqueurs augmentent artificiellement l’audience des sites ou le nombre de vues sur Youtube. Le marché des faux comptes Facebook ou Twitter permet aux entreprises en mal de e-réputation de gonfler artificiellement leurs compteurs et de se prévaloir d’une notoriété qu’elles ont en fait achetée. Hôteliers, vendeurs de toutes sortes font appel à des petites mains pour rémunérer de faux avis de consommateurs (10 à 30% des avis de consommateurs sur internet sont faux. »
Et si les algorithmes se contentaient d’épouser les comportements des internautes, en répliquant et en amplifiant les fractures déjà présentent dans nos sociétés : les algorithmes reconduisent les inégalités de nos sociétés, en donnant aux mieux dotés les moyens d’enrichir leurs réseaux relationnels.
Et s’il fallait débrancher les algorithmes ?
L’auteur propose de « passer en manuel » : l’enjeu politique que poseraient les nouvelles boites noires du calcul algorithmique est celui de leur aptitude à débrayer, à passer « en manuel ». Car les algorithmes proposent en fait d’automatiser les arbitrages et les choix les plus mécaniques de nos vies.
« Dans les activités complexes, les habilités manuelles ont été transférées vers les machines. Les pilotes d’avion ne conduisent plus vraiment les avions, mais les surveillent. Les architectes ne font plus de dessins à la main mais les modélisent directement en 3D. Les algorithmes de détection visuelle sont en train d’apprendre à lire les radiographies et les IRM que valideront ensuite les médecins. »
En somme, pas de quoi dramatiser. Les algorithmes sont là pour nous aider. Inutile de s’épancher une fois de plus sur l’éternel conflit entre l’Homme et la machine. L’ouvrage rappelle avec finesse l’utilité de reconsidérer ce couple, qui est voué à rétroagir et s’influencer mutuellement.
« Les sociétés de calculs réalisent un couplage nouveau entre une puissance d’agir, de plus en plus forte, des individus et des systèmes sociotechniques imposant, eux aussi, des architectures de plus en plus fortes. Il est encore temps de dire aux algorithmes que nous ne sommes pas la somme imprécise et incomplète de nos comportements. »
Contrepoints