Tweet
La vie à l'ère de la reconnaissance faciale
Le visage humain est vraiment extraordinaire. L’incroyable variété de nos expressions faciales nous permet de nous reconnaître mutuellement, et cette abondance de signaux a été fondamentale dans la formation de nos sociétés complexes. Tout comme la capacité du visage humain à envoyer des signaux d’émotions, tant involontaires, en rougissant par exemple, que calculés, par un sourire artificiel.
La plupart des gens passent la plus grande partie de leur temps éveillé, que ce soit dans un bureau ou un tribunal, un bar ou une chambre à coucher, à lire les visages pour y déceler des signes d’attraction ou d’hostilité, des marqueurs de confiance ou de tromperie. Ils passent aussi beaucoup de temps à tenter de les dissimuler. La technologie est en train de rattraper rapidement cette compétence humaine qu’est le décryptage d’un visage.
En Amérique, la reconnaissance faciale est utilisée dans certaines églises pour surveiller l’assiduité des fidèles. En Grande-Bretagne, elle permet aux commerçants de repérer les clients qui ont déjà commis des vols à l’étalage. Cette année, la police du pays de Galles s’en est servi pour arrêter un suspect à l’extérieur d’un stade de foot avant un match. En Chine, l’identité des chauffeurs de voitures VTC est vérifiée par un système de reconnaissance faciale, qui est aussi aux commandes pour autoriser les touristes à pénétrer dans des attractions. Elle permet même de régler des achats par un sourire. Le nouvel iPhone d’Apple devrait proposer l’option reconnaissance faciale pour déverrouiller l’écran d’accueil de votre téléphone.
Comparées aux capacités humaines, ces applications de reconnaissance faciale peuvent sembler d’un bénéfice marginal. Certaines découvertes, comme l’Internet ou l’aviation, modifient vraiment en profondeur les compétences humaines. La reconnaissance visuelle ne fait a priori que les encoder. Mais si chaque visage humain est unique, il est aussi public. Une technologie comme la reconnaissance faciale ne semble pas à première vue faire intrusion dans la sphère privée. Pourtant, la possibilité d’enregistrer, de stocker et d’analyser à moindre coût les photos de nos visages, rapidement, et à vaste échelle, entraînera un jour des changements fondamentaux à la conception de vie privée, d’équité et de confiance.
Reconnaissance faciale - La dernière frontière
Commençons avec la vie privée. La grande différence entre les visages et les autres données dites biométriques, comme les empreintes digitales, est qu’ils sont captables à distance. N’importe qui en possession d’un téléphone mobile peut prendre une photo que les programmes de reconnaissance visuelle utiliseront ensuite. Une application russe, FindFace, compare des clichés d’étrangers avec les photos de profil du réseau social russe Vkontakte et parvient à identifier correctement les personnes, avec un taux de fiabilité de 70 %. La banque d’images des photos de profils de Facebook ne peut pas être utilisée par d’autres, mais le géant de la Silicon Valley pourrait lui obtenir les photos des visiteurs d’un salon automobile, au hasard, et utiliser dans un second temps la reconnaissance faciale pour leur présenter des publicités pour des voitures.
Quand les entreprises privées ne sont pas capables de relier photos de visages et état civil, les gouvernements, souvent, le peuvent. Le gouvernement chinois archive les photos des visages de ses ressortissants. Les photographies de la moitié de la population adulte américaine sont stockées dans des bases de données auxquelles le FBI a accès. Les polices ont maintenant une arme puissante en main pour surveiller les criminels, mais le coût des atteintes éventuelles à la vie privée du citoyen est énorme. Un visage n’est pas une simple photo de badge. Il diffuse beaucoup d’autres informations et les machines sont capables de lire ces informations.
Une fois de plus, il y a des avantages. Certains logiciels analysent les visages pour fournir des diagnostics automatisés de pathologies génétiques rares, comme le syndrome de Hajdu-Cheney, et de façon bien plus précoce que cela ne serait possible autrement. Les systèmes qui interprètent les émotions peuvent donner aux autistes une compréhension des signaux sociaux qu’eux ne parviennent pas à saisir. Mais la technologie est aussi menaçante. Des chercheurs de Stanford ont fait la démonstration suivante : quand on présente à un algorithme des photos d’un homosexuel et d’un hétérosexuel, l’algorithme identifie leurs préférences sexuelles avec 81 % d’exactitude. Pour les humains, le taux est de 61 %. Dans les pays où l’homosexualité est un crime, un logiciel qui promet de “dépister” l’orientation sexuelle sur un visage est une perspective inquiétante.
Clés, portefeuilles et cagoules
Des formes de discrimination moins violentes peuvent aussi se banaliser. Les employeurs ont d’ores et déjà des préjugés qui les poussent à refuser un emploi à certaines personnes. Avec la reconnaissance faciale, ces préjugés pourraient s’automatiser, permettre aux entreprises de filtrer toutes les candidatures sur la base de critères tels que l’origine ethnique, les “signes d’intelligence”, l’orientation sexuelle. Sous la pression, les boîtes de nuit et les terrains de jeux pour enfants seront peut-être équipés de dispositifs de reconnaissance faciale à l’entrée pour détecter les “menaces de violence”, alors que ces systèmes ne travaillent que sur des probabilités en raison de la nature de l’apprentissage des machines. Par défaut, un dispositif de reconnaissance faciale peut être mal disposé envers les personnes qui n’ont pas la peau blanche car les algorithmes qui ont été “formés” à la reconnaissance sur des banques d’images de visages majoritairement blancs ne “connaissent” pas bien les visages des personnes d’origine ethnique différente.
Ces biais ont déjà fait leur apparition dans les “automated assessments”, les évaluations automatisées que les juges d’application des peines aux États-Unis utilisent pour prendre leur décision sur une mise en liberté sous caution et pour une condamnation.
À terme, l’archivage en continu des images de reconnaissance faciale et les dispositifs qui vont naître autour peuvent altérer la nature même des interactions sociales.
Dissimuler permet de huiler les rouages de la vie quotidienne. Si votre partenaire était capable de repérer tous les bâillements d’ennui que vous réprimez, si votre patron pouvait lire vos mimiques d’irritation, les mariages et les relations professionnelles seraient certainement plus authentiques et certainement moins harmonieux.
Les fondations des interactions sociales peuvent en être transformées, d’un ensemble d’engagements fondé sur la confiance à un calcul risques/bénéfices tiré des informations données par un ordinateur sur le visage d’une personne. Les relations en sortiront éventuellement plus “rationnelles”, mais aussi plus “transactionnelles”.
Dans les démocraties, au moins, la législation peut équilibrer les conséquences, positives ou négatives. La Communauté européenne a instauré une série de principes de protection des données dans sa nouvelle législation. Elle stipule que les informations biométriques – qui donc comprendront les “faceprints” ou impressions faciales – appartiennent à leur propriétaire, et que leur utilisation est soumise à son consentement. En Europe, donc, contrairement à ce qui se passe en Amérique, Facebook ne pourra pas présenter des publicités pour des voitures à ces fameux visiteurs des salons automobiles. Un employeur européen qui analysera les visages des candidats à l’embauche s’exposera aux lois contre les discriminations. Les vendeurs de systèmes de reconnaissance faciale auront la possibilité de se soumettre à un audit pour prouver que leurs systèmes ne propagent pas involontairement des discriminations. Les entreprises qui utilisent ces logiciels seront tenues pour responsables.
Cependant, ces règles ne s’arrêteront pas le cours des choses. Les caméras se multiplient toujours plus avec l’augmentation des ventes des dispositifs portatifs. Les tentatives pour tromper les systèmes de reconnaissance faciale (comme des lunettes, des maquillages spéciaux) sont déjà caduques. Des recherches menées à l’université de Cambridge montrent que l’intelligence artificielle peut “reconstruire” les traits du visage d’une personne masquée et costumée.
Pour contrer son utilisation à mauvais escient dans les régimes politiques non démocratiques, Google a volontairement refusé le “matching” entre visage et état civil. Ses concurrents ne sont pas tous aussi vertueux. Amazon et Microsoft proposent tous deux à travers leurs services dans le cloud de la reconnaissance faciale. Elle est d’ailleurs au cœur des futurs projets de Facebook. Les gouvernements ne se priveront pas non plus très longtemps de ses services. Le changement est en marche. Faites face.
l'économiste
Le visage humain est vraiment extraordinaire. L’incroyable variété de nos expressions faciales nous permet de nous reconnaître mutuellement, et cette abondance de signaux a été fondamentale dans la formation de nos sociétés complexes. Tout comme la capacité du visage humain à envoyer des signaux d’émotions, tant involontaires, en rougissant par exemple, que calculés, par un sourire artificiel.
La plupart des gens passent la plus grande partie de leur temps éveillé, que ce soit dans un bureau ou un tribunal, un bar ou une chambre à coucher, à lire les visages pour y déceler des signes d’attraction ou d’hostilité, des marqueurs de confiance ou de tromperie. Ils passent aussi beaucoup de temps à tenter de les dissimuler. La technologie est en train de rattraper rapidement cette compétence humaine qu’est le décryptage d’un visage.
En Amérique, la reconnaissance faciale est utilisée dans certaines églises pour surveiller l’assiduité des fidèles. En Grande-Bretagne, elle permet aux commerçants de repérer les clients qui ont déjà commis des vols à l’étalage. Cette année, la police du pays de Galles s’en est servi pour arrêter un suspect à l’extérieur d’un stade de foot avant un match. En Chine, l’identité des chauffeurs de voitures VTC est vérifiée par un système de reconnaissance faciale, qui est aussi aux commandes pour autoriser les touristes à pénétrer dans des attractions. Elle permet même de régler des achats par un sourire. Le nouvel iPhone d’Apple devrait proposer l’option reconnaissance faciale pour déverrouiller l’écran d’accueil de votre téléphone.
Comparées aux capacités humaines, ces applications de reconnaissance faciale peuvent sembler d’un bénéfice marginal. Certaines découvertes, comme l’Internet ou l’aviation, modifient vraiment en profondeur les compétences humaines. La reconnaissance visuelle ne fait a priori que les encoder. Mais si chaque visage humain est unique, il est aussi public. Une technologie comme la reconnaissance faciale ne semble pas à première vue faire intrusion dans la sphère privée. Pourtant, la possibilité d’enregistrer, de stocker et d’analyser à moindre coût les photos de nos visages, rapidement, et à vaste échelle, entraînera un jour des changements fondamentaux à la conception de vie privée, d’équité et de confiance.
Reconnaissance faciale - La dernière frontière
Commençons avec la vie privée. La grande différence entre les visages et les autres données dites biométriques, comme les empreintes digitales, est qu’ils sont captables à distance. N’importe qui en possession d’un téléphone mobile peut prendre une photo que les programmes de reconnaissance visuelle utiliseront ensuite. Une application russe, FindFace, compare des clichés d’étrangers avec les photos de profil du réseau social russe Vkontakte et parvient à identifier correctement les personnes, avec un taux de fiabilité de 70 %. La banque d’images des photos de profils de Facebook ne peut pas être utilisée par d’autres, mais le géant de la Silicon Valley pourrait lui obtenir les photos des visiteurs d’un salon automobile, au hasard, et utiliser dans un second temps la reconnaissance faciale pour leur présenter des publicités pour des voitures.
Quand les entreprises privées ne sont pas capables de relier photos de visages et état civil, les gouvernements, souvent, le peuvent. Le gouvernement chinois archive les photos des visages de ses ressortissants. Les photographies de la moitié de la population adulte américaine sont stockées dans des bases de données auxquelles le FBI a accès. Les polices ont maintenant une arme puissante en main pour surveiller les criminels, mais le coût des atteintes éventuelles à la vie privée du citoyen est énorme. Un visage n’est pas une simple photo de badge. Il diffuse beaucoup d’autres informations et les machines sont capables de lire ces informations.
Une fois de plus, il y a des avantages. Certains logiciels analysent les visages pour fournir des diagnostics automatisés de pathologies génétiques rares, comme le syndrome de Hajdu-Cheney, et de façon bien plus précoce que cela ne serait possible autrement. Les systèmes qui interprètent les émotions peuvent donner aux autistes une compréhension des signaux sociaux qu’eux ne parviennent pas à saisir. Mais la technologie est aussi menaçante. Des chercheurs de Stanford ont fait la démonstration suivante : quand on présente à un algorithme des photos d’un homosexuel et d’un hétérosexuel, l’algorithme identifie leurs préférences sexuelles avec 81 % d’exactitude. Pour les humains, le taux est de 61 %. Dans les pays où l’homosexualité est un crime, un logiciel qui promet de “dépister” l’orientation sexuelle sur un visage est une perspective inquiétante.
Clés, portefeuilles et cagoules
Des formes de discrimination moins violentes peuvent aussi se banaliser. Les employeurs ont d’ores et déjà des préjugés qui les poussent à refuser un emploi à certaines personnes. Avec la reconnaissance faciale, ces préjugés pourraient s’automatiser, permettre aux entreprises de filtrer toutes les candidatures sur la base de critères tels que l’origine ethnique, les “signes d’intelligence”, l’orientation sexuelle. Sous la pression, les boîtes de nuit et les terrains de jeux pour enfants seront peut-être équipés de dispositifs de reconnaissance faciale à l’entrée pour détecter les “menaces de violence”, alors que ces systèmes ne travaillent que sur des probabilités en raison de la nature de l’apprentissage des machines. Par défaut, un dispositif de reconnaissance faciale peut être mal disposé envers les personnes qui n’ont pas la peau blanche car les algorithmes qui ont été “formés” à la reconnaissance sur des banques d’images de visages majoritairement blancs ne “connaissent” pas bien les visages des personnes d’origine ethnique différente.
Ces biais ont déjà fait leur apparition dans les “automated assessments”, les évaluations automatisées que les juges d’application des peines aux États-Unis utilisent pour prendre leur décision sur une mise en liberté sous caution et pour une condamnation.
À terme, l’archivage en continu des images de reconnaissance faciale et les dispositifs qui vont naître autour peuvent altérer la nature même des interactions sociales.
Dissimuler permet de huiler les rouages de la vie quotidienne. Si votre partenaire était capable de repérer tous les bâillements d’ennui que vous réprimez, si votre patron pouvait lire vos mimiques d’irritation, les mariages et les relations professionnelles seraient certainement plus authentiques et certainement moins harmonieux.
Les fondations des interactions sociales peuvent en être transformées, d’un ensemble d’engagements fondé sur la confiance à un calcul risques/bénéfices tiré des informations données par un ordinateur sur le visage d’une personne. Les relations en sortiront éventuellement plus “rationnelles”, mais aussi plus “transactionnelles”.
Dans les démocraties, au moins, la législation peut équilibrer les conséquences, positives ou négatives. La Communauté européenne a instauré une série de principes de protection des données dans sa nouvelle législation. Elle stipule que les informations biométriques – qui donc comprendront les “faceprints” ou impressions faciales – appartiennent à leur propriétaire, et que leur utilisation est soumise à son consentement. En Europe, donc, contrairement à ce qui se passe en Amérique, Facebook ne pourra pas présenter des publicités pour des voitures à ces fameux visiteurs des salons automobiles. Un employeur européen qui analysera les visages des candidats à l’embauche s’exposera aux lois contre les discriminations. Les vendeurs de systèmes de reconnaissance faciale auront la possibilité de se soumettre à un audit pour prouver que leurs systèmes ne propagent pas involontairement des discriminations. Les entreprises qui utilisent ces logiciels seront tenues pour responsables.
Cependant, ces règles ne s’arrêteront pas le cours des choses. Les caméras se multiplient toujours plus avec l’augmentation des ventes des dispositifs portatifs. Les tentatives pour tromper les systèmes de reconnaissance faciale (comme des lunettes, des maquillages spéciaux) sont déjà caduques. Des recherches menées à l’université de Cambridge montrent que l’intelligence artificielle peut “reconstruire” les traits du visage d’une personne masquée et costumée.
Pour contrer son utilisation à mauvais escient dans les régimes politiques non démocratiques, Google a volontairement refusé le “matching” entre visage et état civil. Ses concurrents ne sont pas tous aussi vertueux. Amazon et Microsoft proposent tous deux à travers leurs services dans le cloud de la reconnaissance faciale. Elle est d’ailleurs au cœur des futurs projets de Facebook. Les gouvernements ne se priveront pas non plus très longtemps de ses services. Le changement est en marche. Faites face.
l'économiste