Tweet
A, L’AUBE D’UN MONDE NOUVEAU (1/5) - Dans son roman Le Mage du Kremlin comme dans son essai Les Ingénieurs du chaos, l’écrivain a mis en lumière le potentiel de déstabilisation des réseaux sociaux pour la démocratie. Un défi qui, selon lui, n’est rien comparé à ce qui nous attend à l’âge de l’intelligence artificielle. Avec ces nouvelles technologies, les possibilités de manipulation deviennent infinies. À terme, alerte-t-il, notre modèle politique et même notre conception de l’être humain sont menacés.
C’est le début d’une nouvelle ère. L’intelligence artificielle, qui a émergé avec le robot conversationnel ChatGPT et ses 200 millions d’utilisateurs, va bouleverser en profondeur nos sociétés. Pour le meilleur et pour le pire… Quelles seront les conséquences sur le monde du travail, la vie politique, le droit ou encore la création artistique? Nous avons demandé à des spécialistes: scientifique, écrivain, historien, économiste, juriste, qu’ils nous aident à penser cette révolution technologique en passe de changer le monde.
LE FIGARO. - L’intelligence artificielle peut-elle transformer en profondeur la démocratie? Est-elle déjà en train de le faire?
Giuliano DA EMPOLI. - À partir du moment où l’intelligence artificielle s’insinue dans les relations entre les gens et devient l’interface à travers laquelle chacun d’entre nous se rapporte au monde et aux autres, il est clair que cela produit un effet sur la démocratie. On parle beaucoup du rôle des réseaux sociaux, mais je pense que le phénomène est déjà beaucoup plus étendu. Le fait que chaque individu passe aujourd’hui une bonne partie de son temps devant un écran modifie non seulement la démocratie, mais l’expérience humaine elle-même. À la fin d’une journée, qu’avons-nous réellement vécu, si nous excluons les expériences médiatisées par l’écran?
L’usage des algorithmes d’apprentissage et des données massives à des fins de campagne marketing politique représente-t-il une menace?
Il est clair que l’utilisation des données offre aux campagnes politiques des possibilités sans précédent de s’adresser aux électeurs d’une manière totalement nouvelle. Déjà, aux États-Unis, les campagnes traditionnelles, au cours desquelles un candidat tentait simplement de convaincre les électeurs du bien-fondé de ses idées, n’existent plus. Désormais, les directeurs de campagne savent exactement quelle est l’orientation de chaque électeur. Ils s’efforcent donc de mobiliser ceux qu’ils savent acquis à leur cause, de démobiliser les opposants en les incitant à rester chez eux le jour du vote, et d’envoyer des messages sur mesure aux quelques électeurs indécis pour les faire basculer du bon côté, au bon moment. Les campagnes électorales deviennent des batailles de logiciels, autant que des batailles politiques. En Europe, la protection juridique des données personnelles est heureusement plus forte, mais les grandes tendances sont les mêmes.
Comme nous avons pu le voir récemment avec des photos truquées de Donald Trump notamment, l’IA est capable de fabriquer de toutes pièces des photos hyperréalistes. Va-t-on entrer dans une ère de manipulation des masses?
Aujourd’hui, il suffit de trois secondes audio d’une voix humaine pour synthétiser le reste et lui faire dire ce que l’on veut. Il en va de même pour les images et les vidéos. Les possibilités de manipulation deviennent alors infinies. À terme, on peut imaginer que la possibilité de manipuler, ou même de créer de toutes pièces n’importe quelle image ou vidéo, va changer notre relation avec les supports audiovisuels en installant une forme de scepticisme généralisé. Chacun ne s’appuiera plus que sur des sources d’information qu’il considère lui-même comme fiables, mais ces sources suivront des normes et des orientations très différentes: certaines adhéreront aux règles de la déontologie journalistique, d’autres non. Nous aurons donc une myriade de «producteurs de réalité» qui se contrediront systématiquement. Un peu comme ce qui se passe déjà aujourd’hui avec des médias et des sites d’orientations différentes, mais avec l’appui de supports audiovisuels, vrais ou faux, conçus pour générer un maximum d’émotion.
Dans votre essai Les Ingénieurs du chaos comme dans votre roman Le Mage du Kremlin, vous montrez comment les «leaders populistes» ont utilisé les algorithmes pour déstabiliser leur société. Ces nouvelles technologies accentuent-elles la fragmentation de la société, en particulier dans les démocraties occidentales?
On touche ici au cœur du problème. Il n’y a pas que les fake news ou les «deepfakes» qui vont prochainement envahir nos écrans. Le vrai problème, c’est la pondération. Dans un monde où l’information est surabondante, les algorithmes qui gouvernent les nouveaux médias font que chacun ne voit que la partie de la réalité qui confirme ses opinions. Peu importe que ces informations soient vraies ou fausses. Elles peuvent même être toutes réelles, il y en a tellement! L’essentiel est le poids relatif que vous accordez à ces faits, et le résultat est que la vieille phrase «vous avez droit à vos propres opinions, mais pas à vos propres faits» n’est plus valable. Désormais, chacun a le droit d’avoir ses propres opinions, mais aussi ses propres faits. Et, d’ailleurs, cela ne vaut pas que pour les électeurs trumpistes de l’Amérique profonde ou pour les partisans des nationaux-populistes en Europe. C’est valable pour tout le monde: les universitaires progressistes sur les campus, les figures de l’establishment, M. et Mme Tout-le-Monde… À moins que nous ne fassions des efforts conscients et constants pour nous exposer à des points de vue radicalement différents. L’IA va renforcer ce phénomène, car elle sera bien meilleure que les vieux algorithmes pour satisfaire nos préférences et exploiter nos passions. Elle fournira un contenu de plus en plus personnalisé - sur mesure pour chacun d’entre nous - et complètement immersif.
Durant les émeutes de banlieue, Emmanuel Macron a évoqué l’idée de couper les réseaux sociaux. N’était-ce pas une manière de briser le thermomètre?
Les réseaux sociaux sont des outils conçus pour générer et multiplier les émotions, à l’instar d’une épidémie ou d’un feu de forêt. Il est compréhensible que, lorsque les émotions se traduisent par de la violence physique, l’un des remèdes envisagés par les autorités soit de les couper. C’est d’ailleurs ce qui se pratique dans certains pays, comme l’Inde et l’Iran. L’utilisation d’un tel instrument dans un pays comme la France semble plus compliquée. Ce qu’il faut faire, c’est rendre le fonctionnement des réseaux sociaux compatible avec les principes de base d’une démocratie libérale. Ce qui n’est pas le cas aujourd’hui.
À terme, nos sociétés de plus en plus morcelées peuvent-elles rester démocratiques? Ce morcellement n’est-il pas d’abord le fruit de notre modèle consumériste et individualiste avant d’être celui des nouvelles technologies ou des «populistes»?
Bien sûr, les nouvelles technologies ne font que renforcer des dynamiques déjà présentes dans la société et l’économie. Elles ne créent pas à partir de rien, mais elles constituent un accélérateur et un multiplicateur de tendances très puissants. À tel point que, dans de nombreux cas, elles rendent insolubles des problèmes qui, en réalité, pourraient très bien être résolus. Nos sociétés sont confrontées à des défis considérables, mais le climat d’hystérie qui règne dans l’espace public, alimenté par l’écosystème des nouveaux médias, les rend encore plus difficiles à relever. Il en va de même pour les «populistes». Il est clair qu’ils ne sont pas la cause, mais plutôt le symptôme des problèmes et des fractures qui traversent notre société. Mais, par leurs actions, ils ne font que les exacerber au lieu d’apporter une solution.
Dans les dictatures, l’intelligence artificielle permet-elle au contraire d’accentuer la verticalité du pouvoir et de mieux contrôler la société? Est-ce déjà le cas en Chine? Qu’en est-il en Russie?
L’intelligence artificielle, dont le fonctionnement repose sur l’accumulation d’une masse insensée de données, est en soi un formidable outil de concentration du pouvoir entre les mains de ceux qui sont capables de contrôler et d’utiliser ces données. Cela est vrai tant dans les systèmes démocratiques, où les données sont à ce stade principalement concentrées dans des mains privées, que dans les systèmes autoritaires, où les données sont contrôlées par l’État. La Chine, bien plus que la Russie, est aujourd’hui l’exemple le plus impressionnant, et le plus inquiétant, de la manière dont les nouvelles technologies peuvent être utilisées pour créer une dictature parfaite. Ce n’est pas une coïncidence si, il y a quelques années, les manifestants prodémocratie à Hongkong visaient les «lampadaires intelligents» installés par le régime dans les rues de l’ancienne colonie britannique.
«Le parti communiste chinois et la Silicon Valley travaillent à un avenir post-humain», avez-vous écrit dans la revue Le Grand Continent. C’est une alliance inattendue. Qu’entendez-vous par-là?
Pendant la guerre froide, deux conceptions opposées de l’être humain se faisaient face: d’une part l’individu capitaliste, libre d’assouvir ses instincts et ses envies, et d’autre part le nouvel homme communiste, tenu de faire passer le bien-être collectif avant ses propres intérêts immédiats. Aujourd’hui, on parle d’une nouvelle guerre froide, mais Google et le Parti communiste chinois ont exactement la même conception de l’homme: celle d’un individu dont le comportement et les aspirations peuvent être entièrement ramenés à une suite de chiffres et régis par des algorithmes de plus en plus sophistiqués. La finalité est différente - le profit pour Google et le contrôle politique pour le PCC -, mais les outils et la vision de la société sont exactement les mêmes.
C’est le début d’une nouvelle ère. L’intelligence artificielle, qui a émergé avec le robot conversationnel ChatGPT et ses 200 millions d’utilisateurs, va bouleverser en profondeur nos sociétés. Pour le meilleur et pour le pire… Quelles seront les conséquences sur le monde du travail, la vie politique, le droit ou encore la création artistique? Nous avons demandé à des spécialistes: scientifique, écrivain, historien, économiste, juriste, qu’ils nous aident à penser cette révolution technologique en passe de changer le monde.
LE FIGARO. - L’intelligence artificielle peut-elle transformer en profondeur la démocratie? Est-elle déjà en train de le faire?
Giuliano DA EMPOLI. - À partir du moment où l’intelligence artificielle s’insinue dans les relations entre les gens et devient l’interface à travers laquelle chacun d’entre nous se rapporte au monde et aux autres, il est clair que cela produit un effet sur la démocratie. On parle beaucoup du rôle des réseaux sociaux, mais je pense que le phénomène est déjà beaucoup plus étendu. Le fait que chaque individu passe aujourd’hui une bonne partie de son temps devant un écran modifie non seulement la démocratie, mais l’expérience humaine elle-même. À la fin d’une journée, qu’avons-nous réellement vécu, si nous excluons les expériences médiatisées par l’écran?
L’usage des algorithmes d’apprentissage et des données massives à des fins de campagne marketing politique représente-t-il une menace?
Il est clair que l’utilisation des données offre aux campagnes politiques des possibilités sans précédent de s’adresser aux électeurs d’une manière totalement nouvelle. Déjà, aux États-Unis, les campagnes traditionnelles, au cours desquelles un candidat tentait simplement de convaincre les électeurs du bien-fondé de ses idées, n’existent plus. Désormais, les directeurs de campagne savent exactement quelle est l’orientation de chaque électeur. Ils s’efforcent donc de mobiliser ceux qu’ils savent acquis à leur cause, de démobiliser les opposants en les incitant à rester chez eux le jour du vote, et d’envoyer des messages sur mesure aux quelques électeurs indécis pour les faire basculer du bon côté, au bon moment. Les campagnes électorales deviennent des batailles de logiciels, autant que des batailles politiques. En Europe, la protection juridique des données personnelles est heureusement plus forte, mais les grandes tendances sont les mêmes.
Comme nous avons pu le voir récemment avec des photos truquées de Donald Trump notamment, l’IA est capable de fabriquer de toutes pièces des photos hyperréalistes. Va-t-on entrer dans une ère de manipulation des masses?
Aujourd’hui, il suffit de trois secondes audio d’une voix humaine pour synthétiser le reste et lui faire dire ce que l’on veut. Il en va de même pour les images et les vidéos. Les possibilités de manipulation deviennent alors infinies. À terme, on peut imaginer que la possibilité de manipuler, ou même de créer de toutes pièces n’importe quelle image ou vidéo, va changer notre relation avec les supports audiovisuels en installant une forme de scepticisme généralisé. Chacun ne s’appuiera plus que sur des sources d’information qu’il considère lui-même comme fiables, mais ces sources suivront des normes et des orientations très différentes: certaines adhéreront aux règles de la déontologie journalistique, d’autres non. Nous aurons donc une myriade de «producteurs de réalité» qui se contrediront systématiquement. Un peu comme ce qui se passe déjà aujourd’hui avec des médias et des sites d’orientations différentes, mais avec l’appui de supports audiovisuels, vrais ou faux, conçus pour générer un maximum d’émotion.
Dans votre essai Les Ingénieurs du chaos comme dans votre roman Le Mage du Kremlin, vous montrez comment les «leaders populistes» ont utilisé les algorithmes pour déstabiliser leur société. Ces nouvelles technologies accentuent-elles la fragmentation de la société, en particulier dans les démocraties occidentales?
On touche ici au cœur du problème. Il n’y a pas que les fake news ou les «deepfakes» qui vont prochainement envahir nos écrans. Le vrai problème, c’est la pondération. Dans un monde où l’information est surabondante, les algorithmes qui gouvernent les nouveaux médias font que chacun ne voit que la partie de la réalité qui confirme ses opinions. Peu importe que ces informations soient vraies ou fausses. Elles peuvent même être toutes réelles, il y en a tellement! L’essentiel est le poids relatif que vous accordez à ces faits, et le résultat est que la vieille phrase «vous avez droit à vos propres opinions, mais pas à vos propres faits» n’est plus valable. Désormais, chacun a le droit d’avoir ses propres opinions, mais aussi ses propres faits. Et, d’ailleurs, cela ne vaut pas que pour les électeurs trumpistes de l’Amérique profonde ou pour les partisans des nationaux-populistes en Europe. C’est valable pour tout le monde: les universitaires progressistes sur les campus, les figures de l’establishment, M. et Mme Tout-le-Monde… À moins que nous ne fassions des efforts conscients et constants pour nous exposer à des points de vue radicalement différents. L’IA va renforcer ce phénomène, car elle sera bien meilleure que les vieux algorithmes pour satisfaire nos préférences et exploiter nos passions. Elle fournira un contenu de plus en plus personnalisé - sur mesure pour chacun d’entre nous - et complètement immersif.
Durant les émeutes de banlieue, Emmanuel Macron a évoqué l’idée de couper les réseaux sociaux. N’était-ce pas une manière de briser le thermomètre?
Les réseaux sociaux sont des outils conçus pour générer et multiplier les émotions, à l’instar d’une épidémie ou d’un feu de forêt. Il est compréhensible que, lorsque les émotions se traduisent par de la violence physique, l’un des remèdes envisagés par les autorités soit de les couper. C’est d’ailleurs ce qui se pratique dans certains pays, comme l’Inde et l’Iran. L’utilisation d’un tel instrument dans un pays comme la France semble plus compliquée. Ce qu’il faut faire, c’est rendre le fonctionnement des réseaux sociaux compatible avec les principes de base d’une démocratie libérale. Ce qui n’est pas le cas aujourd’hui.
À terme, nos sociétés de plus en plus morcelées peuvent-elles rester démocratiques? Ce morcellement n’est-il pas d’abord le fruit de notre modèle consumériste et individualiste avant d’être celui des nouvelles technologies ou des «populistes»?
Bien sûr, les nouvelles technologies ne font que renforcer des dynamiques déjà présentes dans la société et l’économie. Elles ne créent pas à partir de rien, mais elles constituent un accélérateur et un multiplicateur de tendances très puissants. À tel point que, dans de nombreux cas, elles rendent insolubles des problèmes qui, en réalité, pourraient très bien être résolus. Nos sociétés sont confrontées à des défis considérables, mais le climat d’hystérie qui règne dans l’espace public, alimenté par l’écosystème des nouveaux médias, les rend encore plus difficiles à relever. Il en va de même pour les «populistes». Il est clair qu’ils ne sont pas la cause, mais plutôt le symptôme des problèmes et des fractures qui traversent notre société. Mais, par leurs actions, ils ne font que les exacerber au lieu d’apporter une solution.
Dans les dictatures, l’intelligence artificielle permet-elle au contraire d’accentuer la verticalité du pouvoir et de mieux contrôler la société? Est-ce déjà le cas en Chine? Qu’en est-il en Russie?
L’intelligence artificielle, dont le fonctionnement repose sur l’accumulation d’une masse insensée de données, est en soi un formidable outil de concentration du pouvoir entre les mains de ceux qui sont capables de contrôler et d’utiliser ces données. Cela est vrai tant dans les systèmes démocratiques, où les données sont à ce stade principalement concentrées dans des mains privées, que dans les systèmes autoritaires, où les données sont contrôlées par l’État. La Chine, bien plus que la Russie, est aujourd’hui l’exemple le plus impressionnant, et le plus inquiétant, de la manière dont les nouvelles technologies peuvent être utilisées pour créer une dictature parfaite. Ce n’est pas une coïncidence si, il y a quelques années, les manifestants prodémocratie à Hongkong visaient les «lampadaires intelligents» installés par le régime dans les rues de l’ancienne colonie britannique.
«Le parti communiste chinois et la Silicon Valley travaillent à un avenir post-humain», avez-vous écrit dans la revue Le Grand Continent. C’est une alliance inattendue. Qu’entendez-vous par-là?
Pendant la guerre froide, deux conceptions opposées de l’être humain se faisaient face: d’une part l’individu capitaliste, libre d’assouvir ses instincts et ses envies, et d’autre part le nouvel homme communiste, tenu de faire passer le bien-être collectif avant ses propres intérêts immédiats. Aujourd’hui, on parle d’une nouvelle guerre froide, mais Google et le Parti communiste chinois ont exactement la même conception de l’homme: celle d’un individu dont le comportement et les aspirations peuvent être entièrement ramenés à une suite de chiffres et régis par des algorithmes de plus en plus sophistiqués. La finalité est différente - le profit pour Google et le contrôle politique pour le PCC -, mais les outils et la vision de la société sont exactement les mêmes.
Commentaire