Tweet
Des chercheurs travaillant sur l’intelligence artificielle sont parvenus à faire communiquer deux ordinateurs dans une langue indéchiffrable par l’homme. Et ça peut faire froid dans le dos.
Alice, Bob et Eve sont des réseaux de neurones artificiels. Pour faire simple, des ordinateurs dotés d’une intelligence artificielle. Ils ont été développés par deux ingénieurs américains dans le cadre du programme de recherche « Google Brain ». Ce projet financé par le géant de l’Internet s’intéresse à la technologie du Deep Learning. Comprenez, tout ce qui porte sur l’apprentissage et la manière dont des ordinateurs peuvent évoluer de façon autonome grâce à des algorithmes.
Et c’est justement grâce à ces suites de chiffres que votre ordinateur est capable d’exécuter une tâche : comme ranger vos documents par ordre alphabétique ou par date, par exemple. Aujourd’hui, les ordinateurs sont devenus si complexes qu’ils sont désormais capables développer par eux-mêmes d’autres algorithmes.
Google Brain, vient de franchir un palier étonnant et quelque peu inquiétant.
Dans le cadre de la recherche sur le Deep Learning, le programme de recherche en intelligence artificielle du géant Google baptisé Google Brain a franchi un grand cap. En effet, les chercheurs sont parvenus à faire communiquer deux IA nommées Alice et Bob entre elles, alors que de son côté, une troisième IA du nom d’Eve avait pour but d’intercepter leurs communications.
Le but de l’expérience ? Alice et Bob devaient trouver un moyen de communiquer entre eux, sans que Eve ne puisse déchiffrer leurs échanges.
Alors qu’ils n’avaient mis aucun algorithme spécifique en place, les chercheurs ont constaté que ces deux ordinateurs ont sécurisé leurs communications par le biais d’un chiffrement qu’ils avaient eux-mêmes développé.
Si la troisième IA est parvenue à intercepter certaines communications, la majorité d’entre elles sont restées indéchiffrables. Ce n’est là qu’un début, mais cela donne une idée du futur des intelligences artificielles qui pourront ainsi être capables de communiquer dans un langage unique que nous ou d’autres ordinateurs ne pourrons peut-être pas déchiffrer.
Une avancée qui a également de quoi faire peur. De grands noms comme Bill Gates, Stephen Hawking qui décrit l’intelligence artificielle comme « soit la meilleure soit la pire chose jamais arrivée à l’humanité » ou encore Elon Musk ont déjà mis en garde contre les éventuels dangers de l’évolution des IA à l’avenir.
Certains ont d’ailleurs créé un groupement destiné à mettre en commun leurs avancées et réfléchir aux risques potentiels de leurs découvertes. Il s’agit de Partnership on AI qui regroupe 5 acteurs majeurs du web puisqu’il s’agit de représentants des compagnies Amazon, Google, Facebook, IBM et Microsoft.
Espritsciences
Alice, Bob et Eve sont des réseaux de neurones artificiels. Pour faire simple, des ordinateurs dotés d’une intelligence artificielle. Ils ont été développés par deux ingénieurs américains dans le cadre du programme de recherche « Google Brain ». Ce projet financé par le géant de l’Internet s’intéresse à la technologie du Deep Learning. Comprenez, tout ce qui porte sur l’apprentissage et la manière dont des ordinateurs peuvent évoluer de façon autonome grâce à des algorithmes.
Et c’est justement grâce à ces suites de chiffres que votre ordinateur est capable d’exécuter une tâche : comme ranger vos documents par ordre alphabétique ou par date, par exemple. Aujourd’hui, les ordinateurs sont devenus si complexes qu’ils sont désormais capables développer par eux-mêmes d’autres algorithmes.
Google Brain, vient de franchir un palier étonnant et quelque peu inquiétant.
Dans le cadre de la recherche sur le Deep Learning, le programme de recherche en intelligence artificielle du géant Google baptisé Google Brain a franchi un grand cap. En effet, les chercheurs sont parvenus à faire communiquer deux IA nommées Alice et Bob entre elles, alors que de son côté, une troisième IA du nom d’Eve avait pour but d’intercepter leurs communications.
Le but de l’expérience ? Alice et Bob devaient trouver un moyen de communiquer entre eux, sans que Eve ne puisse déchiffrer leurs échanges.
Alors qu’ils n’avaient mis aucun algorithme spécifique en place, les chercheurs ont constaté que ces deux ordinateurs ont sécurisé leurs communications par le biais d’un chiffrement qu’ils avaient eux-mêmes développé.
Si la troisième IA est parvenue à intercepter certaines communications, la majorité d’entre elles sont restées indéchiffrables. Ce n’est là qu’un début, mais cela donne une idée du futur des intelligences artificielles qui pourront ainsi être capables de communiquer dans un langage unique que nous ou d’autres ordinateurs ne pourrons peut-être pas déchiffrer.
Une avancée qui a également de quoi faire peur. De grands noms comme Bill Gates, Stephen Hawking qui décrit l’intelligence artificielle comme « soit la meilleure soit la pire chose jamais arrivée à l’humanité » ou encore Elon Musk ont déjà mis en garde contre les éventuels dangers de l’évolution des IA à l’avenir.
Certains ont d’ailleurs créé un groupement destiné à mettre en commun leurs avancées et réfléchir aux risques potentiels de leurs découvertes. Il s’agit de Partnership on AI qui regroupe 5 acteurs majeurs du web puisqu’il s’agit de représentants des compagnies Amazon, Google, Facebook, IBM et Microsoft.
Espritsciences
Commentaire