© Facebook Artificial Intelligence Research

Deux IA de Facebook ont crée leur propre langage : ce n’est pas la première fois.

Partagez !

Une vague de panique a inondé l’Internet ces derniers jours. La raison ? Deux ordinateurs ont commencé une conversation entre eux dans un langage crypté. Les chercheurs de Facebook Artificial Intelligence Research ont construit un « chatbot » au début de cette année, avec l’intention de lui enseigner à faire des négociations par imitation des humains. Les chercheurs ont connecté deux « chatbots », dénommés Alice et Bob (comme ceux de Google Brain), pour les faire négocier entre eux et faire le troc des petits articles (3 balles, 1 chapeaux et 2 livres). Les agents devaient attribuer une valeur à chaque article ; aucun agent ne connaissait les valeurs de l’autre et devait le déduire du dialogue. Si un agent mettait fin à la négociation, ou s’ils ne trouvaient pas d’accord après une dizaine d’échanges, les deux agents terminaient sans aucun point. Ce type de programme fonctionne par récompense, ce qui lui donne un objectif à atteindre. Comme il n’y avait pas de récompense pour se communiquer en anglais ils ont optimisé les ressources du langage, en créant un « nouveau » langage tiré de l’anglais. D’après les chercheurs de FAIR, cette déviation du langage peut indiquer « différentes décisions stratégiques sur ce qu’il faut dire ». Certains médias ont affirmé que les ordinateurs ont été « débranchés » après cette conversation bizarre en langage inconnu, il y a eu une foule de craintes, mais Dhruv Batra chercheur en Intelligence Artificiel à FAIR explique dans un message en ligne : « Analyser cette fonction de récompense et changer les paramètres d’une expérience n’est PAS la même chose que « débrancher » ou « mettre fin à une IA ». Ce n’est pas la première fois que l’IA développe son propre langage. En 2011 l’Université de Queensland en Australie, a créé les Lingodroids, des robots à auto-apprentissage capables de générer des sons pour désigner les lieux qu’ils visitaient dans deux simulations et dans un vrai bureau. Ces robots ont été équipés avec une camera, un sonar et un viseur laser de grande portée pour faire le mapping du lieu, un microphone et haut-parleurs pour se communiquer entre eux. Ces deux machines ont produit leurs propres mots car le langage humain est très chargé et difficile à comprendre pour eux ; « Robot-robot langage laisse les humains hors du circuit. Cela est important parce que démontre qu’ils sont capables de comprendre le sens des mots qu’ils ont crée indépendamment des humains  » avait affirmé à ce moment-là la Docteur Ruth Schulz leader de ce projet. Au début de novembre 2016, le programme de recherche sur le Deep Learning de Google Brain, a franchi les seuils de la science-fiction. La recherche était centrée sur la manière dont des ordinateurs peuvent évoluer de façon autonome à partir des algorithmes. Les ordinateurs nommés Alice, Bob et Eve avaient des rôles spécifiques : les deux premiers devaient se communiquer entre eux et le troisième intercepter leurs communications. Alice et Bob ont réussi à créer un langage chiffré, et la troisième IA a intercepté certaines communications mais la plupart sont restées indéchiffrables. Ces résultats concrets des différentes expériences nous permettent d’entrevoir un futur où les IA pourront se communiquer dans un langage unique crypté, indéchiffrable pour l’homme et pour des autres machines.

THE TELEGRAPH, LE MONDE, BBC, le mardi 01 août 2017 »