Il a été démontré que le nouveau supercalculateur d’intelligence artificielle d’IBM s’attaquait à l’être humain et, selon ses créateurs, «gagnait».
Nommé Project Debater, l'intelligence artificielle «troublante» a été opposée à deux humains lors de la première démonstration publique de ses capacités lors d'un événement à San Francisco.
Il a concouru dans ce que l’on appelle l’argumentation informatique, où les débatteurs connaissent un sujet, présentent une position et le défendent contre une opposition.
L'ordinateur a présenté sa plaidoirie d'ouverture en tirant des preuves de sa vaste base de données, principalement composée d'articles de journaux et de revues.
Il a ensuite écouté le contre-argument d’un débattre humain professionnel et a passé quatre minutes à le réfuter.
Bien que la foule ait convenu que les êtres humains étaient inégalés dans la livraison, il a décidé que la machine avait de meilleurs arguments avec plus de substance.
Cependant, beaucoup de ses réponses ont été plagiées avec des phrases complètes extraites de sources connues, posant ainsi la question de l’intelligence de l’intelligence artificielle.
Faites défiler pour la vidéo
IBM Project Debater rassemble des informations à partir de millions d'articles de journaux et de magazines enregistrés dans sa base de données pour engager une discussion longue sur un sujet donné.
Le système d’intelligence artificielle d’IBM n’est pas connecté à Internet, mais utilise plutôt des centaines de millions d’articles de journaux et de magazines sur «environ 100 domaines de la connaissance» sur lesquels l’intelligence artificielle peut s'appuyer pour développer son argumentation.
Au cours du débat en direct, IBM Project Debater a également articulé le mot «voix off» au milieu d'une phrase, suggérant que les transcriptions vidéo sont également en cours de catégorisation et utilisées dans sa base de données d'informations.
Selon le Dr. Noam Slonim, chercheur principal du projet IBM pour Project Debator, l'ordinateur n'est pas conçu pour régurgiter l'intégralité de son argument à partir d'une source unique.
S'exprimant dans l'émission Today de BBC Radio 4, le Dr Slonim a déclaré: "Il ne s'agit pas de copier un article entier, ni même de copier un paragraphe entier, cela consiste à sélectionner des phrases uniques – et dans certains cas seulement des clauses – tirées de nombreux articles différents, ensuite, il se combine pour former un récit cohérent et persuasif ».
Cependant, Ranit Aharanov, responsable de Project Debater, a admis que si la formulation de certains arguments vous semble familière, c'est parce que l'IA a levé un argument en gros à partir des sources.
"Beaucoup de contenu que vous voyez est en fait des phrases tirées de sources, comme des journaux", a déclaré Aharanov à VentureBeat.
«Ils sont reformulés de différentes manières pour les rendre plus cohérents, les aligner les uns avec les autres, ajouter parfois des informations sur la personne mentionnée, etc., de sorte qu'il existe un phrasé, mais il est en grande partie pris tel quel. '
Un exemple de cela est apparu au cours du débat lorsque la machine alimentée par l’IA a fait valoir qu ’« avoir un programme d’exploration spatiale est un élément essentiel d’être une grande puissance ».
Ce libellé exact n’est apparu qu’une seule fois auparavant, quand il a été utilisé dans un article de Mark Whittington, contributeur du Wall Street Journal, dans son article sur le plan du Japon visant à faire atterrir les gens sur la lune.
Afin de s’assurer que le débat qui en résulte est convaincant, IBM a également programmé l’IA pour ajouter des blagues à son récit afin de divertir la foule.
Lors de sa réfutation, la machine est également conçue pour suggérer que son adversaire a menti lors de leur discussion.
Il s'agit d'une technique utilisée par les humains pour distraire les utilisateurs lorsqu'ils ne disposent pas d'un argument solide, ce que l'équipe d'IBM a voulu reproduire avec la machine.
La machine actionnée par l'intelligence artificielle devait faire un discours introductif de quatre minutes, réfuter quatre minutes les arguments du débatteur expérimenté et terminer par une déclaration de clôture de deux minutes sur le sujet.
Au cours de la première présentation de la technologie, deux débats ont été présentés sur scène: que le gouvernement subventionne ou non l'exploration spatiale et que le recours à la télémédecine soit accru.
IBM Project Debater était opposé aux débatteurs humains Noa Ovadia et Dan Zafrir, qui avaient chacun pris les rênes pour l'un des débats.
Dans les deux cas, le public a estimé que la machine avait surperformé dans sa capacité à présenter un corpus d'informations plus large dans son argumentation.
Cependant, les êtres humains ont été universellement jugés meilleurs dans leurs discours sur scène.
En fin de compte, IBM Debater n'a pas pu convaincre l'auditoire de se rallier à son argument dans le débat sur l'opportunité de subventionner l'exploration spatiale.
Mais la machine a remporté le deuxième débat, convaincant plus de membres du public avec ses arguments sur l'utilisation de la télémédecine que son adversaire humain.
IBM n'a pas enseigné à son IA à juger de la fiabilité des informations sur lesquelles elle s'appuie, ce qui, selon les critiques, pourrait amener la machine à utiliser des sources biaisées pour faire valoir son argument.
Brhmie Balaram, chercheuse principale à la Royal Society pour encourager les Arts, les Manufactures et le Commerce (RSA), a déclaré au programme Today que cette approche du débat sur l’IA suscitait des "préoccupations éthiques".
«Il s’agit de déterminer quel type d’information il analyse.
"Beaucoup de gens s'inquiètent de ce que les données qui entrent dans ces machines peuvent être biaisées, et donc, il y a des préoccupations éthiques. Mais aussi, d'où proviennent ces données? S’il s’agit de soins de santé, la protection de la vie privée suscite des préoccupations. »
Cependant, l'équipe derrière IBM Debater estime que la capacité de la machine à argumenter les deux côtés du débat signifie que celle-ci ne peut jamais être perçue comme biaisée.
"L’ordinateur est certainement moins biaisé que les humains", a déclaré le Dr Slonim.
«L’ordinateur peut plaider en faveur de ces deux positions, c’est donc un point important.
«La seconde est que, [the computer] peut nous aider à prendre des décisions plus éclairées. Disons que nous discutons ou ne légalisons pas le cannabis – un sujet auquel j'ai récemment pensé.
'Si nous débattons de ce sujet, nous avons évidemment besoin de la technologie qui pourra nous suggérer rapidement: quelles sont les revendications pertinentes formulées par les gens à ce sujet, quelles sont les preuves pertinentes qu'ils suggèrent en ce qui concerne à ces revendications?
IBM espère que le projet finira par être utilisé pour aider à présenter un argument fondé sur des preuves sur un sujet qui élimine tout biais, toute émotion ou toute ambiguïté.
Ces arguments peuvent être utilisés pour aider les humains à prendre des décisions difficiles lorsqu'il n'y a pas de réponse en noir et blanc.
À l'instar des participants humains, la machine n'avait aucune connaissance préalable du sujet du débat. Sur la photo, Noam Slonim, un chercheur d’IBM
Lors du débat en direct sur l'espace, la machine a déclaré que l'exploration spatiale était bénéfique pour l'économie. Sur la photo, Hayah Eichler, une intervenante professionnelle qui a déjà débattu avec IBM Project Debater
Brhmie Balaram, de la RSA, a suggéré que IBM Project Debater soit déployé pour aider à prendre des décisions critiques dans des secteurs tels que les soins de santé, la justice pénale, ainsi que l'embauche et le licenciement en milieu de travail.
Si cela se produit, Balaram pense que le public sera effrayé par le manque de participation humaine.
"Ce que veulent les humains, c’est un humain de plus dans la boucle", at-elle confié à BBC Radio 4.
«Ils ne veulent pas seulement que la machine prenne toute seule une décision concernant une prédiction, ils veulent qu'un humain soit là pour pouvoir en tenir compte dans le cadre d'un certain nombre d'autres facteurs qu'ils utilisent pour prendre une décision. '
Le projet Debater est toujours un projet de recherche. Cependant, la société affirme qu'une partie de la technologie sur laquelle repose le nouveau système a déjà commencé à s'infiltrer dans d'autres projets IBM.
IBM n’est pas étranger aux démonstrations publiques de ce qu’elle prétend être une intelligence artificielle supérieure.
La société basée à Armonk a fait ses débuts en supercalculateur Watson en écrasant des concurrents humains sur le jeu télévisé américain Jeopardy, en 2011. Avant cela, son système Deep Blue battait le champion du monde d’échecs Garry Kasparov.
COMMENT APPREND L'INTELLIGENCE ARTIFICIELLE?
Les systèmes d'IA reposent sur des réseaux de neurones artificiels (RNA), qui tentent de simuler le fonctionnement du cerveau pour apprendre.
Les ANN peuvent être formés à la reconnaissance des caractéristiques de l’information – y compris la parole, les données textuelles ou les images visuelles – et sont à la base d’un grand nombre de développements de l’IA au cours des dernières années.
L'intelligence artificielle conventionnelle utilise des entrées pour «enseigner» un algorithme sur un sujet particulier en lui fournissant des quantités énormes d'informations.
Les systèmes d'IA reposent sur des réseaux de neurones artificiels (RNA), qui tentent de simuler le fonctionnement du cerveau pour apprendre. Les ANN peuvent être formés à reconnaître des modèles d'informations, notamment des paroles, des données textuelles ou des images.
Les applications pratiques comprennent les services de traduction linguistique de Google, le logiciel de reconnaissance faciale de Facebook et les filtres en direct de modification d'images de Snapchat.
Le processus de saisie de ces données peut prendre énormément de temps et se limite à un type de connaissance.
Une nouvelle génération de RNA appelée Adversarial Neural Networks oppose l’esprit de deux bots IA, ce qui leur permet d’apprendre l’un de l’autre.
Cette approche est conçue pour accélérer le processus d'apprentissage et affiner le résultat créé par les systèmes d'intelligence artificielle.
