Intelligence artificielle, vraiment intelligente ?
Les émissions de télé-réalité vivent leurs derniers moments. Que Nabilla, Loana et autres, participant aux Princes de l’amour en profitent… car ils vont bientôt être remplacés par plus intelligents qu’eux, c’est-à-dire par Watson, un système informatique mis au point par IBM qui remporta en 2011 le jeu Jeopardy (sorte de Question pour un champion de la télévision américaine.).
Cela fait quelques années maintenant que nous entendons parler d’ “intelligence artificielle” pour désigner des machines à calculer de plus en plus performantes, capables de répondre à des questions de plus en plus complexes et qui semblent en tout cas plus rationnelles que certaines créatures que l’on voit sur nos petits écrans (et qui croient que plusieurs lunes existent, puisqu’on peut les voir en même temps à deux endroits différents de la terre (Les Marseillais à Rio, avril 2014 !)). Mais pour répondre à cela, il faut encore définir ce qu’est l’intelligence – impossible en si peu de lignes, ou ce qu’on appelle intelligence artificielle lorsqu’on décrit l’activité d’un ordinateur.
Un ordinateur réalise un certain nombre d’activités prévues par son programme. La théorie de cette forme d’intelligence date du 18e siècle, avec le philosophe allemand Leibniz (1646/1716) qui – théoriquement – avait mis au point un calculus rationator mettant en parallèle un nombre et un concept (ou une activité). En combinant les nombres entre eux, on pouvait réussir à créer un langage universel qui pouvait permettre toutes les activités. Au 20e siècle Alan Turing, rendu dernièrement célèbre grâce à un film qui raconte son épopée durant la Seconde Guerre mondiale, écrivit un article fondateur de l’informatique, appelé On Computable Numbers, with an Application to the Entscheidungsproblem, qui schématise l’activité de ce langage universel : il décrivit comment un calculateur fonctionne grâce à quatre éléments très simples : un ruban constitué de cases (symbolisant un alphabet simple et fini, du type carré blanc, bleu, noir, rouge, etc., chaque couleur ayant un sens donné), une tête de lecture, une mémoire et une table d’action indiquant à l’ordinateur ce qu’il doit faire en rencontrant chaque couleur. Cette machine est elle aussi dite “universelle”, c’est-à-dire qu’elle décrit ce que tous les ordinateurs du monde font actuellement, ni plus ni moins, et ce, quelle que soit leur capacité de calcul et de mémorisation. Turing inventa là la définition de l’algorithme, qui n’est rien d’autre qu’une procédure mécanique.
En 1950 le même Turing dans une autre publication elle aussi devenue célèbre (dans les milieux autorisés), le Computing Machinery and Intelligence, proposa un test qui porte également son nom : on met en conversation un ordinateur et un grand nombre de personnes, et on vérifie si les volontaires humains réussissent à deviner si c’est un ordinateur qui leur parle (avec des phrases simples). Ce test ne joue donc pas sur les capacités calculatoires de l’ordinateur, mais sa maîtrise de la sémantique, c’est-à-dire le sens qu’il donne à ses paroles (ce que nous faisons tous, volontairement ou involontairement). Donner du sens à ses paroles uniquement grâce à des calculs, ce serait extraordinaire car les ordinateurs pourraient alors devenir autonomes, mais cela impliquerait aussi que la pensée humaine pourrait se réduire à de simples calculs binaires, à un simple traitement de l’information ; ce qui pour le moins ôte un peu de poésie à notre génie… Or un programme informatique dénommé Eugène Goostman, mis au point par une équipe russe, aurait réussi le test à la Royal Society de Londres le 06 juin 2014. Grand bruit dans les milieux informatiques, et la presse s’est faite l’écho de cette réussite, comme si c’était un premier pas vers l’intelligence artificielle.
Mais voyons précisément ce qu’il en est : ce programme se faisait passer pour un jeune adolescent (13 ans) d’origine ukrainienne qui répondait à des questions posées en anglais – d’où ses hésitations et ses fautes de frappe lors de ses réponses. Et 33% des personnes qui conversaient avec lui n’ont pas deviné qu’il s’agissait d’un programme informatique. Il a fait illusion ! Le test semble avoir réussi. Mais cela ne répond pas à la question essentielle : peut-on dire pour autant qu’un ordinateur pense comme un être humain ?
Pour répondre à cette question, il faut se demander si l’ordinateur donne du sens à ce qu’il dit (ou ce qu’il écrit), ou s’il se contente de répondre à des stimulations, avec des phrases plus ou moins appropriées. Ce qui n’est pas du tout la même chose. Pour faire la différence, il y a une autre expérience à réaliser, celle dite de la chambre chinoise imaginée en 1980 par le philosophe américain John Searle (né en 1932) : supposez que vous êtes enfermé dans une prison chinoise, avec un panier contenant des caractères de l’alphabet chinois et une grammaire de mandarin, vous expliquant comment ordonner les symboles pour répondre à des messages venant de l’extérieur. Selon John Searle, même si vous ne comprenez rien au chinois, vous pouvez apporter des réponses cohérentes en suivant les instructions du livre, et faire ainsi illusion : le gardien vous demande ce que vous voulez manger, et sans le savoir vous répondez que vous voulez une soupe aux cafards…
Mieux, un ordinateur est également capable de produire le même stratagème, c’est-à-dire répondre à ces questions simples, pour peu qu’il ait les réponses en mémoire, ou l’algorithme nécessaire pour construire ses réponses. Mais cela ne veut en aucun cas dire qu’il comprend ce qu’il répond (qu’il y apporte un sens), ou même qu’il sait qu’il répond. Imaginez-vous à nouveau dans votre prison chinoise. Votre geôlier vous envoie le message suivant : voulez-vous vous marier avec moi. Et vous répondez, sans le savoir, « oui, avec plaisir mon amour »…
Penser suppose donc deux éléments fondamentaux : d’abord donner et maîtriser le sens de vos phrases. Et ensuite avoir conscience que vous parlez et à qui vous parlez. Le test de Turing est très loin de répondre à ces deux exigences. Même le célèbre ordinateur Deep Blue qui a battu le champion du monde aux échecs (en 1997) ne savait pas qu’il jouait aux échecs. Il n’a fait qu’appliquer un programme de calculs extrêmement performants. Son adversaire humain, Garry Kasparov, a su lui, qu’il perdait, et il y a donné du sens : celui de l’humiliation, de l’amertume, ou de l’admiration pour les calculs opératoires de son adversaire.
Si nous voulions résumer, l’ordinateur ne pense pas. Il calcule et ajuste des réponses qu’il connaît déjà pour répondre à une série de situations. Mais il ne peut pas improviser, avoir une réaction spontanée, et encore moins faire un calembour auquel personne ne s’attend. Le mystère de l’intelligence humaine est encore loin d’être percé. Celui de la fascination pour la bêtise des télé-réalités également…
Par Christophe Gallique
