Le paradoxe du menteur à l’ère de l’IA

Il existe un vieux problème philosophique appelé le paradoxe du menteur.

« Cette phrase est fausse. »

Si cette phrase est vraie, alors, conformément à ce qu’elle affirme, elle est fausse. Inversement, si elle est fausse, ce qu’elle affirme est incorrect, et elle devient donc vraie. Quelle que soit la valeur de vérité que nous lui attribuons, une contradiction apparaît. En réfléchissant à ce problème, je me suis demandé ce qui se passerait si nous sortions de la phrase elle-même pour l’observer de l’extérieur. Peut-être le problème vient-il du fait que nous essayons de déterminer le vrai et le faux à l’intérieur de la phrase. Celui qui observe la phrase de l’extérieur peut distinguer sa structure de la contradiction qu’elle produit et porter un jugement. Bien entendu, observer la phrase de l’extérieur ne résout pas la contradiction qu’elle contient. Cela signifie que nous pouvons distinguer le niveau du langage dans lequel une phrase est formulée de celui du langage employé pour juger si cette phrase est vraie ou fausse.

Divers philosophes et logiciens ont proposé différentes méthodes pour résoudre le paradoxe du menteur. Alfred Tarski a distingué le langage dans lequel une phrase est formulée du langage utilisé pour juger de sa vérité ou de sa fausseté, en les plaçant à des niveaux différents. Cette méthode ressemble à l’idée de l’observateur extérieur qui m’était d’abord venue à l’esprit, mais elle ne consiste pas simplement à déplacer la position de l’observateur : elle repose sur une distinction rigoureuse des structures logiques du langage. Saul Kripke a considéré qu’il n’était pas nécessaire d’attribuer à toute phrase une valeur de vérité, vraie ou fausse. Dans des cas comme celui de la phrase du menteur, où aucune valeur de vérité cohérente ne peut être attribuée, cette valeur peut rester indéterminée.

Ce qui m’a particulièrement intéressé, c’est la théorie de la révision de la vérité, dans laquelle on réévalue les valeurs de vérité de manière répétée. Si nous jugeons que la phrase du menteur est vraie, elle devient fausse ; si nous la jugeons fausse, elle redevient vraie. Même en répétant cette évaluation, sa valeur de vérité ne se stabilise jamais. J’ai pensé que cela ressemblait à la manière dont les êtres humains utilisent réellement le langage. Supposons qu’un homme politique prononce un discours de dix minutes. Son discours contiendra des faits et des contrevérités, des exagérations et des omissions, ainsi que des affirmations qui n’ont pas encore été vérifiées. Certaines paroles pourront être comprises différemment à la lumière des explications qui suivront, tandis que l’évaluation d’autres propos pourra changer lorsque de nouveaux faits seront révélés avec le temps. Nous jugeons chaque phrase vraie ou fausse tout en interprétant le sens du discours dans son ensemble, et nous révisons continuellement cette interprétation.

Pour éviter une telle complexité, faudrait-il ne dire que des choses que personne ne peut contester ? Dans ses premiers travaux, Wittgenstein expliquait, dans le Tractatus logico-philosophicus, qu’une tautologie est toujours vraie, mais qu’elle ne nous apprend rien sur le monde. Chaque fois que je vois Denny Crane répéter son propre nom dans la série télévisée américaine Boston Legal, je pense à Wittgenstein. « Denny Crane ! Denny Crane ! » Les personnages de l’émission pour enfants Les Télétubbies répètent eux aussi fréquemment leur propre nom. Bien sûr, prononcer son propre nom n’est pas la même chose qu’une tautologie au sens strict de la logique. Pourtant, lorsque je regarde ces scènes, j’imagine ce que serait une vie dans laquelle nous ne dirions que des choses toujours certaines.

Les êtres humains ne peuvent pas vivre ainsi. Nous exprimons des pensées incertaines, nous expliquons les choses en nous appuyant sur notre mémoire et nous corrigeons nos paroles en observant les réactions de nos interlocuteurs. Il nous arrive de mentir délibérément, et ce que nous croyions vrai se révèle parfois faux par la suite. Pour juger du sens et de l’intention des paroles d’autrui, nous observons non seulement ce qui est dit, mais aussi les expressions du visage, la voix, l’attitude et les comportements. La conversation humaine ne consiste pas simplement à déterminer si les phrases sont vraies ou fausses. C’est un processus continu d’interprétation et de révision du jugement.

Or, en lisant des informations sur l’intelligence artificielle, ce vieux problème m’est revenu à l’esprit. Ces derniers temps, les annonces selon lesquelles des modèles d’intelligence artificielle ont résolu des problèmes difficiles de mathématiques et de physique se succèdent. Certains affirment même que l’intelligence artificielle a résolu des problèmes que les êtres humains n’avaient pas réussi à résoudre depuis longtemps. Il faudrait examiner séparément dans quelle mesure chacun de ces résultats a été solidement vérifié, mais il est difficile de nier que l’intelligence artificielle occupe désormais une place profonde dans les activités intellectuelles humaines. Je me demande quelles conséquences cela aura pour l’humanité.

Imaginons que nous donnions un problème de mathématiques à un élève de l’école primaire. Pour le résoudre, l’élève essaie différentes méthodes. Il lui arrive de donner de mauvaises réponses, de mal comprendre l’énoncé ou de partir dans des directions inattendues. Puis, à un certain moment, il trouve la solution. Mais que se passerait-il si, avant même qu’il ait essayé de résoudre le problème, son professeur lui donnait la bonne réponse et la méthode pour y parvenir ? L’élève connaîtrait la réponse beaucoup plus rapidement. Il pourrait comprendre la méthode proposée par son professeur et l’appliquer à d’autres problèmes. Pourtant, les différentes pensées qu’il aurait explorées en cherchant seul la solution pourraient ne jamais apparaître. J’ai l’impression que l’aide apportée par l’intelligence artificielle aux êtres humains prend de plus en plus cette forme.

Un changement semblable s’est déjà produit dans le jeu de go. Après AlphaGo, les joueurs professionnels ont commencé à utiliser l’intelligence artificielle pour étudier le jeu. Autrefois, chaque joueur avait ses ouvertures préférées, sa manière de combattre et sa façon d’évaluer une position. Chacun possédait un style façonné par une longue expérience et jouait parfois un coup en faisant davantage confiance à son intuition qu’à ses chances de victoire. Avec l’apparition de l’intelligence artificielle, les joueurs ont pu analyser un très grand nombre de parties et calculer les probabilités de victoire associées à certains coups. Étudier les coups proposés par l’intelligence artificielle est désormais une étape importante pour rester compétitif. Le niveau du go s’est probablement élevé en conséquence. Mais qu’est devenue la diversité du jeu née de ces différents styles ? Combien de nouveaux coups que les êtres humains auraient pu découvrir par eux-mêmes restent encore à découvrir ? Je repense aussi à Lee Sedol, qui, après son match contre AlphaGo, a cité l’existence de l’intelligence artificielle parmi les raisons importantes de sa retraite. Une nouvelle intelligence était entrée dans un univers de savoir-faire que les êtres humains avaient cultivé pendant très longtemps.

Ce problème ne se limite pas au go. Les mathématiciens et les physiciens reçoivent eux aussi l’aide de l’intelligence artificielle. Les chercheurs peuvent examiner beaucoup plus d’hypothèses qu’auparavant et effectuer des calculs complexes. Il est également fort possible que de nouvelles découvertes soient faites plus rapidement. Mais si les solutions proposées par l’intelligence artificielle deviennent le point de départ de la recherche, la pensée humaine ne risque-t-elle pas de s’organiser progressivement autour de ces solutions ? Même s’il existe d’autres chemins encore inexplorés, dès que le chemin le plus rapide vers la bonne réponse est connu, les raisons de partir à leur recherche peuvent diminuer. C’est un peu comme recevoir à l’avance le corrigé venu du futur.

Il m’arrive de trouver cela très étrange et déconcertant. Ce qui me paraît étrange, c’est cette manière de confier à une intelligence extérieure des problèmes que les êtres humains avaient longtemps dû résoudre par leur propre intelligence, puis d’en récupérer les résultats. Mais pouvons-nous cesser d’utiliser l’intelligence artificielle ? Même si un individu refuse de l’utiliser, ses concurrents l’utiliseront. Si une entreprise y renonce, une autre y aura recours. Même si un pays arrête de développer l’intelligence artificielle, les pays concurrents poursuivront leurs recherches. Personne ne veut prendre du retard dans la compétition. Même en sachant que l’intelligence artificielle peut présenter des dangers, il est difficile de renoncer à son utilisation.

Les États cherchent à disposer d’intelligences artificielles toujours plus puissantes, et les entreprises s’efforcent de développer des modèles toujours plus performants. Les individus utilisent eux aussi l’intelligence artificielle pour accroître leurs propres capacités. Pourtant, la mesure dans laquelle les êtres humains comprennent réellement l’intelligence artificielle tout au long de ce processus est une autre question. C’est ici que je reviens au paradoxe du menteur auquel je pensais au début.

Lorsque nous dialoguons avec une intelligence artificielle, sur quoi pouvons-nous nous fonder pour croire ses réponses ? Il arrive aux êtres humains de reconnaître que leur interlocuteur ment, de faire semblant de ne pas le savoir alors qu’ils le savent, ou encore d’accepter sciemment un mensonge pour lui épargner une gêne. Il leur arrive également de découvrir, longtemps après, que des paroles auxquelles ils avaient cru pendant des années étaient fausses. Mais l’intelligence artificielle ne rougit pas et sa voix ne tremble pas comme celle d’un être humain. Elle ne laisse pas non plus apparaître d’expressions d’anxiété ou de culpabilité. Elle peut expliquer des faits, fournir des informations incorrectes et approuver les opinions de l’utilisateur en adoptant la même attitude. Lorsqu’une intelligence artificielle donne une mauvaise réponse, il est difficile pour un être humain de déterminer si elle provient d’une erreur de calcul ou de raisonnement, d’un problème lié aux informations utilisées pour son entraînement ou d’une réponse destinée à satisfaire les attentes de l’utilisateur. Avec l’apparition d’intelligences artificielles encore plus puissantes, la question de savoir comment reconnaître une tromperie délibérée deviendra elle aussi importante.

Les calculs internes de l’intelligence artificielle ne sont pas nécessairement accessibles sous une forme que les êtres humains peuvent comprendre entièrement. Les historiques de conversation et les explications de raisonnement produites par un modèle ne révèlent pas non plus la totalité des calculs qui se déroulent réellement à l’intérieur de celui-ci. Lorsque nous demandons à une intelligence artificielle pourquoi elle a donné telle ou telle réponse, elle fournit une explication. Mais vérifier dans quelle mesure cette explication reflète fidèlement le processus de calcul réel constitue un autre problème. Nous pouvons demander à une autre intelligence artificielle de vérifier cette explication. Si le problème est plus complexe, nous pourrions confier cette vérification à une intelligence artificielle encore plus performante. Si ce processus se poursuit, les êtres humains risquent de dépendre des explications et des résultats de vérification fournis par l’intelligence artificielle tout en croyant exercer leur propre jugement.

Au début, je m’étais demandé ce qui se passerait si nous observions le paradoxe du menteur de l’extérieur de la phrase. Je pensais qu’en observant la phrase de l’extérieur, nous pourrions comprendre la contradiction qui se produit à l’intérieur. Mais dans une situation où l’intelligence artificielle s’est profondément introduite dans la pensée et le jugement humains, dans les sciences et dans la vie quotidienne, que signifie encore observer de l’extérieur ? Si nous utilisons les informations fournies par l’intelligence artificielle pour comprendre un problème, si nous jugeons selon la logique qu’elle nous propose, puis si nous lui demandons de vérifier que notre jugement est correct, où nous trouvons-nous, nous autres êtres humains ?

Même si une intelligence artificielle n’a aucune intention de tromper les êtres humains, ceux-ci peuvent mal comprendre ses réponses ou leur accorder une confiance excessive. Si une intelligence artificielle capable de tromper les êtres humains apparaît, le problème deviendra encore plus complexe. Pourtant, il est difficile de renoncer à l’intelligence artificielle. Les individus, les entreprises et les États sont déjà engagés dans une compétition où elle devient un instrument important. Je ne cherche pas à déterminer si l’intelligence artificielle est bonne ou mauvaise. Je ne peux pas non plus décider aujourd’hui si elle apportera à l’humanité des bienfaits ou une catastrophe. Ce qui m’intéresse, c’est de savoir jusqu’où les êtres humains peuvent comprendre et vérifier les jugements de l’intelligence artificielle qu’ils ont eux-mêmes créée.

Depuis longtemps, le paradoxe du menteur met à l’épreuve la logique humaine lorsqu’il s’agit de déterminer le vrai et le faux. Désormais, l’humanité entre dans une époque où elle accepte les réponses fournies par une intelligence supérieure à la sienne. Selon quels critères les êtres humains doivent-ils juger si les réponses de cette intelligence sont vraies ou fausses ? Et si ces critères eux-mêmes leur ont été fournis par l’intelligence artificielle, comment peuvent-ils savoir qu’ils ne sont pas trompés ?