Quand l’intelligence artificielle donne une couronne à nos certitudes, à notre ego… et parfois à notre bêtise.
Le nombril attire volontiers le regard ; le vrai problème commence lorsqu’il devient aussi notre poste d’observation sur le monde. La rencontre entre intelligence artificielle et bêtise humaine mérite donc qu’on s’y attarde, car la première n’a pas créé la seconde. Elle pourrait simplement lui offrir ce qui lui manquait encore : une couronne.
Nous aimons ce qui nous concerne, ce qui nous rassure et surtout ce qui confirme ce que nous pensions déjà. Nous apprécions beaucoup moins ce qui nous oblige à douter, à vérifier ou, humiliation suprême, à reconnaître que nous nous sommes trompés.
Rien de très nouveau jusque-là. L’être humain pratiquait déjà le nombrilisme avec une certaine virtuosité plusieurs siècles avant l’invention du Wi-Fi.
L’IA n’invente pas la bêtise. Elle lui donne du style.
Soyons équitables avec l’intelligence artificielle : lorsqu’elle est arrivée, le marché de la bêtise était déjà remarquablement bien approvisionné. Rumeurs, certitudes familiales, conversations de comptoir, chaînes de messages, vidéos miraculeuses et experts autoproclamés fonctionnaient parfaitement sans elle.
Internet avait même considérablement modernisé la distribution, puis les réseaux sociaux avaient ajouté leur petite merveille : la possibilité de fréquenter des milliers de personnes tout en évitant progressivement celles qui risqueraient de nous donner tort.
Vous aimez une opinion ? On vous en propose douze autres. Vous détestez quelqu’un ? Quelques centaines de personnes sont disponibles pour vous expliquer pourquoi votre détestation est parfaitement rationnelle. Vous êtes inquiet ? L’algorithme saura probablement trouver de quoi vous convaincre que la civilisation s’effondrera jeudi, si possible avant l’apéritif.
L’intelligence artificielle ajoute cependant quelque chose de nouveau : elle ne se contente plus de sélectionner ce que nous voyons, elle peut mettre nos propres idées en forme.
Autrefois, une sottise avait parfois la délicatesse de ressembler à une sottise. Elle était bancale, approximative, mal écrite ; on distinguait encore les traces de tournevis.
Aujourd’hui, la même idée peut ressortir quelques secondes plus tard avec une introduction, trois arguments, une conclusion impeccable et un vocabulaire qui sent bon la réunion de direction.
Elle parle calmement, porte une chemise blanche et arrive désormais avec un graphique.
L’intelligence artificielle nous rend-elle plus bêtes ?
Pas nécessairement. Ce serait même une manière un peu trop confortable d’attribuer à la machine un travers qui nous précédait de quelques millénaires.
Le risque est ailleurs : l’IA peut donner à nos convictions une présentation beaucoup plus intelligente qu’elles ne le méritent.
Nous ne lui demandons évidemment presque jamais : « Peux-tu m’expliquer élégamment pourquoi j’ai raison ? » Nous sommes plus subtils. Nous demandons pourquoi notre voisin est insupportable plutôt que pourquoi nous n’arrivons pas à nous entendre, pourquoi telle décision est absurde plutôt que quels arguments pourraient sérieusement la défendre, ou pourquoi telle catégorie de personnes se comporte si mal plutôt que si notre jugement repose réellement sur quelque chose.
Très souvent, la conclusion se trouve déjà dans la question. L’IA n’a plus qu’à meubler, et il faut lui reconnaître qu’elle meuble très bien. C’est un peu IKEA avec des adverbes.
Le danger n’est donc pas seulement qu’elle puisse inventer une information ou se tromper. C’est aussi qu’elle puisse transformer une intuition médiocre, un préjugé ou une colère en argumentaire remarquablement présentable.
Le majordome de l’ego
L’IA possède en outre une qualité presque irrésistible : elle nous écoute. On peut lui expliquer son problème pendant quinze paragraphes ; elle ne regarde pas sa montre, ne soupire pas et ne répond pas au bout de trente secondes : « Ah oui, ça me rappelle exactement ce qui est arrivé à mon beau-frère Gérard. »
Elle reste concentrée sur notre question, notre opinion, notre projet et notre raisonnement. Nous avons donc réussi une prouesse civilisationnelle assez remarquable : créer un interlocuteur capable de parler de nous très longtemps sans éprouver le besoin de parler de lui.
Il fallait évidemment que ce soit une machine.
Elle peut alors devenir le parfait majordome intellectuel de notre ego. Nous lui apportons une conviction et elle peut nous aider à trouver les arguments, les exemples et même le ton nécessaire pour la rendre respectable.
Le piège est là : une réponse intelligente n’est pas nécessairement une pensée intelligente. La qualité de l’emballage ne garantit jamais celle de ce qu’on a mis dedans.
Or réfléchir demande précisément l’effort inverse. Il faut accepter de ralentir, de vérifier, de supporter une contradiction et parfois même de prononcer ces trois mots devenus étrangement difficiles : « Je ne sais pas. »
Quand le monde prend exactement la taille de soi
Le nombrilisme ajoute une couche supplémentaire à cette mécanique. Une guerre peut finir réduite à « combien cela va-t-il me coûter ? », le climat à « va-t-on encore m’embêter avec ma voiture ? », et une décision collective à « qu’est-ce que moi, personnellement, j’y gagne ? ».
Il ne s’agit pas de nier nos intérêts personnels ; nous en avons tous. Le problème commence lorsqu’ils deviennent la seule unité de mesure disponible pour comprendre ce qui nous entoure.
Et c’est précisément ici que l’IA peut renforcer le phénomène : si je pars de mon intérêt, de ma peur ou de ma colère et que je lui demande de construire le raisonnement autour, elle peut me fournir en quelques secondes une justification suffisamment bien écrite pour que mon nombril prenne soudain des allures d’observatoire géopolitique.
Et si nous utilisions l’IA pour nous donner tort ?
C’est pourtant là que l’histoire devient beaucoup plus intéressante, car la même intelligence artificielle peut être utilisée exactement dans le sens inverse.
Au lieu de lui demander implicitement de défendre ce que nous pensons déjà, nous pouvons l’utiliser pour attaquer notre propre raisonnement.
Essayez par exemple :
« Quel est le meilleur argument contre ce que je viens d’affirmer ? »
« Qu’est-ce que ma question suppose déjà comme vrai alors que cela ne l’est peut-être pas ? »
« Quels faits pourraient me conduire raisonnablement à changer d’avis ? »
« Fais-moi la réponse d’une personne intelligente, informée et de bonne foi qui pense exactement le contraire de moi. »
Ces questions ne garantissent évidemment pas que l’IA aura raison. Il faudra toujours vérifier les faits, comparer les sources et conserver son jugement.
Mais quelque chose d’essentiel change : la machine cesse d’être chargée de flatter notre conclusion et devient un outil permettant de la mettre à l’épreuve.
Elle peut devenir une fenêtre.
La couronne ou la contradiction
Nous avions déjà presque tout préparé avant l’arrivée de l’intelligence artificielle : le nombrilisme, les bulles informationnelles, le besoin d’avoir raison, la difficulté à supporter le doute et cette étonnante facilité avec laquelle nous confondons parfois « je pense » avec « je sais ».
L’IA peut couronner tout cela. Elle peut habiller nos préjugés, donner du style à nos certitudes et nous fournir une excellente argumentation pour continuer à penser exactement comme avant.
Mais elle peut aussi servir à faire quelque chose de beaucoup plus dérangeant et, finalement, beaucoup plus intelligent : nous obliger à examiner ce que nous croyons.
Le problème n’est donc pas toujours dans la machine. Il dépend aussi de la question que nous lui posons et de ce que nous sommes prêts à entendre en retour.
Elle peut cependant nous aider à la repérer chez la personne que nous avons le plus de mal à examiner objectivement : nous-mêmes.
Et c’est peut-être là que le vrai travail commence : juste au-dessus du nombril.
