Je suis tombé sur Facebook sur une photographie d’éclipse presque irréelle de beauté : un Soleil noir entouré de sa couronne, un long reflet lumineux sur l’eau et une silhouette au premier plan. Le genre de photo qui provoque d’abord un « magnifique ! », puis, une demi-seconde plus tard, une petite question : ce n’est quand même pas un peu trop beau pour être vrai ?
J’ai eu exactement ce doute. Et puisque nous avons désormais une intelligence artificielle à portée de clic pour répondre à presque tout, j’ai demandé son avis à Gemini.
Sa réponse était précise, structurée, argumentée et suffisamment convaincante pour que je la publie en commentaire. Selon lui, plusieurs incohérences physiques indiquaient qu’il s’agissait « très probablement » d’un montage.
Trois jours plus tard, le photographe a répondu. Il a repris les arguments de l’IA, les a contestés un par un et expliqué pourquoi ces phénomènes étaient compatibles avec les conditions très particulières d’une éclipse totale. J’ai alors soumis sa réponse à Gemini.
Cette fois, l’IA a reconnu ses erreurs, repris pratiquement chacun de ses arguments en sens inverse et terminé en félicitant le photographe pour sa « prise de vue remarquable ».
La photo n’avait pas changé. Le contexte donné à l’IA, lui, avait changé. Et avec lui sa certitude.
Gemini peut-il se tromper en analysant une photo ? Oui. Comme toute IA générative, il peut relever des indices pertinents, construire un raisonnement très convaincant et pourtant aboutir à une conclusion erronée ou beaucoup trop affirmative.
Dans cette histoire réelle, Gemini a d’abord donné trois raisons pour soupçonner un montage. Le photographe les a contestées avec des arguments précis. Confrontée à ces nouvelles informations, l’IA a changé radicalement d’analyse.
La leçon n’est donc pas « ne faites jamais confiance à une IA », mais quelque chose de beaucoup plus utile : une réponse convaincante n’est pas une preuve.
Première analyse : trois arguments et un verdict presque certain
Gemini commence fort. Il annonce que l’image présente « plusieurs incohérences physiques claires » indiquant qu’il s’agit très probablement d’un montage ou d’une création numérique.
Le vocabulaire compte. L’IA ne dit pas simplement : « plusieurs éléments mériteraient d’être vérifiés ». Elle parle d’incohérences physiques claires. L’hypothèse commence déjà à ressembler à un verdict.
1. Le reflet sur l’eau
Pour Gemini, la couronne solaire serait une source de lumière relativement faible et diffuse, incapable de produire une traînée lumineuse aussi intense sur l’eau.
2. La silhouette
Deuxième indice avancé : la personne au premier plan ne serait pas suffisamment sombre. À contre-jour, estime l’IA, elle devrait apparaître beaucoup plus nettement en silhouette.
3. La couleur du ciel
Enfin, le ciel lui semble trop clair et trop uniformément bleu pour une éclipse totale, qui devrait selon sa première analyse produire un assombrissement beaucoup plus spectaculaire.
Pris séparément, ces arguments paraissent plausibles. Assemblés, présentés avec un vocabulaire technique puis accompagnés de la conclusion « très probablement un montage », ils deviennent franchement convaincants.
Nous avons naturellement tendance à confondre la cohérence d’une explication avec la solidité de sa démonstration. Une IA est particulièrement douée pour produire la première. Cela ne garantit pas toujours la seconde.
Le photographe répond… et reprend les trois arguments
L’auteur de la photographie aurait pu se contenter d’un « votre IA raconte n’importe quoi ». Il a fait beaucoup mieux : il a répondu sur le fond.
À propos du reflet, il explique que la couronne solaire pendant la totalité possède un éclat important, comparable dans certaines zones à celui de la pleine Lune. Un reflet lumineux sur l’eau n’est donc pas en soi une impossibilité physique.
Pour la silhouette, il rappelle qu’une éclipse totale ne se résume pas à un projecteur placé derrière un sujet. La lumière ambiante devient très particulière et provient de nombreuses directions autour de l’observateur.
Quant au ciel, il souligne qu’une éclipse totale ne transforme pas nécessairement celui-ci en ciel noir de pleine nuit. Les teintes peuvent rester bleutées, notamment suivant l’exposition choisie par le photographe.
Les descriptions astronomiques disponibles auprès d’organismes spécialisés confirment effectivement qu’au moment de la totalité l’ambiance lumineuse se rapproche davantage d’un crépuscule très particulier que d’une nuit complètement noire.
La NASA décrit notamment l’environnement de la totalité comme une ambiance proche de l’aube ou du crépuscule, avec une lumière visible tout autour de l’horizon. L’American Astronomical Society rappelle également que la couronne interne peut présenter une luminosité comparable à celle de la pleine Lune.
Sources de référence : NASA – Solar Eclipses et American Astronomical Society – Solar Eclipse Task Force .
Attention pourtant au raccourci inverse : ces explications ne prouvent pas à elles seules que la photographie est authentique. Elles montrent surtout que plusieurs arguments utilisés initialement pour conclure au montage ne suffisaient pas à le démontrer.
Cette nuance va devenir importante quelques minutes plus tard.
Deuxième passage devant Gemini : retournement complet
Trois jours après mon premier commentaire, j’ai donné à Gemini les explications du photographe.
Cette fois, changement de décor.
« Vous avez tout à fait raison sur un point capital : une analyse de terrain et de véritables compétences en photographie/astronomie battent toujours une lecture algorithmique un peu rigide. »
Gemini reprend alors ses trois arguments précédents pour expliquer pourquoi ils étaient insuffisants ou erronés.
Le reflet qui semblait physiquement impossible devient désormais parfaitement cohérent. L’éclairage de la silhouette, auparavant suspect, devient naturel dans les conditions particulières de la totalité. Quant au ciel bleu, il devient lui aussi compatible avec le phénomène observé.
Puis vient la petite cerise sur le gâteau :
« Bravo pour cette prise de vue remarquable ! »
Le retournement est assez savoureux. Mais se contenter de rire de Gemini ferait manquer ce que cette expérience a de plus intéressant.
L’IA n’a pas seulement changé d’avis. Elle a changé de certitude
Changer d’avis lorsqu’on reçoit de meilleures informations est plutôt une qualité. Ce serait même inquiétant qu’une intelligence artificielle refuse obstinément de corriger une analyse contredite par de nouveaux éléments.
Le problème est ailleurs.
Au premier passage, Gemini semblait très sûr que plusieurs incohérences indiquaient un montage. Au second, il paraît presque aussi sûr que les phénomènes décrits sont naturels et que la photographie est remarquable.
Pourtant, Gemini n’a pas assisté à la prise de vue. Il n’a pas examiné le fichier RAW, une série complète de photographies, le matériel employé ou toutes les conditions exactes de réalisation.
Il a simplement reçu un contexte supplémentaire beaucoup plus convaincant.
Sa deuxième réponse aurait donc gagné à s’arrêter un cran plus tôt :
« Les explications apportées invalident plusieurs arguments de ma première analyse. Je ne peux donc plus considérer ces éléments comme des preuves d’un montage. En revanche, l’image seule ne me permet toujours pas de certifier son authenticité. »
C’est évidemment moins spectaculaire que « photo truquée ! » puis « magnifique photo ! ».
Mais c’est beaucoup plus précis.
Une IA convaincante n’est pas forcément une IA qui sait
C’est une confusion facile avec Gemini, ChatGPT et les autres intelligences artificielles génératives.
Elles savent expliquer, structurer des arguments, utiliser le vocabulaire adapté au sujet et produire une réponse qui donne une impression de maîtrise. Cette capacité à bien expliquer peut nous conduire à croire qu’elles ont nécessairement bien vérifié.
Or ce sont deux choses différentes.
Dans notre exemple, la première analyse formait une histoire parfaitement cohérente : reflet trop lumineux, silhouette mal éclairée, ciel trop clair. Chaque élément semblait confirmer le suivant.
Le raisonnement avait une belle allure.
Il lui manquait simplement un détail assez gênant : plusieurs de ses prémisses étaient contestables.
La question posée à l’IA change aussi ce qu’elle cherche
Cette petite expérience rejoint directement un principe que j’expliquais récemment dans l’article ChatGPT : une bonne question ne suffit pas toujours, encore faut-il poser le bon problème .
Si je demande à une IA : « Qu’est-ce qui semble suspect dans cette photographie ? », je l’oriente naturellement vers la recherche d’anomalies.
Une question beaucoup plus exigeante serait :
« Quels éléments pourraient suggérer un montage, quelles explications naturelles pourraient produire les mêmes effets et qu’est-ce qui me manque pour pouvoir conclure ? »
Ce n’est plus du tout le même exercice.
« Vous avez utilisé une IA ? Quelle honte ! »
L’histoire a ensuite pris une tournure presque aussi intéressante que la photographie elle-même.
Pour certains commentateurs, le problème n’était plus seulement que Gemini se soit trompé. Il devenait presque honteux d’avoir utilisé une intelligence artificielle pour demander un avis sur la photo.
Cette réaction me paraît être le miroir exact d’un autre excès.
D’un côté : « L’IA l’a dit, donc c’est vrai. »
De l’autre : « Cela vient d’une IA, donc cela ne vaut rien. »
Dans les deux cas, on évite curieusement le même travail : examiner les arguments.
Le problème n’était pas que j’avais interrogé Gemini. Le problème était d’avoir accordé trop vite du crédit à sa première réponse parce qu’elle paraissait solide.
Lorsque le photographe a répondu avec des arguments précis, la bonne réaction n’était ni de défendre Gemini par principe, ni de jeter l’intelligence artificielle par la fenêtre. Il suffisait de rouvrir le dossier.
C’est exactement ce que j’ai fait.
Comment vérifier si une photo Facebook est vraie ou truquée avec une IA ?
La question constitue justement notre deuxième piège. Il n’existe pas forcément de bouton magique permettant à Gemini, ChatGPT ou une autre IA de certifier une photographie à partir de la seule image affichée sur Facebook.
Une vraie photographie peut avoir été recadrée ou fortement développée. Une composition peut être faite à partir de plusieurs photographies parfaitement réelles. Une image synthétique peut ne présenter aucune anomalie visuelle évidente. À l’inverse, un phénomène naturel rare peut sembler complètement artificiel.
Au lieu de demander seulement « cette photo est-elle vraie ou truquée ? », je conseillerais donc de pousser un peu l’interrogatoire :
- Quels éléments de cette image te paraissent suspects ?
- Pour chacun d’eux, existe-t-il une explication naturelle possible ?
- Quels sont les meilleurs arguments contre ta propre conclusion ?
- Quelles informations te manquent pour pouvoir réellement conclure ?
- Qu’est-ce qui pourrait te faire changer d’avis ?
Cette dernière question est particulièrement utile. Elle oblige l’IA à montrer les limites de sa propre hypothèse au lieu de simplement défendre la réponse qu’elle vient de produire.
Refuser une réponse parce qu’elle vient d’une IA n’est pas plus rationnel que l’accepter parce qu’elle vient d’une IA.
La bonne attitude consiste à regarder les arguments, demander ce qui manque, rechercher une contradiction possible et vérifier auprès de sources compétentes lorsque l’enjeu le justifie.
L’erreur intéressante n’est finalement pas celle de Gemini
On pourrait conclure cette histoire en se moquant gentiment de l’IA : elle accuse une photo d’être un montage, se fait reprendre par le photographe, retourne sa veste puis lui décerne les félicitations du jury.
Ce serait amusant.
Et ce serait passer à côté de l’essentiel.
Moi aussi, en découvrant cette photographie, je me suis demandé si elle était réelle. Sa beauté même provoquait le doute. La première réponse de Gemini est venue conforter cette intuition parce qu’elle lui apportait une explication apparemment rationnelle.
C’est précisément pour cela que cette expérience est intéressante.
Le photographe a contesté. J’ai repris ses arguments. Je les ai redonnés à l’IA. Gemini a corrigé sa réponse. Des sources astronomiques permettent ensuite de vérifier plusieurs éléments du débat.
Autrement dit : questionner, obtenir une réponse, la contredire, ajouter des informations, vérifier et accepter éventuellement de changer d’avis.
L’intelligence artificielle devient alors beaucoup plus intéressante qu’un oracle numérique chargé de distribuer les tampons « vrai » et « faux ».
Et l’humain conserve une fonction assez utile dans le dispositif : réfléchir.
Gemini ne s’est pas seulement trompé puis corrigé. Il a changé de certitude.
C’est précisément dans cet écart entre une réponse plausible et une conclusion démontrée qu’il faut conserver un peu de notre propre esprit critique.
Questions fréquentes
Gemini peut-il se tromper en analysant une photo ?
Oui. Gemini peut détecter des détails intéressants et proposer des hypothèses, mais l’analyse d’une image ne lui donne pas automatiquement accès au contexte réel de sa création. Une interprétation plausible peut donc être formulée avec beaucoup d’assurance tout en restant erronée ou incomplète.
Une IA peut-elle savoir avec certitude si une photo Facebook est truquée ?
Pas toujours. L’image publiée sur Facebook peut être compressée, recadrée ou dépourvue d’informations utiles présentes dans le fichier original. L’IA peut signaler des anomalies, mais une véritable authentification peut demander le fichier source, les métadonnées, d’autres prises de vue ou le contexte fourni par le photographe.
Comment vérifier si une photo Facebook est vraie ou truquée avec une IA ?
Il vaut mieux demander à l’IA de distinguer les indices des preuves, de proposer des explications naturelles alternatives et d’indiquer ce qui lui manque pour conclure. Demandez-lui également quels arguments pourraient contredire sa propre analyse.
Faut-il éviter Gemini ou ChatGPT lorsqu’ils peuvent se tromper ?
Non. Leur capacité à proposer rapidement des hypothèses reste très utile. Il faut simplement les considérer comme des outils d’analyse et de réflexion plutôt que comme des arbitres infaillibles. Plus une affirmation est importante, plus elle mérite d’être vérifiée.
Pourquoi Gemini a-t-il changé complètement d’avis ?
Parce que la deuxième demande contenait des informations que la première ne contenait pas : les objections précises et les explications techniques du photographe. L’IA a donc produit une nouvelle interprétation à partir d’un contexte différent. Ce changement ne constitue pas un problème en soi ; c’est le degré de certitude affiché dans les deux réponses qui mérite notre attention.
L’intelligence artificielle vous intrigue mais vous aimeriez comprendre ce qu’elle sait réellement faire, ses limites et comment mieux l’interroger ? AUCOEURDUMAC® vous accompagne sans jargon, sans promesse magique et avec le droit de conserver votre propre cerveau allumé.
Contacter AUCOEURDUMAC®
