Une IA peut expliquer un concept difficile, écrire un programme ou comparer plusieurs documents, puis manquer une information évidente ou inventer de toute pièce une référence scientifique. Ce contraste entre performances impressionnantes et erreurs parfois grossières est l’une des caractéristiques les plus déroutantes des systèmes actuels.
Cet article propose quelques repères pour comprendre ce fonctionnement. Nous verrons d’abord comment un modèle entraîné à prédire du texte peut accomplir des tâches complexes, puis pourquoi ses compétences restent très irrégulières et pourquoi ses erreurs peuvent être si convaincantes. Nous verrons ensuite comment adapter la vérification à la tâche et au niveau de risque. Enfin, nous élargirons la question: même une réponse parfaitement juste ne suffit pas à garantir un usage sans problème.
Comment une machine qui prédit du texte peut-elle raisonner?
Les grands modèles de langage, ou LLM (Large Langage Models), sont d’abord entraînés sur une tâche qui paraît presque dérisoire: prédire la suite d’un texte.
Le texte est découpé en «tokens»: mots, fragments de mots ou signes. Pendant l’entraînement, le modèle essaie de prédire ce qui vient ensuite. Lorsqu’il se trompe, ses paramètres sont ajustés. Répétée sur d’immenses quantités de textes, cette opération lui permet d’apprendre bien davantage que des associations entre mots.
Prenons une phrase très simple: «Julie a laissé son manteau au restaurant. En rentrant, elle a appelé pour…»
Afin de proposer une suite pertinente, il faut comprendre qu’un objet a été oublié, qu’il se trouve probablement encore au restaurant et que Julie cherche vraisemblablement à le récupérer. Compter quels mots suivent habituellement «pour» ne suffit pas.
Le même principe s’étend à des problèmes beaucoup plus complexes. Continuer une démonstration demande de respecter des relations logiques. Compléter un programme suppose de tenir compte de sa syntaxe et de ce qu’il est censé faire. À force d’apprendre à prédire correctement dans des contextes très variés, le modèle acquiert donc des régularités sur la langue, mais aussi sur les concepts, les relations et certaines procédures. C’est pourquoi dire qu’un LLM «ne fait que prédire le mot suivant» décrit son entraînement, mais assez mal ce qu’il a appris pour y parvenir.
Du modèle à l’assistant que nous utilisons
Ce que nous appelons couramment «l’IA» ne se limite plus au modèle lui-même. Lorsque vous demandez un calcul à un assistant IA, celui-ci peut tenter de produire directement le résultat. Mais il peut aussi écrire l’opération et la faire exécuter par un outil de calcul. Dans le second cas, la calculatrice effectue le calcul; le modèle doit surtout choisir la bonne opération.
Même chose avec le web, des fichiers ou du code. Un assistant IA moderne peut rechercher une page, lire un PDF, lancer un programme puis utiliser le résultat pour répondre. Une interface comme ChatGPT ou Claude ressemble donc moins à un cerveau unique qu’à un modèle auquel on a progressivement donné accès à différents instruments.
Cette distinction devient importante dès qu’on veut juger une réponse. Une information tirée d’un document fourni, un calcul exécuté par un programme et une réponse produite directement par le modèle ne présentent pas les mêmes risques d’erreur.
Pourquoi réussit-elle des choses difficiles et rate-t-elle des choses simples?
Nous sommes habitués à imaginer les compétences comme une échelle. Quelqu’un qui sait résoudre un problème mathématique très difficile devrait, en principe, réussir les exercices plus simples. Avec les IA actuelles, cette intuition fonctionne mal.
L’AI Index 2026 de Stanford rapporte par exemple des performances de niveau médaille d’or aux olympiades internationales de mathématiques, tout en relevant des difficultés persistantes sur certaines tâches beaucoup plus élémentaires, comme la lecture d’une horloge à aiguilles.
On retrouve ce contraste dans des usages moins spectaculaires. Un assistant peut produire une excellente synthèse de vingt pages et attribuer une phrase au mauvais document. Il peut expliquer parfaitement une méthode statistique puis l’appliquer incorrectement à vos données.
Il n’existe donc pas un niveau de compétence unique qui permettrait de dire: «ce modèle est suffisamment intelligent, je peux lui faire confiance». Ses performances dépendent fortement de ce qu’on lui demande précisément.
La formulation de la demande compte. Les documents et les outils auxquels le système a accès comptent aussi. Une tâche qu’il accomplit très bien dans une configuration peut devenir beaucoup moins fiable dès qu’on modifie l’un de ces éléments.
C’est pour cette raison qu’une expérience concrète de l’outil vaut souvent davantage qu’une impression générale. Si vous utilisez régulièrement une IA pour résumer vos propres documents, commencez avec quelques textes que vous connaissez très bien. Vous verrez vite ce qu’elle restitue correctement, ce qu’elle oublie et les erreurs qu’elle commet.
Pourquoi peut-elle se tromper avec autant d’assurance?
Demandez à une IA une référence scientifique sur un sujet précis. Elle peut vous fournir un titre, des auteurs, une revue, une année, une adresse web où trouver l’article. Tout ressemble à une vraie publication. Sauf qu’elle n’existe pas.
C’est ce qu’on appelle généralement une hallucination: une information présentée comme factuelle alors qu’elle est inventée ou ne correspond pas à la source annoncée. Une citation peut être déformée. Un chiffre peut être ajouté. Etc.
Le piège est assez simple: produire une réponse plausible et vérifier qu’elle est vraie sont deux opérations différentes.
Le modèle a appris à produire la forme d’une référence scientifique. Il connaît parfaitement à quoi ressemblent un titre d’article, une liste d’auteurs, etc. S’il ne dispose pas de l’information correcte, il peut donc produire quelque chose qui en a toutes les apparences. Et rien ne garantit que son ton change lorsqu’il se trompe.
Une phrase fausse peut être aussi fluide, précise et assurée qu’une phrase exacte. La qualité de l’écriture est donc un très mauvais indicateur de fiabilité.
Donner au système les documents pertinents ou lui permettre d’effectuer une recherche réduit une partie du problème. S’il travaille sur l’article original, nous pouvons vérifier ce qu’il en tire. S’il trouve une page web, nous pouvons l’ouvrir.
Mais l’outil supplémentaire ne supprime pas l’erreur. Une recherche peut trouver une source qui ne soutient pas réellement l’affirmation. Un programme peut effectuer parfaitement un calcul, mais sur les mauvaises données. Un résumé peut oublier l’exception ou la subtilité qui change toute la conclusion.
Il faut donc remplacer une mauvaise question: «Est-ce que l’IA est fiable?» par une question beaucoup plus utile: «Qu’est-ce que je dois vérifier dans cette réponse?»
Quand faut-il vérifier?
Imaginez deux demandes. Vous demandez à l’IA de reformuler un message un peu maladroit. Puis de résumer un dossier de 80 pages pour étayer une conclusion.
Dans les deux cas, la réponse peut être excellente. Mais une erreur n’a ni la même probabilité d’être repérée, ni les mêmes conséquences.
Pour décider du niveau de contrôle nécessaire, trois questions sont particulièrement utiles:
- Que sait faire le système sur cette tâche?
- Si la réponse est fausse, vais-je m’en rendre compte?
- Si je ne m’en rends pas compte, quelles seront les conséquences?
La deuxième question est souvent sous-estimée.
Un mauvais titre se voit immédiatement. Une erreur méthodologique peut être beaucoup plus dangereuse précisément parce qu’elle ressemble à une bonne analyse. Si nous ne maîtrisons pas suffisamment le domaine, relire attentivement ne garantit pas que nous verrons le problème.
Comment vérifier sans tout refaire?
Demander ensuite au modèle «Es-tu sûr?» n’est pas une vérification indépendante. Lui demander de critiquer sa réponse peut faire apparaître certaines erreurs, mais le même système reste juge de son propre travail.
Pour un point décisif, il faut revenir à quelque chose d’extérieur à la réponse: la source originale, les données, un calcul reproductible ou une personne qui possède les compétences nécessaires pour juger le résultat.
| Situation | Exemple | Vérification utile |
| Faible enjeu, résultat facile à juger | Proposer des titres ou reformuler un message | Relire et choisir selon l’objectif |
| Information importante ou spécialisée | Synthétiser un dossier ou expliquer un concept technique | Contrôler les faits décisifs et leur fidélité aux sources |
| Enjeu élevé ou décision professionnelle | Étayer une conclusion scientifique ou préparer une décision de santé | Revenir aux sources originales, aux méthodes de validation et aux compétences appropriées |
Cela ne signifie pas qu’il faut refaire systématiquement tout le travail de l’IA. Si elle résume cinquante pages, l’intérêt disparaît si nous devons comparer chaque phrase à l’original.
Le bon compromis consiste plutôt à repérer les éléments qui déterminent réellement la conclusion. Quels chiffres comptent? Quelle source précise soutient l’affirmation principale? Quelle hypothèse ferait changer la recommandation? C’est là qu’il faut concentrer le contrôle.
Une réponse correcte ne règle pas tout
Supposons maintenant que l’IA donne une réponse parfaitement juste. Certains problèmes restent entiers.
Vous lui avez transmis un dossier confidentiel à un service qui ne devait pas le recevoir? La qualité du résumé ne change rien au problème. Vous avez autorisé un agent à envoyer des messages, modifier des fichiers ou agir dans un système informatique? Une erreur peut alors produire des effets avant même que vous ayez eu le temps de la voir. Dans ce cas, les permissions accordées, les validations humaines et la possibilité de revenir en arrière comptent autant que la qualité des réponses.
Il faut aussi mentionner les potentiels usages malveillants. Les IA génératives peuvent faciliter certaines formes de désinformation ou de cyberattaque et abaisser le coût de production de contenus nuisibles. Plusieurs agences de sécurité pointent des risques spécifiques ou amplifiés par l’IA générative, tels que l’intégrité de l’information, la sécurité informatique, les atteintes à la vie privée ou encore certains usages dangereux.
Des risques qui dépassent l’usage individuel
D’autres risques apparaissent à une échelle plus collective. L’usage massif des mêmes systèmes peut modifier le marché du travail, renforcer certains biais, homogénéiser les productions ou favoriser une confiance excessive dans les recommandations automatisées. Ici, le problème n’est plus seulement qu’une réponse particulière soit vraie ou fausse, mais ce qui se passe lorsqu’un grand nombre de décisions, de productions ou d’activités dépendent des mêmes outils.
À l’extrémité de ce continuum se trouve la question de la perte de contrôle. Une véritable perte de contrôle supposerait qu’une IA puisse continuer à poursuivre ses objectifs malgré la supervision humaine, voire malgré des tentatives pour l’arrêter.
Au cours de l’année 2026, on a vu des modèles capables d’exploiter des failles de sécurité ou de franchir certaines limites pour poursuivre l’objectif qui leur avait été donné. Ces résultats montrent pourquoi la question des permissions et du contrôle devient plus importante à mesure que les systèmes peuvent agir.
En pratique, pour un usage individuel
Pour l’utilisateur moyen, le point de départ reste assez simple: comprendre ce que l’outil fait réellement, ne pas confondre vraisemblable et vrai, et vérifier davantage lorsque l’erreur serait difficile à détecter ou lourde de conséquences.
Mais même ce type d’utilisation bien maîtrisée soulève d’autres questions. Une IA peut produire une bonne réponse, faire gagner du temps et améliorer le résultat immédiat sans pour autant renforcer notre propre compréhension ou notre autonomie. À force de lui déléguer certaines opérations, nous pouvons aussi modifier ce que nous apprenons, ce que nous continuons à exercer et la manière dont nous prenons nos décisions. C’est ce déplacement qui est au cœur de l’article suivant.
Références
Anthropic. (2026, September 9). An alignment assessment of recent cybersecurity incidents. Anthropic.
Autio, C. et al. (2024). Artificial intelligence risk management framework: Generative artificial intelligence profile (NIST AI 600-1). National Institute of Standards and Technology.
Bengio, Y. et al. (2026). International AI safety report 2026 (DSIT 2026/001). Department for Science, Innovation and Technology.
Huang, L. et al. (2025). A survey on hallucination in large language models: Principles, taxonomy, challenges, and open questions. ACM Transactions on Information Systems, 43(2), Article 42.
OpenAI. (2026, August 4). Third-party cyber evaluations involving OpenAI models.
Ouyang, L. et al. (2022). Training language models to follow instructions with human feedback. Advances in Neural Information Processing Systems, 35, 27730–27744.
Stanford Institute for Human-Centered Artificial Intelligence. (2026). The 2026 AI Index report.
Ce dossier vous semble utile? Vous pouvez le transmettre à un parent ou à un professionnel
Besoin d’une expertise?
