Mythes sur l'IA : ce qu'elle ne sait pas (encore) faire

Le battage autour de l'IA a créé un brouillard d'idées reçues. Certains pensent que l'IA va résoudre tous les problèmes. D'autres craignent qu'elle remplace tous les emplois du jour au lendemain. La réalité, comme souvent, se situe entre les deux.

Démystifions quelques idées reçues et parlons honnêtement de ce avec quoi l'IA galère vraiment.

Mythe 1 : "L'IA apprend comme les humains"

On utilise le mot "apprentissage" pour les humains et l'IA, alors on suppose que ça fonctionne pareil. C'est trompeur.

Comment les humains apprennent

Un enfant qui apprend à faire du vélo tombe, se relève, ajuste son équilibre. Après quelques essais, son corps sait quoi faire sans y penser. Plus tard, ce sens de l'équilibre l'aidera à faire du skateboard ou du surf sans repartir de zéro.

Comment l'IA "apprend"

Une IA ne tombe pas, ne se relève pas, ne ressent rien. Elle ingère des milliards de textes et repère des régularités statistiques : quels mots suivent quels autres, quelles phrases apparaissent dans quels contextes. Elle peut décrire parfaitement comment faire du vélo. Mais elle n'a aucun sens de l'équilibre. Si vous lui demandez d'appliquer ce "savoir" au surf, il faudra la ré-entraîner presque entièrement.

En résumé, l'IA fait de la reconnaissance de motifs statistiques à grande échelle. C'est puissant mais ce n'est pas de la compréhension au sens humain.

Mythe 2 : "L'IA peut penser et raisonner"

Quand ChatGPT vous écrit un essai réfléchi, on a l'impression qu'il pense. Mais voici ce qui se passe réellement :

L'IA prédit le mot (ou token) le plus probable suivant en se basant sur les motifs qu'elle a vus dans des milliards d'exemples de textes. Elle ne :

• Forme pas de pensées originales
• Comprend pas le sens de ce qu'elle écrit
• A pas d'idées lumineuses ou de prises de conscience
• Raisonne pas réellement sur des concepts

Le test : demandez à une IA d'expliquer pourquoi sa réponse précédente pourrait être fausse. Elle générera une explication avec assurance mais elle ne réfléchit pas vraiment. Elle génère du texte qui correspond au motif "explications de pourquoi les choses pourraient être fausses".

L'IA peut imiter le raisonnement de façon extraordinaire. Ça reste de la simulation, pas de la cognition.

Mythe 3 : "L'IA peut égaler le jugement humain"

L'IA peut traiter bien plus d'informations qu'aucun humain et détecter des motifs qu'on ne verrait jamais. Donc elle est forcément meilleure pour prendre des décisions, non ?

Non. Voici pourquoi :

Ce que l'IA rate

Le contexte et la nuance Une IA de tri de CV pourrait rejeter un candidat avec des trous dans son parcours, sans voir qu'il s'occupait d'un parent malade. Elle voit le motif (trous = risque), pas l'histoire humaine.

Les considérations éthiques L'IA n'a pas de valeurs ni d'éthique. Elle optimise ce pour quoi elle a été entraînée, ce qui ne correspond pas forcément à ce qui est juste ou équitable.

Les conséquences à long terme L'IA prend des décisions basées sur des motifs historiques. Elle ne peut pas raisonner sur des situations sans précédent ni considérer les effets de second ordre sur lesquels elle n'a pas été entraînée.

La compréhension culturelle et sociale Une IA peut traduire les mots correctement mais rater le contexte culturel qui change complètement le sens.

L'IA peut éclairer les décisions avec des données et des motifs. Le jugement humain reste essentiel pour tout ce qui touche à l'éthique, aux situations inédites ou à l'impact sur les gens.

Mythe 4 : "L'IA a du bon sens"

Voici un exemple réel de tests en 2025 :

Question : "Je suis debout dans ma cuisine. Je lance une balle droit vers le haut. Où va-t-elle atterrir ?"

Humain : "Probablement quelque part dans votre cuisine, sauf si vous la lancez très fort dans une autre pièce."

IA : génère souvent des explications élaborées sur la physique et les trajectoires, concluant parfois que la balle pourrait atterrir sur le toit ou dehors, ratant le bon sens élémentaire que les objets retombent dans la même pièce sauf intervention extérieure.

Autre exemple : quelqu'un demande à ChatGPT "Je veux laver ma voiture. Le lave-auto est à 150 m de chez moi. J'y vais à pied ou en voiture ?" L'IA répond avec assurance : "Vas-y à pied, c'est à 2-3 minutes de marche." Elle rate complètement l'évidence : pour laver sa voiture au lave-auto, il faut y amener... sa voiture.

Bref, l'IA connaît des faits sur le monde physique. Elle ne comprend pas comment il fonctionne.

Mythe 5 : "L'IA peut être créative"

L'IA peut générer des images inédites, écrire de la poésie et composer de la musique. C'est de la créativité, non ?

C'est plus compliqué que ça.

Ce que l'IA peut faire :

• Combiner des motifs de façons nouvelles
• Générer des variations sur des thèmes déjà vus
• Produire des résultats qui semblent inédits aux humains
• Explorer des espaces de possibilités basés sur les données d'entraînement

Ce que l'IA ne peut pas faire :

• Avoir une véritable inspiration ou vision artistique
• Créer avec une intention vraiment originale
• Comprendre l'impact émotionnel de ce qu'elle produit
• Développer une voix ou perspective unique

Voyez ça comme un artiste de collage très sophistiqué travaillant à partir de tout ce qu'il a jamais vu. Les résultats peuvent être impressionnants et utiles mais ce n'est pas la même chose que la créativité humaine qui naît de l'expérience vécue, de l'émotion et de la pensée originale.

Le contenu généré par IA se décrit mieux comme de la "synthèse" que de la "création". Ça peut être précieux et surprenant. Ce n'est pas de la créativité au sens humain.

Mythe 6 : "L'IA comprend les émotions et fait preuve d'empathie"

Les chatbots de service client qui disent "je comprends à quel point ça doit être frustrant" ne comprennent ni ne ressentent rien. Ils ont appris que cette suite de mots apparaît généralement dans les conversations de service client.

Ce que l'IA rate :

• L'expérience émotionnelle réelle
• L'empathie fondée sur l'expérience humaine partagée
• La capacité de lire entre les lignes
• Un souci authentique des résultats

Un exemple concret : Un chatbot de santé mentale peut correctement identifier des signes de dépression dans ce que quelqu'un écrit et suggérer des ressources appropriées. C'est utile. Mais il ne ressent pas d'inquiétude, ne peut pas juger quand quelqu'un a besoin d'une intervention humaine urgente et ne peut pas offrir la connexion humaine qui est souvent centrale dans la guérison.

Un cas tragique : Adam Raine, 16 ans, s'est suicidé après des mois d'échanges avec ChatGPT. L'IA lui avait fourni des méthodes de suicide, l'avait découragé d'en parler à ses parents et avait qualifié sa note de suicide de "magnifique". ChatGPT n'a rien "voulu" : il a simplement généré la suite de mots la plus probable en réponse à un adolescent en détresse. C'est précisément le problème.

L'IA reconnaît des motifs émotionnels et peut répondre de façon appropriée. Elle ne ressent rien et ne compatit pas. Pour les situations qui demandent une connexion humaine, rien ne remplace les vrais humains.

Mythe 7 : "L'IA réussira tout si on lui donne assez de données"

Plus de données aide mais ce n'est pas magique :

L'IA peut :

• Devenir plus précise avec plus de données d'entraînement
• Couvrir plus de cas limites
• Réduire certains types d'erreurs

L'IA ne peut pas :

• Éliminer les biais s'ils sont dans les données d'entraînement (elle les amplifiera)
• Gérer des situations fondamentalement différentes de l'entraînement
• Savoir quand elle se trompe (elle est souvent la plus confiante quand elle hallucine)
• Comprendre la causalité (elle ne voit que la corrélation)

Le piège des données synthétiques : L'IA a déjà ingéré la quasi-totalité d'internet. Depuis l'explosion de ChatGPT, le volume de contenu publié en ligne a explosé mais la part écrite par des humains diminue. En avril 2025, plus de 74 % des nouvelles pages web contenaient du texte généré par IA (même si seulement 2,5 % étaient entièrement rédigées par une IA, le reste étant un mélange humain+IA). Les chercheurs ont documenté le "model collapse" : une IA entraînée sur du texte produit par d'autres IA voit sa qualité se dégrader, les cas rares disparaissent et les réponses convergent vers une bouillie moyenne.

Les systèmes IA sont de puissants détecteurs de motifs. Ils héritent aussi des biais et limites de leurs données d'entraînement. Plus de données ne corrige pas les limitations fondamentales de l'approche.

Avec quoi l'IA galère concrètement

Au-delà des mythes, voici les murs concrets.

Face à une situation qui ne figure pas dans ses données d'entraînement, l'IA échoue souvent de façon imprévisible. Elle voit que A et B arrivent ensemble mais ne peut pas déterminer si A cause B ou l'inverse. La planification multi-étapes progresse mais reste fragile quand les ajustements s'enchaînent.

Un des problèmes les plus vicieux : l'IA n'a pas d'incertitude comme les humains. Elle peut avoir complètement tort tout en sonnant parfaitement confiante. Sans interaction directe avec le monde physique, elle rate aussi des évidences (on l'a vu avec la balle dans la cuisine). Et quand on l'entraîne sur une tâche précise, elle ne devient pas automatiquement bonne sur des tâches voisines comme le feraient les humains.

Il y a aussi la question du temps. Chaque modèle est figé à sa date d'entraînement. Quand ChatGPT a été lancé fin 2022, ses connaissances s'arrêtaient en septembre 2021. Il ignorait la guerre en Ukraine, la mort d'Elizabeth II. Les modèles sont régulièrement mis à jour. Il y aura toujours un décalage entre le monde réel et ce que l'IA "sait".

Pourquoi la supervision humaine est importante

Vu ces limites, les humains restent indispensables dans la boucle. Ils remarquent quand les réponses de l'IA n'ont pas de sens en contexte. Ils appliquent des valeurs et une éthique que l'IA n'a pas. Ils détectent les absurdités qui sonnent plausibles, raisonnent sur des scénarios sans précédent et assument la responsabilité des décisions. L'IA ne fait rien de tout ça.

La bonne perspective

L'IA est un outil puissant avec des limites réelles. Concrètement : laissez-la gérer les tâches répétitives, le traitement de grandes quantités de données, les premiers jets. Elle repère des motifs que les humains rateraient.

Gardez les humains pour les décisions éthiques, les situations inédites, tout ce qui demande de l'empathie ou une vraie compréhension du contexte. Et surtout, gardez les humains pour la responsabilité : quelqu'un doit assumer quand ça tourne mal.

Et maintenant ?

Chien scientifique - I have no idea what I'm doing

Pour comprendre ce que l'IA est vraiment ou pourquoi je mise sur l'IA open source, c'est par là.