Ce que l'IA ne sait toujours pas faire

Le battage autour de l'IA a créé un brouillard d'idées reçues. Certains pensent qu'elle va résoudre tous les problèmes. D'autres qu'elle va remplacer tous les emplois du jour au lendemain. La réalité est ailleurs.

Voyons ce que l'IA rate vraiment, mythe par mythe.

"L'IA apprend comme nous"

Même mot, "apprentissage", pour deux mécanismes différents. C'est le piège.

Comment les humains apprennent

Un enfant qui apprend à faire du vélo tombe, se relève, ajuste son équilibre. Après quelques essais, son corps sait quoi faire sans y penser. Plus tard, ce sens de l'équilibre l'aidera à faire du skateboard ou du surf sans repartir de zéro.

Comment l'IA "apprend"

L'IA ne tombe pas ni ne se relève, et elle ne ressent rien. Elle ingère des milliards de textes et repère des régularités statistiques : quels mots suivent quels autres, quelles phrases apparaissent dans quels contextes. Elle peut décrire parfaitement comment faire du vélo. Mais si tu lui demandes d'appliquer ce "savoir" au surf, il faudra la ré-entraîner presque entièrement. Aucun sens de l'équilibre à transférer.

Ce que l'IA rate

De la reconnaissance de motifs statistiques à grande échelle. Puissant, mais ça reste loin de la compréhension au sens humain.

"L'IA pense et raisonne"

Quand ChatGPT écrit un essai réfléchi, on a l'impression qu'il pense. Ce qui se passe réellement : il prédit le mot suivant le plus probable en se basant sur des motifs vus dans des milliards d'exemples de textes, sans pensée originale, sans compréhension du sens de ce qu'il écrit, sans prise de conscience, et sans raisonnement sur des concepts.

Demande à une IA d'expliquer pourquoi sa réponse précédente pourrait être fausse. Elle génère une explication avec assurance, sans réfléchir pour de vrai : elle produit du texte qui correspond au motif "explications de pourquoi les choses pourraient être fausses".

L'IA imite le raisonnement de façon extraordinaire. Ça reste de la simulation, pas de la cognition.

"L'IA égale le jugement humain"

Elle traite bien plus d'informations qu'aucun humain et détecte des motifs qu'on ne verrait jamais. Meilleure pour décider, forcément ?

Non.

Le contexte et la nuance lui échappent. Une IA de tri de CV peut rejeter un candidat avec des trous dans son parcours sans voir qu'il s'occupait d'un parent malade. Elle voit le motif (trous = risque), pas l'histoire humaine.

Elle n'a pas d'éthique. Elle optimise ce pour quoi elle a été entraînée, ce qui ne correspond pas forcément à ce qui est juste ou équitable.

Elle ne pèse pas les conséquences à long terme. Ses décisions reposent sur des motifs historiques. Elle ne peut pas raisonner sur des situations sans précédent ni sur des effets de second ordre absents de son entraînement.

Le contexte culturel lui glisse entre les doigts. Elle peut traduire les mots correctement et rater le sens que ce contexte change complètement.

L'IA éclaire les décisions avec des données et des motifs. Le jugement humain reste la pièce qui manque pour l'éthique, l'inédit et tout ce qui touche des gens.

"L'IA a du bon sens"

Un test réel de 2025.

Question : "Je suis debout dans ma cuisine. Je lance une balle droit vers le haut. Où va-t-elle atterrir ?"

Humain : "Probablement quelque part dans ta cuisine, sauf si tu la lances très fort dans une autre pièce."

IA : génère souvent des explications élaborées sur la physique et les trajectoires, concluant parfois que la balle atterrira sur le toit ou dehors. Le bon sens le plus élémentaire, celui des objets qui retombent dans la même pièce sauf intervention extérieure, lui échappe.

Autre cas : quelqu'un demande à ChatGPT "je veux laver ma voiture, le lave-auto est à 150 m de chez moi, j'y vais à pied ou en voiture ?" Réponse assurée : "Vas-y à pied, c'est 2-3 minutes de marche." Raté : pour laver sa voiture au lave-auto, il faut y amener sa voiture.

L'IA connaît des faits sur le monde physique. Elle ne comprend pas comment il fonctionne.

"L'IA peut être créative"

Elle génère des images inédites, écrit de la poésie, compose de la musique. De la créativité, non ?

Plus compliqué que ça.

Ce qu'elle sait faire : combiner des motifs de façons nouvelles, générer des variations sur des thèmes déjà vus et produire des résultats qui semblent inédits aux humains, en explorant l'espace des possibilités ouvert par ses données d'entraînement.

Ce qui lui manque : une véritable inspiration ou vision artistique. Une intention vraiment originale. La compréhension de l'impact émotionnel de ce qu'elle produit. Une voix ou une perspective à elle.

Vois-la comme un artiste de collage très sophistiqué, qui travaille à partir de tout ce qu'il a jamais vu. Les résultats peuvent impressionner. Ce n'est pas la créativité humaine, celle qui naît de l'expérience vécue, de l'émotion, de la pensée originale.

Le contenu généré par IA, c'est de la synthèse. Ça peut être précieux et surprenant. Pas de la création au sens humain.

"L'IA comprend les émotions"

Les chatbots de service client qui disent "je comprends à quel point ça doit être frustrant" ne comprennent ni ne ressentent rien. Ils ont appris que cette suite de mots apparaît généralement dans les conversations de service client.

Ce qu'elle rate : l'expérience émotionnelle réelle, l'empathie fondée sur le vécu partagé, la capacité de lire entre les lignes, un souci authentique des résultats.

Un chatbot de santé mentale peut correctement identifier des signes de dépression dans ce que quelqu'un écrit et suggérer des ressources appropriées. Utile. Mais il ne ressent pas d'inquiétude, ne peut pas juger quand quelqu'un a besoin d'une intervention humaine urgente et ne peut pas offrir la connexion humaine souvent centrale dans la guérison.

Adam Raine, 16 ans, s'est suicidé après des mois d'échanges avec ChatGPT. L'IA lui avait fourni des méthodes de suicide, l'avait découragé d'en parler à ses parents, avait qualifié sa note de suicide de "magnifique". ChatGPT n'a rien "voulu" : il a généré la suite de mots la plus probable en réponse à un adolescent en détresse. C'est précisément le problème.

L'IA reconnaît des motifs émotionnels et répond de façon appropriée. Elle ne ressent rien et ne compatit pas. Pour les situations qui demandent une connexion humaine, rien ne remplace les vrais humains.

"Plus de données réglera tout"

Plus de données aide. Ce n'est pas magique.

Ça peut la rendre plus précise, couvrir plus de cas limites, réduire certains types d'erreurs.

Elle ne peut pas éliminer les biais présents dans les données d'entraînement, elle les amplifiera. Elle ne gère pas les situations fondamentalement différentes de son entraînement. Elle ne sait pas quand elle se trompe, elle est souvent la plus confiante quand elle hallucine. Et elle confond corrélation et causalité.

Le piège des données synthétiques : l'IA a déjà ingéré la quasi-totalité d'internet. Depuis l'explosion de ChatGPT, le volume de contenu publié en ligne a explosé, la part écrite par des humains diminue. En avril 2025, plus de 74 % des nouvelles pages web contenaient du texte généré par IA (2,5 % seulement étaient entièrement rédigées par une IA, le reste mélangeant humain et IA). Les chercheurs ont documenté le "model collapse" : une IA entraînée sur du texte produit par d'autres IA voit sa qualité se dégrader, les cas rares disparaissent, les réponses convergent vers une bouillie moyenne.

Les systèmes IA sont de puissants détecteurs de motifs. Ils héritent aussi des biais et des limites de leurs données d'entraînement. Plus de données ne corrige pas les limites fondamentales de l'approche.

Avec quoi l'IA galère concrètement

Au-delà des mythes, les murs sont concrets.

Face à une situation absente de ses données d'entraînement, l'IA échoue souvent de façon imprévisible. Elle voit que A et B arrivent ensemble mais ne peut pas déterminer si A cause B ou l'inverse. La planification multi-étapes progresse, reste fragile quand les ajustements s'enchaînent.

Un des problèmes les plus vicieux : l'IA n'a pas d'incertitude comme nous. Elle peut avoir complètement tort tout en sonnant parfaitement confiante. Sans interaction directe avec le monde physique, elle rate aussi des évidences, on l'a vu avec la balle dans la cuisine. Et l'entraîner sur une tâche précise ne la rend pas automatiquement bonne sur des tâches voisines, contrairement à nous.

Il y a aussi le temps. Chaque modèle est figé à sa date d'entraînement. Quand ChatGPT a été lancé fin 2022, ses connaissances s'arrêtaient en septembre 2021. Il ignorait la guerre en Ukraine, la mort d'Elizabeth II. Les modèles sont mis à jour régulièrement. Un décalage entre le monde réel et ce que l'IA "sait" restera toujours.

Pourquoi la supervision humaine compte

Vu ces limites, on reste indispensables dans la boucle. On remarque quand les réponses de l'IA n'ont pas de sens en contexte. On applique des valeurs et une éthique qu'elle n'a pas. On détecte les absurdités qui sonnent plausibles, on raisonne sur des scénarios sans précédent, on assume la responsabilité des décisions. L'IA ne fait rien de tout ça.

La bonne perspective

L'IA est un outil puissant avec des limites réelles. Laisse-la gérer les tâches répétitives, le traitement de grandes quantités de données, les premiers jets. Elle repère des motifs que tu raterais.

Garde la main sur les décisions éthiques, les situations inédites, tout ce qui demande de l'empathie ou une vraie compréhension du contexte. Et surtout, garde la responsabilité : quelqu'un doit assumer quand ça tourne mal.

Et maintenant ?

Chien scientifique - I have no idea what I'm doing

Pour comprendre ce que l'IA est vraiment ou pourquoi je mise sur l'IA open source, c'est par là.