« L’IA comprend ce qu’elle dit. (Ou : l’IA n’est qu’un perroquet.) »
Mis à jour le .
En débat
Les deux phrases sont des positions défendues par des chercheur·ses sérieux·ses. Ce qui est sûr : ces modèles produisent des textes très convaincants, et « comprendre » n’a pas de définition qui mette tout le monde d’accord.
Ce qui est vrai
- En 2021, Emily M. Bender, Timnit Gebru et leurs collègues décrivent les modèles de langage comme des « perroquets stochastiques » : ils assemblent des formes de langage selon des probabilités, sans référence au sens.
- D’autres jugent que ces modèles montrent des formes générales d’intelligence ; en 2023, des chercheur·ses de Microsoft voient dans une version de GPT-4 une « version précoce, encore incomplète » d’intelligence générale.
- En 2025, dans un test de Turing, GPT-4.5 (avec une consigne de jouer un humain) est jugé humain dans 73 % des cas, plus souvent que les vrai·es humain·es.
Ce qui est faux
- Être pris pour un humain ne prouve pas qu’on comprend : c’est tout le sens de l’expérience de la « chambre chinoise » de John Searle (1980).
- À l’inverse, dire « ce n’est qu’un perroquet » ne règle pas la question : les partisan·es de l’autre position répondent que le système entier pourrait comprendre.
Pourquoi on y croit
Nous attribuons spontanément une intention à ce qui parle comme nous. Et les mots « comprendre » ou « penser » n’ont jamais eu de définition simple, même pour les humains.
Pour comprendre le mécanisme
Le module Une machine peut-elle penser ? explique et fait manipuler ce qui se cache derrière.
Fiche suivante : « Je n’ai rien à cacher, donc la surveillance ne me concerne pas. » · toutes les fiches