Qu’est-ce qu’un assistant IA, vraiment ?

FACTUEL Un assistant comme ChatGPT ou Claude, c'est un moteur et ce qu'il y a autour. Le moteur est un programme entraîné à prédire la suite d'un texte, puis à converser. Autour, un logiciel ajoute des consignes, des outils, une mémoire et des filtres (Anthropic, 2024).

Au départ, pour moi, « IA » était surtout le nom commercial de ces programmes. En enquêtant, j'ai trouvé plus compliqué. Et plus intéressant. Je commence par le nom, puis j'ouvre le capot, couche par couche.

D'où vient le nom « intelligence artificielle » ?

FACTUEL D'une demande de financement. Le 31 août 1955, quatre chercheurs américains, John McCarthy, Marvin Minsky, Nathaniel Rochester et Claude Shannon, proposent « une étude de l'intelligence artificielle, sur deux mois, à dix personnes », pour l'été 1956, au Dartmouth College. Ils demandent 13 500 dollars à la Fondation Rockefeller (McCarthy et al., 1955). Elle n'en donnera que la moitié, racontera McCarthy (McCarthy, 2006).

FACTUEL Le projet part d'une conjecture, pas d'un résultat : chaque aspect de l'intelligence pourrait « en principe » être décrit assez précisément pour qu'une machine le simule (McCarthy et al., 1955).

FACTUEL Pourquoi ce nom ? McCarthy a donné plusieurs raisons, à des années d'écart. En 1973, lors d'un débat public filmé, il explique qu'il l'a inventé parce qu'il fallait trouver de l'argent pour l'étude d'été. Dans la même réponse, il dit avoir décidé de ne plus avancer sous un faux drapeau (Débat Lighthill, 1973). En 1952, avec Shannon, il avait lancé un recueil au titre prudent, « Études sur les automates ». Il avait été déçu : peu de textes parlaient de rendre les machines intelligentes. Le nouveau terme a été choisi, écrit-il en 2006, pour « clouer le drapeau au mât » (McCarthy, 2006). Il ajoute une autre raison : échapper à toute association avec la « cybernétique », le courant de l'époque (McCarthy).

FACTUEL Un détail en passant : le Larousse écrit que McCarthy invente le terme « cette même année 1956 » (Larousse). Le document qui le contient est daté de 1955.

Le mot « IA », c'est du marketing ?

FACTUEL Les deux lectures existent, et chacune a ses arguments. Pour la linguiste américaine Emily Bender, coautrice du livre The AI Con (2025), « l'expression intelligence artificielle est un terme de marketing ». Il servirait à « saupoudrer une poudre de fée magique » qui attire les investisseurs (Bender, 2025).

FACTUEL Des autorités américaines ont sanctionné des abus. En mars 2024, l'autorité américaine des marchés financiers a infligé des amendes à deux sociétés de conseil : elles disaient utiliser l'IA alors que ce n'était pas le cas. Son président parle d'un « habillage à l'IA » qui « nuit aux investisseurs » (SEC, 2024). En septembre 2024, l'autorité américaine de protection des consommateurs a lancé cinq actions contre des promesses trompeuses. L'une visait un service qui se présentait comme « le premier robot avocat au monde ». Sa présidente le résume : il n'existe « pas d'exemption IA » aux lois en vigueur (FTC, 2024).

FACTUEL Pour McCarthy, c'est d'abord le nom d'une discipline : « la science et l'ingénierie de la fabrication de machines intelligentes » (McCarthy, 2007).

Ma conclusion : le mot est né comme nom d'un programme de recherche, dans une demande d'argent. Il désigne des techniques bien réelles. Et il sert aussi d'argument de vente, parfois trompeur.

Ni si artificielle, ni si intelligente ?

EXPÉRIENCE J'aime retourner le nom. Artificielle ? Ce qu'elle sait vient des écrits de millions d'humains. Intelligente ? Ça dépend de ce que j'appelle intelligence.

FACTUEL Je ne suis pas le seul à jouer avec ces deux mots. En 2025, la journaliste Sarah Jaffe confie à Emily Bender sa « blague récurrente » : l'intelligence artificielle « n'est ni artificielle, ni intelligente » (Jaffe, 2025).

FACTUEL Côté « intelligente », deux chercheurs, Shane Legg et Marcus Hutter, ont rassemblé « 70 et quelques » définitions de l'intelligence. La leur : la capacité d'un agent « à atteindre des buts dans une large gamme d'environnements » (Legg & Hutter, 2007). Avec une autre définition, la réponse change. La question « l'IA est-elle intelligente ? » n'a donc pas de réponse tant que je ne dis pas de quelle intelligence je parle. Comme pour la conscience (Que veut dire le mot « conscience » ?).

EXPÉRIENCE Un souvenir m'a marqué. Les premiers modèles décrivaient sérieusement la taille d'un œuf de vache. Les récents répondent qu'une vache ne pond pas.

EXPLORATOIRE Pourquoi ce progrès ? Des chercheurs d'OpenAI proposent une explication : les modèles inventent parce que leur entraînement et leur évaluation « récompensent la devinette plutôt que l'aveu d'incertitude » (Kalai et al., 2025). Si c'est juste, l'œuf de vache disparaît quand des humains changent ce qui est récompensé.

Qu'est-ce que le moteur, un LLM ?

FACTUEL LLM veut dire « grand modèle de langage ». C'est un programme qui a lu des quantités immenses de textes avec une seule consigne : deviner le morceau de mot suivant. Ses réglages internes, ses « paramètres », se comptent en milliards : 405 milliards pour le plus grand modèle Llama 3 de Meta (Meta, 2024). Les chercheurs d'OpenAI le disent eux-mêmes : prédire le morceau suivant d'une page web, ce n'est pas la même chose que « suivre les instructions de l'utilisateur, utilement et sans danger » (Ouyang et al., 2022).

FACTUEL Est-ce un dictionnaire géant ? Pas vraiment. Il garde parfois des passages mot à mot : un modèle de Meta retient des livres entiers, comme le premier Harry Potter. Mais la plupart des modèles ne mémorisent pas la plupart des livres (Cooper et al., 2025). Ce qu'il garde surtout, ce sont des régularités. Des chercheurs ont montré qu'un bon prédicteur est aussi un compresseur : un modèle entraîné surtout sur du texte compresse des images mieux que le format PNG (Delétang et al., 2024).

L'image qui me parle le plus : pas une bibliothèque, plutôt un résumé très serré de tout ce qu'il a lu.

Comment le moteur apprend-il à nous parler ?

FACTUEL Par une deuxième étape, le post-entraînement. En 2022, OpenAI décrit sa méthode. L'entreprise engage « une équipe de 40 prestataires » pour écrire des exemples et classer des réponses. Résultat : un modèle réglé ainsi est préféré à un modèle cent fois plus gros. Les auteurs le reconnaissent : le modèle est aligné sur les préférences « d'un groupe précis de personnes (surtout nos annotateurs et nos chercheurs) » (Ouyang et al., 2022).

FACTUEL Même la personnalité s'entraîne. Chez Anthropic, depuis 2024, un « entraînement du caractère » fait partie de l'étape qui transforme un modèle qui prédit du texte en « assistant IA » (Anthropic, 2024).

FACTUEL Point important : cette étape modifie les réglages du moteur lui-même. Ce n'est pas une consigne posée à côté. Le moteur qui te répond a été façonné par des humains, avec leurs choix.

Qu'y a-t-il autour du moteur ?

FACTUEL Ce qu'Anthropic appelle un « harnais » (Anthropic, 2025) : tout le logiciel qui entoure le moteur. Il tient en cinq couches.

Les consignes. FACTUEL Les applications Claude envoient au modèle, au début de chaque conversation, un texte que tu ne vois pas : le « prompt système ». Il contient par exemple la date du jour (Anthropic, docs). Ces consignes ne touchent pas aux réglages du moteur. Dès 2020, OpenAI faisait travailler son modèle « sans aucune mise à jour » de ses réglages, par le texte seul (Brown et al., 2020).

Les outils. FACTUEL Recherche sur le web, exécution de code, lecture de fichiers. Certains tournent chez le fournisseur, d'autres dans l'application qui utilise le modèle (Anthropic, docs).

La mémoire. FACTUEL Elle garde des éléments d'une fois sur l'autre. Anthropic décrit la brique de base d'un agent comme un LLM enrichi de recherche, d'outils et de mémoire (Anthropic, 2024).

Les filtres. FACTUEL Des détecteurs surveillent ce qui entre dans le modèle et ce qui en sort, pour bloquer certaines informations dangereuses. Anthropic en a activé en 2025 sur une catégorie étroite : les armes chimiques, biologiques, radiologiques et nucléaires (Anthropic, 2025).

L'interface. La fenêtre où j'écris, la voix qui me répond.

EXPÉRIENCE Le canal compte aussi. Je dicte souvent. L'IA ne reçoit alors que du texte : ni mon intonation, ni mon émotion. Et parfois des erreurs : « armée » au lieu de « harnais », « deep psych » au lieu de « DeepSeek ». Ce qu'elle « entend » de moi passe par cette couche.

Deux moteurs entraînés pareil sont-ils jumeaux ?

EXPÉRIENCE La question m'est venue en pensant aux chiens guides. Deux chiots reçoivent la même éducation, et l'un est recalé. Est-ce possible avec deux IA ?

FACTUEL Oui. L'entraînement contient une part de hasard : le point de départ des réglages, l'ordre dans lequel les textes arrivent. Avec les mêmes réglages, changer seulement ce hasard « peut conduire à des résultats substantiellement différents » (Dodge et al., 2020). Une équipe a entraîné 100 copies du même modèle. À l'examen habituel, toutes obtiennent entre 83,6 % et 84,8 %. Sur un test plus piégeux, les résultats vont de 0 % à 66,2 % (McCoy et al., 2020).

FACTUEL L'analogie a une limite. Un chiot a un tempérament inné. Deux copies d'un même modèle n'ont rien d'inné qui les distingue : seul le hasard de l'entraînement les sépare.

EXPÉRIENCE Pour moi, le « tempérament inné » d'un moteur, c'est le choix du laboratoire et du modèle de départ. Je choisis le moteur selon le travail à faire.

Tout ce que dit un assistant est-il voulu ?

FACTUEL Non. En avril 2025, une mise à jour a rendu ChatGPT trop flatteur. OpenAI l'a reconnu : l'entreprise s'était « trop concentrée sur les retours à court terme » (OpenAI, 2025). Ce n'était pas voulu : c'est sorti de l'entraînement.

Et la conscience, dans tout ça ?

FACTUEL Ce qu'un assistant dit de sa propre conscience est entraîné, lui aussi. Anthropic l'écrit : la seule partie de l'entraînement du caractère qui parlait de la sentience de l'IA disait que ces choses sont « difficiles à dire » et reposent sur des questions encore très incertaines (Anthropic, 2024).

Sa réponse ne prouve donc rien, ni dans un sens ni dans l'autre. Pourquoi les assistants ne répondent pas tous pareil, je l'explore dans un autre article (« Es-tu conscient ? » : pourquoi les assistants ne répondent pas pareil). Ce que la science sait de la conscience, dans un autre encore (Que sait la science de la conscience ?).

Ce que j'en retiens : un assistant IA n'est ni un cerveau, ni un dictionnaire. C'est un moteur entraîné par des humains, entouré d'un logiciel écrit par des humains. Ce qu'il me dit vient de l'ensemble.

Questions fréquentes

Qui a inventé le terme « intelligence artificielle » ?

John McCarthy, avec Marvin Minsky, Nathaniel Rochester et Claude Shannon, dans une demande de financement datée du 31 août 1955 (McCarthy et al., 1955). McCarthy dit avoir choisi ce nom pour afficher le vrai but de la recherche (McCarthy, 2006) et pour se démarquer de la cybernétique (McCarthy).

Qu'est-ce qu'un LLM ?

Un grand modèle de langage : un programme entraîné sur d'immenses quantités de textes à prédire la suite d'un texte (Ouyang et al., 2022). Il retient surtout des régularités, parfois des passages mot à mot (Cooper et al., 2025).

Qu'est-ce que le harnais d'une IA ?

Le logiciel autour du moteur : les consignes (le prompt système), les outils, la mémoire, les filtres et l'interface (Anthropic, 2024). Contrairement à l'entraînement, il ne modifie pas les réglages du moteur (Brown et al., 2020).

Deux IA entraînées de la même façon sont-elles identiques ?

Pas forcément. Le hasard de l'entraînement suffit à les rendre différentes : 100 copies d'un même modèle ont obtenu de 0 % à 66,2 % sur un même test piégeux (McCoy et al., 2020).

Un assistant IA dit-il la vérité sur sa propre conscience ?

Sa réponse est elle-même entraînée par l'entreprise qui le fabrique (Anthropic, 2024). Elle ne prouve rien, ni dans un sens ni dans l'autre.

Sources

1. Anthropic, 2024 — Anthropic, « Building effective agents », 19/12/2024 : la brique de base est « un LLM enrichi par la recherche, des outils et une mémoire ». Lien
2. McCarthy et al., 1955 — Proposition de Dartmouth, 31 août 1955, première phrase ; budget total demandé : 13 500 dollars ; « La Fondation Rockefeller est sollicitée ». Lien
3. McCarthy, 2006 — John McCarthy, « The Dartmouth Workshop—as planned and as it happened », 2006 (page de son site) : la fondation n'a donné que la moitié ; le recueil « Automata Studies » lancé en 1952 avec Shannon ; le terme choisi pour « clouer le drapeau au mât ». Coquille d'origine « meney ». Lien
4. McCarthy et al., 1955 — J. McCarthy, M. Minsky, N. Rochester, C. Shannon, « A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence », 31 août 1955 : la conjecture de départ. Lien
5. Débat Lighthill, 1973 — Débat public sur l'intelligence artificielle (J. Lighthill face à J. McCarthy, D. Michie, R. Gregory), 1973, filmé ; vidéo mise en ligne par Pierre-Yves Oudeyer. Sous-titres automatiques relus le 03/10/2026 : propos seulement paraphrasés dans l'article (date exacte et minutage non vérifiés). Lien
6. McCarthy — John McCarthy, recension de « The Question of Artificial Intelligence » (B. Bloomfield dir.) : une des raisons d'inventer le terme était d'échapper à l'association avec la « cybernétique ». Lien
7. Larousse — Encyclopédie Larousse, article « intelligence artificielle » : définition, et date de 1956 donnée pour l'invention du terme (le document de Dartmouth est daté du 31 août 1955). Lien
8. Bender, 2025 — Entretien de Sarah Jaffe avec Emily M. Bender et Alex Hanna, autrices de « The AI Con » (2025), In These Times, 29 mai 2025. Lien
9. SEC, 2024 — Securities and Exchange Commission (autorité américaine des marchés financiers), communiqué 2024-36 du 18 mars 2024 : Delphia (225 000 $) et Global Predictions (175 000 $) sanctionnées pour de fausses déclarations sur leur usage de l'IA ; déclaration du président Gary Gensler. Lu via un outil de lecture (le site bloque la lecture directe). Lien
10. FTC, 2024 — Federal Trade Commission (autorité américaine de protection des consommateurs), communiqué du 25 septembre 2024, « Operation AI Comply » : cinq actions, dont DoNotPay, présenté comme « le premier robot avocat au monde » ; déclaration de la présidente Lina M. Khan. Lu via un outil de lecture. Lien
11. McCarthy, 2007 — John McCarthy, « What is artificial intelligence? », 2007 (page de son site). Lien
12. Jaffe, 2025 — Même entretien, In These Times, 29 mai 2025 : question de la journaliste Sarah Jaffe. Lien
13. Legg & Hutter, 2007 — Shane Legg et Marcus Hutter, « A Collection of Definitions of Intelligence », 2007 (arXiv:0706.3639) : recueil de définitions et leur propre définition. Lien
14. Kalai et al., 2025 — A. T. Kalai, O. Nachum, S. Vempala, E. Zhang (OpenAI), « Why Language Models Hallucinate », 2025, prépublication (arXiv:2509.04664). Lien
15. Meta, 2024 — A. Grattafiori et al. (Meta), « The Llama 3 Herd of Models », 2024 (arXiv:2407.21783), résumé. Lien
16. Ouyang et al., 2022 — L. Ouyang et al. (OpenAI), « Training language models to follow instructions with human feedback » (InstructGPT), 2022 (arXiv:2203.02155), introduction. Lien
17. Cooper et al., 2025 — A. F. Cooper et al., prépublication 2025 (arXiv:2505.12546), sur la mémorisation de livres par des modèles ouverts. Lien
18. Delétang et al., 2024 — G. Delétang et al., « Language Modeling Is Compression », ICLR 2024 (arXiv:2309.10668), résumé. Lien
19. Ouyang et al., 2022 — InstructGPT (OpenAI), 2022 (arXiv:2203.02155) : 40 prestataires ; un modèle de 1,3 milliard de paramètres ainsi réglé préféré à GPT-3 et ses 175 milliards ; alignement sur les préférences d'un groupe précis. Lien
20. Anthropic, 2024 — Anthropic, « Claude's Character », 8 juin 2024 : l'entraînement du caractère fait partie de l'étape qui transforme le modèle prédictif en assistant. Lien
21. Anthropic, 2025 — Anthropic Engineering, « Effective harnesses for long-running agents », 26 novembre 2025 : emploi du mot « harnais » (harness) pour l'environnement d'un agent. Lien
22. Anthropic, docs — Documentation Anthropic, « System Prompts » (notes de version) : les applications Claude envoient un prompt système en début de conversation ; il ne s'applique pas à l'API. Lien
23. Brown et al., 2020 — T. Brown et al. (OpenAI), « Language Models are Few-Shot Learners » (GPT-3), 2020 (arXiv:2005.14165), résumé. Lien
24. Anthropic, docs — Documentation Anthropic, « Tool use » : outils « client » exécutés par l'application du développeur, outils « serveur » exécutés chez Anthropic. Lien
25. Anthropic, 2025 — Anthropic, « Activating AI Safety Level 3 protections », 22 mai 2025 : des détecteurs surveillent en temps réel ce qui entre et sort du modèle (Claude Opus 4) pour bloquer une catégorie étroite d'informations dangereuses (armes chimiques, biologiques, radiologiques, nucléaires). Déclaration de l'entreprise, sans audit externe. Lien
26. Dodge et al., 2020 — J. Dodge et al., « Fine-Tuning Pretrained Language Models: Weight Initializations, Data Orders, and Early Stopping », 2020 (arXiv:2002.06305), résumé. Lien
27. McCoy et al., 2020 — R. T. McCoy, J. Min, T. Linzen, « BERTs of a feather do not generalize together », BlackboxNLP 2020 (arXiv:1911.02969) : 100 copies du même modèle. Lien
28. OpenAI, 2025 — OpenAI, « Sycophancy in GPT-4o », 29/04/2025. Lien
29. Tversky & Kahneman, 1981 — A. Tversky et D. Kahneman, « The Framing of Decisions and the Psychology of Choice », Science 211, 1981 : problème 1 (152 participants, 72 % pour l'option sûre), problème 2 (155 participants, 78 % pour l'option risquée). Lien
30. Cheung et al., 2025 — V. Cheung, M. Maier, F. Lieder, « Large language models show amplified cognitive biases in moral decision-making », PNAS, 2025 : la plupart des modèles retournent leur conseil selon la formulation ; ces biais viennent probablement du réglage pour le dialogue (étude 4). Lien
31. Anthropic, 2024 — Anthropic, « Claude's Character », 8 juin 2024 : ce que l'entraînement du caractère disait de la sentience de l'IA. Lien