Chatbot, fenêtre de contexte, mémoire : ce que l'IA retient (et oublie)
L'IA retient toute ta conversation. Jusqu'au moment où elle commence à oublier.
Ce que tu vas apprendre
- Comprendre ce qu'est la fenêtre de contexte et pourquoi elle est limitée
- Distinguer la mémoire d'une conversation et la mémoire entre conversations
- Savoir quand ouvrir une nouvelle conversation pour de meilleurs résultats
Lundi, tu donnes tes consignes à ChatGPT : ton entreprise, ton ton, ton format. Il applique tout, impeccablement. Jeudi, dans la même conversation devenue interminable, il ressort des emojis que tu avais interdits dès le premier message. Ce n'est pas un bug, et ce n'est pas de la mauvaise volonté : c'est une limite structurelle que cette leçon va te faire toucher du doigt. Quand tu sauras ce qu'est la fenêtre de contexte et comment fonctionne la mémoire d'un chatbot, tu sauras aussi pourquoi les pros de l'IA ouvrent une nouvelle conversation pour chaque tâche, et tu gagneras en qualité de réponse dès cette semaine.
Le chatbot : un LLM dans une boucle
À la leçon 3, tu as vu le moteur : un modèle qui prédit la suite d'un texte. Le chatbot, c'est l'habillage autour : une interface qui rejoue la conversation entière au modèle, à chaque message. Lis bien : à CHAQUE message. Quand tu envoies ta vingtième question, l'outil renvoie au modèle tes dix-neuf échanges précédents plus la nouvelle question, et le modèle complète. Il ne « se souvient » de rien : il relit tout, à chaque fois, très vite. Cette astuce crée l'illusion parfaite d'une conversation suivie. Et elle a un coût : plus la conversation s'allonge, plus il y a de texte à relire. D'où une question : jusqu'où ça tient ?
La fenêtre de contexte se remplit
La fenêtre de contexte : la mémoire de travail du modèle
La quantité de texte que le modèle peut relire d'un coup s'appelle la fenêtre de contexte, et elle se mesure en tokens, l'unité de la leçon 3. Mi-2026, les grands outils offrent des fenêtres de 200 000 tokens à 1 million de tokens, soit l'équivalent de plusieurs centaines de pages. C'est énorme, et ça explique que tu puisses coller un rapport entier dans la conversation. Mais la limite reste une limite : conversation marathon, gros documents empilés, et le début finit par sortir de la fenêtre. Selon les outils, il est tronqué ou résumé automatiquement. Dans les deux cas, tes consignes du premier message peuvent disparaître sans aucun avertissement. Voilà l'explication du scénario du lundi au jeudi.
Même dans la fenêtre, tout ne se vaut pas
Deuxième subtilité, documentée par des chercheurs de Stanford en 2023 sous un nom parlant : « lost in the middle », perdu au milieu. Sur de longs contextes, les modèles retrouvent nettement mieux les informations placées au début et à la fin qu'au milieu. La conséquence pratique tient en une règle : place tes consignes importantes en tête de conversation, et répète-les dans ton dernier message quand l'échange s'éternise. Ce n'est pas de la superstition d'utilisateur : c'est aligné sur la façon dont l'attention du modèle traite les longues séquences.
Et entre deux conversations ?
Par défaut, chaque nouvelle conversation repart de zéro : le modèle ne sait ni qui tu es, ni ce que vous avez fait hier. La fenêtre de contexte, c'est la conversation en cours, point. Depuis 2024, certains outils ajoutent une « mémoire » entre conversations : un carnet de notes séparé où l'outil stocke des faits sur toi (ton métier, tes préférences de format) et les réinjecte discrètement. Pratique, mais sache deux choses. Un : ce carnet se consulte et s'efface dans les réglages, va vérifier ce qu'il contient. Deux : réflexe pro, ne laisse pas traîner dans cette mémoire des informations sensibles ou des données clients. Ta direction informatique te remerciera.
Trois réflexes à adopter dès maintenant
Une tâche, une conversation : nouvelle mission, nouveau chat, contexte propre. Ensuite, redonne le contexte qui compte au lieu de supposer que « l'IA sait » : elle ne sait que ce qui est dans la fenêtre. Enfin, pour les documents très longs, travaille par étapes : demande un résumé intermédiaire, valide-le, repars de ce résumé. Tu économises la fenêtre et tu gardes la main sur la qualité.
Teste les limites de la mémoire
Ouvre une NOUVELLE conversation dans ton outil habituel, et colle ce prompt :
Deux résultats possibles. Soit l'outil ne sait pas : tu viens de vérifier que la fenêtre de contexte se limite à la conversation en cours. Soit il sait des choses sur toi : la fonction mémoire est activée. Dans ce cas, file dans les réglages voir ce qui est stocké, et fais le ménage si besoin.
Teste ta compréhension
- Un chatbot ne se souvient pas : il renvoie toute la conversation au modèle, à chaque message.
- La fenêtre de contexte (200 000 à 1 million de tokens mi-2026) borne ce que le modèle peut relire ; au-delà, le début disparaît.
- Même dans la fenêtre, le milieu se perd : consignes importantes au début, répétées à la fin.
- La mémoire entre conversations est un carnet séparé : consulte-le, nettoie-le, n'y laisse rien de sensible.
Termes du glossaire
Sources
- arxiv.org/abs/2307.03172 → (s'ouvre dans un nouvel onglet)
Liu, N. F. et al. (2023). « Lost in the Middle: How Language Models Use Long Contexts ». TACL.
- docs.claude.com → (s'ouvre dans un nouvel onglet)
Anthropic. « Context windows » (documentation développeur).
- openai.com → (s'ouvre dans un nouvel onglet)
OpenAI (2024). « Memory and new controls for ChatGPT ».