Chatbot, fenêtre de contexte, mémoire : ce que l'IA retient (et oublie)

Lundi, tu donnes tes consignes à ChatGPT : ton entreprise, ton ton, ton format. Il applique tout, impeccablement. Jeudi, dans la même conversation devenue interminable, il ressort des emojis que tu avais interdits dès le premier message. Ce n'est pas un bug, et ce n'est pas de la mauvaise volonté : c'est une limite structurelle que cette leçon va te faire toucher du doigt. Quand tu sauras ce qu'est la fenêtre de contexte et comment fonctionne la mémoire d'un chatbot, tu sauras aussi pourquoi les pros de l'IA ouvrent une nouvelle conversation pour chaque tâche, et tu gagneras en qualité de réponse dès cette semaine.

Le chatbot : un LLM dans une boucle

À la leçon 3, tu as vu le moteur : un modèle qui prédit la suite d'un texte. Le chatbot, c'est l'habillage autour : une interface qui rejoue la conversation entière au modèle, à chaque message. Lis bien : à CHAQUE message. Quand tu envoies ta vingtième question, l'outil renvoie au modèle tes dix-neuf échanges précédents plus la nouvelle question, et le modèle complète. Il ne « se souvient » de rien : il relit tout, à chaque fois, très vite. Cette astuce crée l'illusion parfaite d'une conversation suivie. Et elle a un coût : plus la conversation s'allonge, plus il y a de texte à relire. D'où une question : jusqu'où ça tient ?

La fenêtre de contexte se remplit

La fenêtre de contexte : la mémoire de travail du modèle

La quantité de texte que le modèle peut relire d'un coup s'appelle la fenêtre de contexte, et elle se mesure en tokens, l'unité de la leçon 3. Mi-2026, les grands outils offrent des fenêtres de 200 000 tokens à 1 million de tokens, soit l'équivalent de plusieurs centaines de pages. C'est énorme, et ça explique que tu puisses coller un rapport entier dans la conversation. Mais la limite reste une limite : conversation marathon, gros documents empilés, et le début finit par sortir de la fenêtre. Selon les outils, il est tronqué ou résumé automatiquement. Dans les deux cas, tes consignes du premier message peuvent disparaître sans aucun avertissement. Voilà l'explication du scénario du lundi au jeudi.

Même dans la fenêtre, tout ne se vaut pas

Deuxième subtilité, documentée par des chercheurs de Stanford en 2023 sous un nom parlant : « lost in the middle », perdu au milieu. Sur de longs contextes, les modèles retrouvent nettement mieux les informations placées au début et à la fin qu'au milieu. La conséquence pratique tient en une règle : place tes consignes importantes en tête de conversation, et répète-les dans ton dernier message quand l'échange s'éternise. Ce n'est pas de la superstition d'utilisateur : c'est aligné sur la façon dont l'attention du modèle traite les longues séquences.

Et entre deux conversations ?

Par défaut, chaque nouvelle conversation repart de zéro : le modèle ne sait ni qui tu es, ni ce que vous avez fait hier. La fenêtre de contexte, c'est la conversation en cours, point. Depuis 2024, certains outils ajoutent une « mémoire » entre conversations : un carnet de notes séparé où l'outil stocke des faits sur toi (ton métier, tes préférences de format) et les réinjecte discrètement. Pratique, mais sache deux choses. Un : ce carnet se consulte et s'efface dans les réglages, va vérifier ce qu'il contient. Deux : réflexe pro, ne laisse pas traîner dans cette mémoire des informations sensibles ou des données clients. Ta direction informatique te remerciera.

Trois réflexes à adopter dès maintenant

Une tâche, une conversation : nouvelle mission, nouveau chat, contexte propre. Ensuite, redonne le contexte qui compte au lieu de supposer que « l'IA sait » : elle ne sait que ce qui est dans la fenêtre. Enfin, pour les documents très longs, travaille par étapes : demande un résumé intermédiaire, valide-le, repars de ce résumé. Tu économises la fenêtre et tu gardes la main sur la qualité.