Quantification du conflit entre mémoire paramétrique et mémoire contextuelle : Étude des Métriques de Dégradation sur la Famille de modèles Qwen3.5

Overview & Synopsis

Le Retrieval Augmented Generation (RAG) est une technique consistant à extraire des documents depuis une base de données pour les injecter dans le contexte du modèle. Les Grands Modèles de Langue (Large Language Models ou LLM en anglais) s'appuient de plus en plus sur du RAG pour exploiter des informations récentes ou spécifiques. Cette approche est néanmoins source de conflit entre la mémoire paramétrique (le savoir figé dans les poids du modèle) et la mémoire contextuelle (les données injectées dans le prompt via le RAG). Un conflit émerge lorsque ces deux mémoires se contredisent : comment le modèle selectionne-t-il alors la source d'information à privilégier ? Nous étudions ici ce conflit via la mise à jour d'Interface de Programmation d'Application (Application Programming Interface ou API en anglais). Nous simulons une situation où un LLM, entraîné sur une version antérieure de NumPy, reçoit en contexte la documentation de sa nouvelle version. Nous quantifions dans cet article la propension des modèles de la famille qwen3.5 à rejeter leur mémoire paramétrique au profit de la mémoire contextuelle.