Stack IA open-source en entreprise : 7 briques sérieuses + focus Claude Mem Palace

Architecture mémoire long terme pour un agent IA d’entreprise : du chunk verbatim au knowledge graph temporel.

TL;DR

• Un stack IA d’entreprise sérieux en 2026 ne peut pas reposer sur un seul fournisseur fermé. L’enjeu n’est plus quel modèle, mais quelle architecture — orchestration, mémoire, observabilité, sécurité.
• Sept briques open-source matures se distinguent : vLLM/Ollama (inférence), MCP (interface outils standardisée), LangChain/PydanticAI (orchestration), LlamaIndex (ingestion documentaire), Qdrant/Weaviate (RAG vectoriel), Langfuse/LangSmith (observabilité), et Claude Mem Palace (mémoire long-terme verbatim).
• Le palais mémoire est la pièce manquante la plus sous-estimée. Un RAG plat répond à « retrouve-moi un document » ; un Mem Palace répond à « souviens-toi exactement de ce que ce client m’a dit le 14 mars ». La différence change la nature des cas d’usage.
• Notre retour terrain (POC interne BCUB3) : Mem Palace adapté avec un index symbolique compact en payload secondaire, un verbatim flag par chunk, et un hook de compaction conversationnelle pour la persistance de contexte. 60 000+ points indexés, deux mois d’usage en production interne.
• Sécurité et conformité : supply chain (signed releases, lockfiles), credentials (jamais en clair, age-encrypted), persistance des PII (verbatim flag = audit trail), logs structurés.
• Démarrage 90 jours : Phase 1 PoC isolé (semaines 1-3), Phase 2 intégration SI (semaines 4-9), Phase 3 industrialisation et SLO (semaines 10-13).

---

Pourquoi un stack IA open-source en entreprise ?

Le choix architectural n’est pas binaire : on combine API et OSS selon le cas d’usage. Mais la souveraineté ne se négocie qu’avec des briques que vous contrôlez.

La question n’est plus « faut-il faire de l’IA » mais « sur quoi la fonder ». En 2026, trois pressions convergent :

Vendor lock. Les API propriétaires (OpenAI, Anthropic, Google) coûtent, mais surtout elles déplacent le centre de gravité de votre architecture chez le fournisseur. Quand le modèle est déprécié — et tous le sont, par cycles de 9 à 18 mois — vous reconstruisez. Une infrastructure qui repose à 100 % sur ces API n’a pas de barrière de sortie.

Conformité et souveraineté. RGPD, AI Act européen, secteurs régulés (santé, finance, défense, industries critiques) : la donnée client ne doit pas sortir du périmètre maîtrisé. Les déploiements on-premises ou VPC dédié ne sont possibles qu’avec des briques que vous contrôlez. Un LLM open-source servi en interne via vLLM répond à cette contrainte ; un appel API public, non.

Coût total de possession. Les clients qui passent du PoC à la production découvrent un effet d’échelle inversé : l’API est imbattable jusqu’à ~10 000 requêtes/jour, mais au-delà, l’inférence locale (Llama 3.3 70B, Qwen 2.5 72B, Mistral Large) sur GPU mutualisés devient compétitive. Et certaines tâches (classification, embedding, OCR) sont 30 à 100× moins chères en local.

L’open-source ne résout pas tout — il faut intégrer, monitorer, patcher. Mais il vous redonne les leviers que les API fermées vous retirent.

Les 7 briques sérieuses à intégrer en 2026

Les 4 couches d’un stack IA open-source sécurisé : inférence (vLLM, Ollama), RAG vectoriel (Qdrant, Weaviate), orchestration (MCP, LangChain, PydanticAI), observabilité (Langfuse, LangSmith).

Cette liste est sélective : 7 briques que nous avons effectivement déployées chez des clients ou en interne, avec des chiffres réels (étoiles GitHub, dernières releases, signaux de sécurité). Toutes les claims de bénéfice sont sourcées ou marquées « à confirmer ».

1. vLLM / Ollama — inférence LLM auto-hébergée

vLLM (Berkeley, ~30k★ GitHub, licence Apache 2.0) est le serveur d’inférence haute-performance pour les LLM open-source en production. Il implémente le batching dynamique, le KV-cache paginé (PagedAttention) et OpenAI-compatible API. Pour un déploiement plus léger, Ollama (~140k★, MIT) cible le poste de développeur et les petites équipes.

Où ça brille : quand votre cas d’usage tient sur GPU dédié (A100, H100, RTX 4090) et que la latence par requête doit rester sous 200 ms. Limite : la quantification (GPTQ, AWQ, FP8) demande un savoir-faire ; mal configurée, elle dégrade la qualité de réponse de manière non-monotone.

2. MCP (Model Context Protocol) — l’interface outils standardisée

Lancé par Anthropic mi-2024, MCP standardise la façon dont un agent expose et consomme des outils. Un serveur MCP est une fonction (Python, TypeScript, Go) qui parle stdio, SSE ou WebSocket et déclare son schéma JSON. Tous les agents qui parlent MCP — Claude Code, Cline, OpenHands, et de plus en plus Cursor — peuvent appeler n’importe quel serveur MCP sans glue code.

L’intérêt en entreprise : une seule fois vous écrivez internal_drive_search, et chaque agent de l’organisation peut l’utiliser. Le coût de raccordement passe de N×M à N+M.

Où ça brille : orchestration multi-agents, exposition d’API métier internes aux agents publics. Limite : la spec évolue vite (révisions majeures tous les 4-6 mois) ; les serveurs publiés en 2024 demandent souvent un upgrade pour 2026.

3. LangChain / PydanticAI — orchestration

LangChain reste le poids lourd (~95k★, MIT) — large catalogue d’intégrations, mais réputation de fragilité (refactoring permanent, breaking changes). PydanticAI (par l’équipe Pydantic, ~10k★, MIT, sortie 2024) est l’alternative typée et minimaliste qui monte vite : agents typés via Pydantic models, pas de magie cachée, débuggable.

Notre choix sur le POC interne : PydanticAI pour le code nouveau, LangChain conservé pour les intégrations héritées seulement.

4. LlamaIndex — ingestion documentaire

LlamaIndex (~38k★, MIT) est spécialisé sur le pipeline document → chunks → embeddings → index. Connecteurs natifs vers Drive, Notion, Confluence, SharePoint. Plus opinion que LangChain sur le RAG : moins de flexibilité, plus de cohérence.

Où ça brille : quand le corpus est documentaire (PDF, Word, slides) et que la qualité d’extraction prime. Limite : moins pertinent pour les flux conversationnels ou agentiques purs — c’est un pipeline d’ingestion, pas un orchestrateur d’agents.

5. Qdrant / Weaviate — RAG vectoriel

Qdrant (~22k★, Apache 2.0) en Rust, performant, filter-rich, géré aussi en SaaS. Weaviate (~13k★, BSD) plus orienté multi-modal et schémas typés. Tous deux servent le même besoin : stockage de vecteurs avec recherche HNSW + filtres payload.

Notre retour : Qdrant à >60 000 points actifs sur notre POC interne, pas de plafond visible avant le million.

6. Langfuse / LangSmith — observabilité

Langfuse (~9k★, MIT) auto-hébergeable, traces, prompts, évaluations, coûts. LangSmith (LangChain Inc., propriétaire) plus mature mais SaaS only. En entreprise réglementée, Langfuse gagne par défaut.

Pourquoi c’est non-négociable : sans observabilité, vous ne pouvez ni débugger un agent en production, ni mesurer la dérive qualité, ni justifier vos coûts. Le PoC qui n’instrumente pas dès le J1 est un futur incident.

7. Claude Mem Palace — mémoire long-terme verbatim

C’est la brique récente (lancée fin 2025 par MemPalace, ~51k★ GitHub, MIT, version 3.3.4 en mai 2026) la plus différenciante. Elle traite un problème que LangChain Memory et l’historique RAG ne traitent pas correctement : se souvenir exactement, sans paraphrase, sur des mois.

Sa promesse mesurée — 96,6 % de rappel à 5 sur le benchmark LongMemEval, 98,4 % en hybride — la place devant les approches summarization-based qui perdent ~30 % d’information utile à chaque compression. (Source : page officielle MemPalace, à recalibrer trimestriellement.)

Section dédiée ci-dessous.

Focus — Claude Mem Palace : pourquoi votre IA d’entreprise a besoin d’un palais mémoire

Le palais mémoire IA suit la métaphore spatiale du method of loci : Wings (catégories larges) contiennent des Rooms (unités temporelles), qui contiennent des Drawers (chunks verbatim immutables). C’est la pièce manquante d’un RAG plat.

Le concept reprend la méthode des loci (memory palace, technique mnémonique gréco-romaine) et la transpose en architecture logicielle :

• Wings = catégories larges (un client, un projet, un thème).
• Rooms = unités temporelles (un jour, une session).
• Closets = index intermédiaires (un thème dans une room).
• Drawers = chunks verbatim, jamais paraphrasés, jamais réécrits.

À cela s’ajoute un knowledge graph temporel (triplets entity / predicate / entity avec valid_from / valid_to) qui répond aux questions du type « qui était responsable de PROJ-X en mars 2026 ? » — questions qu’un RAG plat ne peut pas adresser sans relire tout le corpus.

Différence concrète vs RAG plat

Un RAG classique répond à « trouve-moi des passages similaires sémantiquement ». Bonne réponse pour de l’info documentaire. Mauvaise réponse pour :

1. Conversations longues où la chronologie compte (le client a dit X avant Y, donc Z).
2. Faits invariants qui doivent rester littéraux (numéros de série, montants, dates).
3. Évolution d’un état (qui était responsable, à quelle date a-t-on validé).

Un palais mémoire ajoute la garantie verbatim (les conversations sont stockées mot-à-mot) et le graphe temporel (les relations sont datées et invalidables).

Notre retour terrain (POC interne BCUB3)

Nous avons intégré Mem Palace dans notre POC interne (60 000+ points Qdrant actifs). Décisions concrètes prises et documentées dans notre plan d’intégration interne :

• Index symbolique compact : ~150 caractères par point ajoutés au payload secondaire. Format : § W-{wing}/R-{room}/D-{drawer} @p {person} @theme {theme} @t {timestamp}. Permet à un agent de scanner 1 000 entrées en un seul passage LLM avant de faire un seul appel vector search.
• Verbatim flag : un boolean par point Qdrant qui distingue les drawers exacts (mails, conversations, prompts) des descriptions paraphrasées (vision-LLM sur images, classifications). Le retrieval peut filtrer verbatim=true quand on cherche « qu’a dit X exactement », jamais une paraphrase.
• Hook de compaction conversationnelle : déclenché au seuil de 41 % de remplissage de la fenêtre de contexte (Claude Code), il sauvegarde l’état de la conversation dans Qdrant avec entity_type=conv_pre_compact avant que la mémoire courte ne soit compactée. Plus aucune perte de contexte sur compaction.

L’investissement total : ~6 jours de dev pour ces trois quick-wins. Le gain mesuré : zéro perte de conversation longue, retrieval verbatim disponible, prêt pour un knowledge graph temporel en sprint suivant.

Cas d’usage entreprise

Trois scénarios où nous voyons un Mem Palace transformer la nature du service IA :

1. Service client / SAV : l’agent se souvient de tous les échanges précédents avec un client précis, verbatim, sur des années. Exemple : « il y a deux ans, vous m’aviez expliqué que les cordons RJ45 PatchSee gardent leur certification Cat6A même après 500 cycles de débranchement. Pouvez-vous me redire la procédure de test ? » — un RAG plat retournerait peut-être un document générique ; un Mem Palace retourne les mots exacts du précédent échange.
2. Conformité & traçabilité : pour les secteurs régulés (santé, finance, juridique), le verbatim est un argument d’audit. « Voici ce qui a été dit au client, mot pour mot, le 14 mars 2025 à 11h32. »
3. Onboarding & passation : un nouveau collaborateur reçoit l’historique complet d’un compte client, structuré par wings/rooms, sans avoir à relire 18 mois de tickets.

Sécurité et conformité — points de vigilance

Un stack open-source n’est pas automatiquement plus sûr qu’une API propriétaire — il déplace simplement la responsabilité. Trois points à instruire dès le PoC :

Supply chain

• Lockfiles (requirements.txt --hashes, pnpm-lock.yaml, Cargo.lock) systématiques.
• Signed releases quand disponibles (Sigstore, GitHub attestations).
• Veille CVE automatisée sur la dépendance directe et transitive (Dependabot, Snyk, ou pip-audit en cron).
• Pas d’install de wheel non-signé sur les images de production.

Credentials

• Jamais en clair dans un fichier .env poussé. Coffre age ou sops en local, secrets manager (Vault, AWS Secrets Manager, Azure Key Vault) en production.
• Rotation automatique des clés API LLM tous les 90 jours minimum.
• Aucun token dans les logs — redaction côté agent obligatoire.

Persistance des PII

Le palais mémoire pose une question RGPD réelle : si je stocke verbatim, je stocke aussi des données personnelles. Trois mitigations à appliquer :

1. Détection à l’ingest : un classifier léger (Presidio, Microsoft AI4PIN, ou un fine-tuning DeBERTa local) identifie les PII et les marque pii=true dans le payload.
2. Politique d’effacement : valid_to dans le knowledge graph + suppression effective dans Qdrant sur demande utilisateur (droit à l’oubli).
3. Audit trail : chaque accès à un drawer marqué pii=true est tracé dans un log immuable.

Logs structurés

JSON-Lines avec request_id, user_id, tool_called, prompt_hash, model, cost_eur, latency_ms. Sans cela, debug post-incident impossible.

Comment démarrer — feuille de route 90 jours

Plan 13 semaines : 3 semaines PoC isolé, 6 semaines d’intégration SI, 4 semaines d’industrialisation. Trois milestones, trois livrables vérifiables.

Phase 1 — PoC isolé (semaines 1-3)

• vLLM ou Ollama sur un GPU dédié (interne ou cloud).
• Qdrant en Docker single-node, schéma minimal.
• Un MCP server (le plus prioritaire pour votre métier — ex: Drive search, ERP query).
• Langfuse auto-hébergé pour tracer dès le J1.
• Critère de sortie Phase 1 : un cas d’usage métier déroule sans intervention humaine sur 10 demandes consécutives.

Phase 2 — Intégration SI (semaines 4-9)

• Authentification d’entreprise (SSO, OIDC) sur les MCP servers.
• Mem Palace déployé avec verbatim flag + index symbolique compact.
• Hook de compaction conversationnelle câblé pour persistance de contexte.
• Politique PII active à l’ingest.
• Critère de sortie Phase 2 : 50 utilisateurs internes, 5 cas d’usage distincts, latence p95 < 3 s, taux d’erreur < 2 %.

Phase 3 — Industrialisation & SLO (semaines 10-13)

• Quantification fine des modèles (GPTQ ou AWQ) pour réduire la facture GPU.
• Auto-scaling sur la file de requêtes (KEDA + Kubernetes ou équivalent).
• SLO publiés : disponibilité, latence, qualité (eval LLM-as-judge sur jeu d’or hebdomadaire).
• Audit sécurité externe (pentest, revue de code des MCP servers exposés).
• Critère de sortie Phase 3 : prêt pour exposition externe (clients, partenaires).

L’erreur classique : vouloir attaquer Phase 3 dès la Phase 1 et empiler les briques avant que la première ne soit stable. Préférer une seule brique en production fiable, à six briques en démo qui crashent.

FAQ

Quelle est la meilleure IA open-source pour une entreprise en 2026 ?

La question est mal posée — il n’y a pas une seule IA, il y a un stack. Pour le LLM lui-même : Llama 3.3 70B, Qwen 2.5 72B et Mistral Large 2 dominent l’open-source en 2026. Le choix dépend de vos contraintes (langue, compute, finetuning).

Qu’est-ce qu’un palais mémoire pour une IA ?

Un palais mémoire (memory palace) est une architecture logicielle inspirée de la méthode des loci antique, qui organise les souvenirs d’un agent IA en wings (catégories), rooms (unités temporelles), closets (index thématiques) et drawers (chunks verbatim). Implémentation de référence : MemPalace (51k★ GitHub, MIT, mai 2026).

RAG ou palais mémoire — lequel choisir ?

Les deux. RAG plat pour la recherche documentaire sémantique. Palais mémoire pour les conversations longues, les faits invariants, le verbatim et l’évolution chronologique. Ils sont complémentaires, pas concurrents.

Quelle est la stack IA la plus sécurisée pour une entreprise ?

Une stack auto-hébergée (vLLM ou Ollama + Qdrant + MCP servers internes + Langfuse) sur GPU dédié, derrière un VPN d’entreprise, avec coffre age ou Vault pour les credentials, lockfiles et CVE-watch automatisés. Le LLM lui-même n’est pas le maillon faible — la supply chain et les credentials le sont.

Le MCP (Model Context Protocol) est-il prêt pour la production en entreprise ?

Oui, depuis fin 2025. Anthropic, Microsoft, et l’écosystème Cline/OpenHands l’utilisent en production. La spec évolue (révisions tous les 4-6 mois) mais reste rétro-compatible. Notre recommandation : démarrer dès maintenant, prévoir un upgrade par an.

Combien coûte un stack IA open-source en entreprise ?

Investissement initial : 30-90 jours de mise en place (équipe interne 2-3 ETP, ou prestation 60-120 k€). Run : 500-3 000 €/mois de GPU (selon volume), 200-800 €/mois d’infra (Qdrant, Langfuse, monitoring). À comparer avec une facture API LLM qui peut atteindre 10-50 k€/mois pour le même volume.

Comment se former à ces briques ?

BCUB3 propose des accompagnements 2-5 jours (équipe SI / dev / data) pour cadrer le PoC, choisir les briques selon votre contexte, et industrialiser. Prendre 30 minutes pour en parler →

---

Références

• MemPalace — Claude Code plugin guide — page officielle, architecture wings/rooms/closets/drawers, benchmarks LongMemEval.
• Model Context Protocol — Spec officielle — spec stdio / SSE / WebSocket.
• vLLM — Documentation — serveur d’inférence haute-performance.
• Ollama — Site officiel — inférence locale poste développeur.
• Qdrant — Documentation — vector DB Rust, HNSW, filter-rich.
• Langfuse — Open-source LLM observability — traces, prompts, évaluations, coûts.
• PydanticAI — Documentation — orchestration agents typés.
• LlamaIndex — Documentation — pipeline d’ingestion documentaire.
• État de l’art Claude Code en 2026 — notre article pivot sur les primitives Claude Code (hooks, MCP, sub-agents).
• SEO/GEO technique 2026 — schema.org pour les LLM — pourquoi le balisage sémantique est désormais lu par les LLM.

---

On peut en parler

BCUB3 accompagne les équipes SI, data et IA qui veulent construire un stack open-source sérieux : choix de briques selon contexte (vLLM ou Ollama, LangChain ou PydanticAI, Qdrant ou Weaviate), câblage MCP sur SI existant, design des hooks de sécurité, instrumentation Langfuse, intégration palais mémoire.

Pas d’éditeur à placer — on regarde votre stack, votre équipe, votre tolérance au risque, et on dit honnêtement quel est le bon point d’entrée — ou s’il vaut mieux attendre.

Prendre 30 minutes pour en parler →

Pour suivre sans s’engager : la newsletter BCUB3 publie chaque semaine un article de ce niveau, sans hype, sur l’IA et les systèmes agentiques en contexte industriel.

S’abonner à la newsletter →