Les agents d'intelligence artificielle représentent l'évolution significative du chatbot sans statut vers un workflow complexe. Pour augmenter efficacement l'échelle, il faut une architecture de mémoire innovante.
Parallèlement à la croissance de modèles de base qui atteignent des trillions de paramètres et de fenêtres contextuelles qui s'étendent à des millions de jetons, les coûts de calcul pour se souvenir de l'histoire de l'interaction augmentent plus rapidement que la capacité du système à le traiter. Cette condition pose un énorme défi pour les organisations qui mettent en œuvre le système d'agents d'IA, soulignant la nécessité de solutions de mémoire plus efficaces.