Ajoutez de la mémoire au modèle AI21 Labs en utilisant LangChain : Un tutoriel rapide

Introduction

Vous avez probablement déjà été exposé à des modèles d'AI21 Labs. Je suis très à l'aise pour travailler avec eux, mais le gros problème a toujours été de devoir enregistrer manuellement l'historique de mes interactions avec le modèle. Cependant, beaucoup de choses ont changé, et LangChain permet de mettre en œuvre une telle opération en un clin d'œil !

Dans ce tutoriel, je vais expliquer comment l'implémenter rapidement, puis vous pourrez y jouer vous-même !

Implémentation

Dépendances

Tout d'abord, nous devons créer un répertoire de projet, un environnement virtuel et installer quelques dépendances. Faisons-le !

Création d'un Environnement Virtuel

Maintenant, nous devons créer un environnement virtuel :

Installation des Dépendances

Dernière étape de cette phase - installation des dépendances :

Au Temps de Coder !

Maintenant, nous pouvons commencer à coder ! Tout d'abord, nous devons créer un fichier .env avec notre clé API. Vous pouvez l'obtenir depuis AI21 Labs Studio. Je vais utiliser AI21_API_KEY comme nom de variable.

Maintenant, nous pouvons créer un fichier main.py et commencer à coder !

Importation des Modules et Chargement de la Clé API

Je vais importer tous les modules nécessaires et charger la clé API.

J'ai décidé de construire un chatbot simple pour ce tutoriel. Il sera très simple et s'exécutera dans un terminal. N'hésitez pas à créer toute autre application ; je veux juste vous montrer comment vous pouvez le faire ! Quoi qu'il en soit, faisons-le !

Création d'un Modèle de Prompt

Je vais créer un modèle de prompt qui facilitera la compréhension de notre tâche par le modèle. Comme je vais utiliser un modèle qui, par défaut, n'est pas un modèle de conversation mais un LLM régulier, c'est nécessaire.

Je vais également créer un objet mémoire qui stockera l'historique de notre conversation.

J'utiliserai ConversationBufferMemory, mais vous pouvez utiliser un autre type de mémoire. Dans cet article sur les types de mémoire de conversation, d'autres sont bien expliqués ! Allez jeter un œil !

Création d'un LLMChain

Maintenant, nous pouvons créer un LLMChain qui s'occupera de notre conversation.

J'utilise verbose=True pour parcourir l'entrée de la mémoire au Chain.

Boucle Principale

Super, maintenant nous pouvons créer une boucle principale qui itère à travers les étapes de notre conversation.

Résultats

Exécutons notre application !

Conversation

J'ai mené une conversation simple pour tester les performances de notre programme. Comme vous pouvez le voir, l'histoire fonctionne déjà à la deuxième étape, comme cela devrait être !

Comme vous pouvez le voir, implémenter cela n'est pas si difficile et ne prend pas beaucoup de temps. Avec la combinaison d'AI21 et de LangChain, nous sommes capables de construire des applications vraiment puissantes. Je vous encourage à le vérifier pendant notre Hackathon Plug into AI avec AI21 ! N'hésitez pas à nous rejoindre et à construire avec nous !