Speicher zum AI21 Labs Modell mit LangChain hinzufügen: Ein schneller Leitfaden

Einführung

Sie wurden wahrscheinlich bereits mit Modellen von AI21 Labs vertraut gemacht. Ich arbeite sehr gerne mit ihnen, aber das große Problem war immer, die Historie meiner Interaktionen mit dem Modell manuell aufzeichnen zu müssen. Vieles hat sich jedoch geändert, und LangChain macht es möglich, eine solche Operation im Handumdrehen durchzuführen!

In diesem Tutorial werde ich erklären, wie man dies schnell umsetzt, danach können Sie selbst damit spielen!

Implementierung

Abhängigkeiten

Zuerst müssen wir ein Projektverzeichnis erstellen, eine virtuelle Umgebung einrichten und einige Abhängigkeiten installieren. Lassen Sie uns das tun!

Erstellen einer virtuellen Umgebung

Jetzt müssen wir eine virtuelle Umgebung erstellen:

Installieren von Abhängigkeiten

Letzter Schritt dieser Phase - Abhängigkeiten installieren:

Coding-Zeit!

Jetzt können wir mit dem Codieren beginnen! Zuerst müssen wir eine .env Datei mit unserem API-Schlüssel erstellen. Sie können es im AI21 Labs Studio erhalten. Ich werde AI21_API_KEY als Variablennamen verwenden.

Jetzt können wir die main.py Datei erstellen und mit dem Codieren beginnen!

Importieren von Modulen und Laden des API-Schlüssels

Ich werde alle notwendigen Module importieren und den API-Schlüssel laden.

Ich habe beschlossen, einen einfachen Chatbot für dieses Tutorial zu erstellen. Es wird sehr einfach sein und in einem Terminal laufen. Fühlen Sie sich frei, jede andere Anwendung zu erstellen; ich möchte Ihnen nur zeigen, wie Sie es machen können! Lassen Sie uns das machen!

Erstellen einer Eingabeaufforderungsvorlage

Ich werde eine Eingabeaufforderungsvorlage erstellen, die es dem Modell erleichtert, unsere Aufgabe zu verstehen. Da ich ein Modell verwenden werde, das standardmäßig kein Chat-Modell, sondern ein reguläres LLM ist, ist dies notwendig.

Ich werde auch ein Speicherobjekt erstellen, das unsere Gesprächshistorie speichert.

Ich werde ConversationBufferMemory verwenden, aber Sie können auch einen anderen Speichertyp verwenden. In diesem Artikel über Gesprächsspeichertypen werden andere gut erklärt! Schauen Sie es sich an!

Erstellen einer LLMChain

Jetzt können wir eine LLMChain erstellen, die sich um unser Gespräch kümmert.

Ich verwende verbose=True, um die Eingabe von Memory zu Chain zu durchblättern.

Hauptschleife

Großartig, jetzt können wir eine Hauptschleife erstellen, die durch die Phasen unseres Gesprächs iteriert.

Ergebnisse

Lassen Sie uns unsere Anwendung ausführen!

Gespräch

Ich habe ein einfaches Gespräch geführt, um die Leistung unseres Programms zu testen. Wie Sie sehen können, funktioniert die Historie bereits in der zweiten Phase, wie sie es sollte!

Wie Sie sehen können, ist die Implementierung nicht so schwierig und dauert nicht lange. Mit der Kombination aus AI21 und LangChain sind wir in der Lage, wirklich leistungsstarke Anwendungen zu erstellen. Ich ermutige Sie, dies während unseres Plug into AI with AI21 Hackathons auszuprobieren! Fühlen Sie sich frei, beizutreten und mit uns zu bauen!