Speicher zu AI21 Labs Modellen mit LangChain hinzufügen: Ein Schritt-für-Schritt Tutorial

Einführung

In den letzten Jahren haben sich KI-Modelle dramatisch weiterentwickelt, sodass Entwickler mit vergleichsweise geringem Aufwand Chatbots und Konversationsagenten erstellen können. AI21 Labs hat mehrere Modelle eingeführt, die es Nutzern ermöglichen, das Potenzial der künstlichen Intelligenz zu nutzen. Eine Herausforderung, mit der viele Entwickler konfrontiert sind, ist die manuelle Verfolgung von Interaktionen mit diesen Modellen. Hier kommt LangChain ins Spiel, das den Prozess der Verwaltung von Gesprächsverläufen optimiert. In diesem Leitfaden werden wir erläutern, wie man schnell einen einfachen Chatbot implementiert, der LangChain für das Gedächtnismanagement nutzt.

Implementierung

Abhängigkeiten

Um zu beginnen, richten wir ein Projektverzeichnis ein und erstellen eine virtuelle Umgebung, in der wir die erforderlichen Abhängigkeiten installieren können. So starten Sie:

mkdir my_chatbot
cd my_chatbot
python -m venv venv
source venv/bin/activate  # Unter Windows verwenden: venv\Scripts\activate

Abhängigkeiten installieren

Nachdem Sie Ihre virtuelle Umgebung aktiviert haben, ist der nächste Schritt, die erforderlichen Bibliotheken zu installieren. Wir werden hauptsächlich LangChain und die AI21-API verwenden. Sie können diese mit pip installieren:

pip install langchain ai21

Coding-Zeit!

Nun ist es Zeit, unseren Chatbot zu programmieren. Beginnen Sie damit, eine .env-Datei in Ihrem Projektverzeichnis zu erstellen, um Ihren API-Schlüssel von AI21 Labs zu speichern. Dieser Schlüssel ermöglicht es uns, Anfragen an das AI21-Modell zu senden.

echo "AI21_API_KEY=your_api_key_here" > .env

Erstellen der Hauptdatei

Erstellen Sie eine neue Datei mit dem Namen main.py in Ihrem Projektverzeichnis. Diese Datei wird den gesamten Code für unseren Chatbot enthalten. Beginnen Sie mit dem Import der benötigten Module und dem Laden Ihres API-Schlüssels:

import os
from langchain import LLMChain
from langchain.memory import ConversationBufferMemory
import ai21  

# API-Schlüssel laden
from dotenv import load_dotenv
load_dotenv()
api_key = os.getenv("AI21_API_KEY")

Einrichten des Chatbots

Für den Zweck dieses Tutorials werden wir einen einfachen Chatbot erstellen, der im Terminal läuft. Sie können diese Anwendung nach Bedarf anpassen und erweitern. Beginnen Sie mit der Einrichtung einer Vorlage für Aufforderungen, um das Modell zu leiten:

prompt_template = "Sie sind ein hilfreicher Assistent. Wie kann ich Ihnen heute helfen?"
memory = ConversationBufferMemory(memory_key="chat_history", return_messages=True)

Als nächstes instanziieren Sie die LLM-Kette, um das Gespräch zu verwalten:

llm_chain = LLMChain(llm=ai21.AI21(api_key), prompt=prompt_template, memory=memory, verbose=True)

Erstellen der Hauptschleife

Der nächste Schritt besteht darin, die Hauptschleife für den Chatbot zu implementieren. Diese Schleife ermöglicht es dem Benutzer, Text einzugeben und Antworten zu erhalten:

while True:
    user_input = input("You: ")
    if user_input.lower() == 'exit':
        break
    response = llm_chain.run(input=user_input)
    print(f"AI: {response}")

Ergebnisse

Jetzt, da wir unseren Chatbot eingerichtet haben, ist es Zeit, die Anwendung auszuführen!

python main.py

Sobald die Anwendung läuft, können Sie ein Gespräch mit Ihrem AI-Chatbot führen. Der Chatbot behält das Gedächtnis Ihrer früheren Interaktionen, was den gesamten Gesprächsfluss verbessert. Sie werden bemerken, wie das Gedächtnis nahtlos funktioniert und eine reichhaltigere Benutzererfahrung ermöglicht.

Testen der Anwendung

Um die Funktionalität zu testen, initiieren Sie ein Gespräch. Während Sie weiter chatten, beobachten Sie, wie der Chatbot den Kontext erinnert und entsprechend reagiert:

You: Hallo!
AI: Sie sind ein hilfreicher Assistent. Wie kann ich Ihnen heute helfen?
You: Erzählen Sie mir einen Witz!
AI: Warum hat die Vogelscheuche einen Preis gewonnen? Weil sie hervorragend in ihrem Feld war!

Fazit

Die Implementierung eines Chatbots mit AI21 Labs und LangChain ist nicht nur unkompliziert, sondern auch äußerst effektiv bei der Erstellung reaktionsschneller Anwendungen. Dieses Tutorial hat die wesentlichen Schritte skizziert, um Ihren eigenen Chatbot mit integriertem Gesprächsgedächtnis einzurichten. Ich ermutige Sie, sich mit anderen Entwicklern auszutauschen und während des Plug into AI with AI21 Hackathon weiter zu erkunden! Viel Spaß beim Programmieren!