Llama 2 Tutorial: Eine App mit Clarifai-Integration erstellen

Einführung in Clarifai und Llama-2

Im schnelllebigen Bereich der künstlichen Intelligenz stechen zwei bemerkenswerte Plattformen hervor: Clarifai und Llama-2. Clarifai ist eine moderne Plattform, die es Benutzern ermöglicht, KI-Modelle und -Workflows mit minimalen Programmierkenntnissen zu entdecken, zu erstellen und zu teilen. Sie befähigt Entwickler, die effizient KI-gestützte Anwendungen erstellen möchten.

Llama-2, entwickelt vom Meta AI-Forschungsteam, ist eine Reihe von fortschrittlichen vortrainierten und feinabgestimmten großen Sprachmodellen (LLMs). Auf der Grundlage seines Vorgängers, Llama-1, bringt Llama-2 Verbesserungen mit sich, die seine Leistung und Sicherheit erheblich steigern. Es ist auf komplexe Denkaufgaben in verschiedenen Bereichen zugeschnitten und glänzt in Dialogszenarien wie Chatbots und konversationeller KI.

Eigenschaften von Llama-2

Die Llama-2-Serie umfasst die Llama-2-Chat-Modelle, die speziell dafür optimiert sind, menschenähnliche Antworten in natürlicher Sprache zu generieren. Zum Beispiel ist die 70B-Version auf einem umfangreichen Datensatz vortrainiert, der aus Chatprotokollen und Interaktionen in sozialen Medien besteht, was es ihr ermöglicht, kontextuell präzise Antworten zu liefern.

Darüber hinaus durchlaufen diese Modelle eine rigorose Feinabstimmung, um sicherzustellen, dass ihre Antworten sowohl sicher als auch hilfreich sind. Dieser Prozess umfasst Sicherheitsmaßnahmen gegen die Erzeugung von beleidigendem oder schädlichem Inhalt sowie die Bereitstellung genauer Informationen. Mit einem verlängerten Kontextfenster im Vergleich zu Llama-1 kann Llama-2 umfangreiche Daten verarbeiten, was es ihm ermöglicht, längere Gespräche und umfassendes Dokumentenverständnis zu unterstützen.

Anwendungen von Llama-2

Angebot von Reiseberatung
Bereitstellung von Unterstützung für psychische Gesundheit
Hilfestellung bei Bildungsanfragen
Funktion als persönlicher Assistent

Es ist jedoch wichtig zu beachten, dass die Fähigkeiten von Llama-2 in nicht-englischen Sprachen begrenzt sind. Es besteht ein potenzielles Risiko, dass die Modelle voreingenommene oder schädliche Inhalte generieren, die sich aus der Natur der Trainingsdatensätze ergeben.

Bei der Bewertung hat Llama-2 starke Leistungskennzahlen in verschiedenen NLP-Benchmarks gezeigt und sich als relativ sicher für die Produktion erwiesen, wobei es oft in menschlichen Bewertungen andere Modelle übertrifft.

Erste Schritte mit Clarifai

Lassen Sie uns den Schritt-für-Schritt-Prozess zur Nutzung von Clarifai zur Erstellung von KI-Modellen und -Workflows durchgehen.

1. Konto bei Clarifai erstellen

Um zu beginnen, besuchen Sie die Clarifai-Website und erstellen Sie ein Konto oder melden Sie sich an, falls Sie bereits eines haben.

2. Neue Anwendung erstellen

Nach der Anmeldung werden Sie von einem Dashboard empfangen. Klicken Sie auf die Schaltfläche App erstellen.

Vergibt einen Namen und eine kurze Beschreibung für Ihre App.
Drücken Sie die Schaltfläche App erstellen.
Wenn dies erfolgreich war, werden Sie zur App-Seite weitergeleitet. Optional können Sie ein Titelbild für Ihre Anwendung hinzufügen.

3. Neuen Workflow erstellen

Gehen Sie von der App-Seite aus wie folgt vor:

Wählen Sie Workflows aus der linken Seitenleiste aus.
Klicken Sie auf die Schaltfläche Workflow erstellen.

Sie gelangen in einen Code-freien Bereich, der sich für die Erstellung von Workflows eignet. Finden Sie in der linken Seitenleiste die verfügbaren Komponenten und verwenden Sie die Leinwand, um Komponenten per Drag & Drop hinzuzufügen:

Benennen Sie den Standard-Workflow in Llama2TutorialWorkflow um.
Suchen Sie die Komponente Text-zu-Text, fügen Sie sie zur Leinwand hinzu und verbinden Sie sie mit IN.
Greifen Sie auf die Eigenschaften der ausgewählten Komponente zu und wählen Sie das Modell llama2-70b-chat aus der Dropdown-Liste aus.
Klicken Sie auf die Schaltfläche Workflow speichern.

4. Testen Sie Ihren Workflow

Nun, da Ihr Workflow eingerichtet ist, können Sie ihn testen:

Klicken Sie auf die Schaltfläche + und geben Sie Ihren gewünschten Text ein, z.B. Ich habe Kopfschmerzen. Was soll ich tun?.
Drücken Sie die Schaltfläche Einreichen und warten Sie auf die Antwort des Modells.
Erforschen Sie die JSON-Antwort, indem Sie auf die Schaltfläche JSON anzeigen klicken.

Vertiefung: Erstellen eines neuen Moduls

Lassen Sie uns eine neue Streamlit-App für eine einfache Benutzeroberfläche erstellen:

Öffnen Sie Ihren Visual Studio Code und erstellen Sie eine Datei namens app.py. Hier werden wir eine einfache Benutzeroberfläche für Ihre App entwickeln.
Kopieren Sie den benötigten Code in diese Datei.
Gehen Sie von Llama2TutorialWorkflow aus, klicken Sie auf Workflow verwenden, wählen Sie API aufrufen aus den Tabs und klicken Sie dann auf Code kopieren.
Erstellen Sie eine neue Datei namens llama.py und fügen Sie den kopierten Code dort ein.
Ändern Sie den Code nach Bedarf.
Erstellen Sie eine requirements.txt-Datei mit den erforderlichen Paketen.
Richten Sie ein neues GitHub-Repository ein und übertragen Sie dort Ihren Code.

5. Modul in Clarifai erstellen

Gehen Sie von der Clarifai-App-Seite aus vor:

Wählen Sie Module aus der linken Seitenleiste aus.
Klicken Sie auf die Schaltfläche Modul erstellen.
Füllen Sie die erforderlichen Felder aus und klicken Sie auf die Schaltfläche Modul erstellen.
Geben Sie die URL Ihres GitHub-Repositories an, geben Sie den Branch an, füllen Sie die erforderlichen Felder aus und klicken Sie auf Modulversion erstellen.
Warten Sie einen Moment, bis das Modul bereit ist. Sobald es bereit ist, klicken Sie auf die Option Modul installieren und autorisieren Sie.

Herzlichen Glückwunsch! Sie sollten auf einem neuen Bildschirm landen. Sie können Ihre Anwendung testen und weitere Funktionen erkunden.