Cohere Tutorial: Erstellen einer einfachen Helpdesk-App für Superhelden

Einführung

Einführung in die Cohere-Plattform Cohere ist eine leistungsstarke Plattform, die über eine benutzerfreundliche API Zugriff auf hochmoderne Modelle der natürlichen Sprachverarbeitung bietet. Diese Plattform ermöglicht Entwicklern die nahtlose Integration einer Vielzahl von Aufgaben der natürlichen Sprachverarbeitung in ihre Anwendungen, wie z.B. Textklassifizierung, Embeddings und sogar Textgenerierung.

Über das Standardangebot hinaus bietet Cohere auch die Möglichkeit, maßgeschneiderte Modelle zu erstellen, die auf spezifische Anwendungsfälle zugeschnitten sind. Sie können Ihre eigenen Trainingsdaten nutzen und strategisch festlegen, wie diese Daten während des Trainingsprozesses verwendet werden sollen.

Eine der herausragenden Eigenschaften von Cohere ist sein Playground - ein Raum, in dem Sie die verschiedenen Facetten der Plattform erkunden und experimentieren können. Ob Sie menschlich klingenden Text generieren, Texte in vordefinierte Kategorien klassifizieren oder die semantische Ähnlichkeit zwischen verschiedenen Texten messen möchten, der Playground bietet eine förderliche Umgebung für Experimente und Lernen.

Die Fähigkeiten von Cohere machen es zu einem idealen Werkzeug für eine Vielzahl von Anwendungen. Wenn Sie einen Chatbot, ein Inhaltsempfehlungssystem, ein Tool zur Textklassifizierung oder eine Anwendung entwickeln, die das Verständnis oder die Generierung von Text erfordert, kann sich Cohere als unschätzbares Gut herausstellen.

Einführung in Chroma und Embeddings

Chroma ist eine Open-Source-Datenbank, die speziell für die effiziente Speicherung und den Abruf von Embeddings entwickelt wurde, einem entscheidenden Bestandteil bei der Entwicklung von KI-gestützten Anwendungen und Diensten, insbesondere solchen, die große Sprachmodelle (LLMs) nutzen. Das Design von Chroma konzentriert sich auf Einfachheit und Produktivität der Entwickler und bietet Werkzeuge zur Speicherung und Abfrage von Embeddings sowie zur Einbettung von Dokumenten.

Entwickler können über das Python-Client-SDK, das Javascript/Typescript-Client-SDK oder eine Serveranwendung mit Chroma interagieren. Die Datenbank kann im Arbeitsspeicher oder im Client/Server-Modus betrieben werden, mit zusätzlicher Unterstützung für Notebook-Umgebungen.

Aber was sind Embeddings? Im Bereich der KI, und spezifischer in der maschinellen Lern- und natürlichen Sprachverarbeitung, ist ein 'Embedding' eine Darstellung von Daten in einem Vektorraums. Wort-Embeddings beispielsweise repräsentieren Wörter als hochdimensionale Vektoren, wobei ähnliche Wörter sich in diesem Vektorraum nahe beieinander befinden. Embeddings werden in maschinellen Lernmodellen aufgrund ihrer Fähigkeit, den semantischen Inhalt von Daten zu verstehen, sehr geschätzt. In der natürlichen Sprachverarbeitung ermöglichen Embeddings Modellen, die Bedeutung von Wörtern auf Grundlage ihres Kontexts innerhalb eines Satzes oder Dokuments zu begreifen.

Diese Embeddings werden in der Regel durch das Training eines Modells mit einer großen Menge an Daten generiert. Das Modell lernt, jedes Datenstück (wie ein Wort) mit einem bestimmten Punkt in einem hochdimensionalen Raum zu assoziieren. Sobald das Modell trainiert ist, kann es ein Embedding für jedes gegebene Datenstück generieren. Chroma nutzt Embeddings, um Dokumente oder Abfragen in einer Weise darzustellen, die ihren semantischen Inhalt erfasst. Diese Embeddings können dann effizient in der Datenbank gespeichert und durchsucht werden, was ein leistungsfähiges Werkzeug zur Verwaltung und Nutzung hochdimensionaler Daten darstellt.

Voraussetzungen

• Grundkenntnisse in Python
• Zugang zur Cohere API
• Eine eingerichtete Chroma-Datenbank

Gliederung

1. Projekt initialisieren
2. Einrichten der erforderlichen Bibliotheken
3. Schreiben der Projektdateien
4. Testen der Help Desk App
5. Einrichten der Chroma-Datenbank
6. Testen der Help Desk App
7. Diskussion

Projekt initialisieren

Nachdem wir die Einführungen behandelt haben, ist es Zeit, in den praktischen Teil einzutauchen - lassen Sie uns mit dem Programmieren beginnen! Unser Projekt wird den Namen chroma-cohere tragen. Öffnen Sie Ihr bevorzugtes Terminal, navigieren Sie zu Ihrem Entwicklungsprojektverzeichnis und erstellen Sie ein neues Verzeichnis für unser Projekt.

Als nächstes werden wir eine neue virtuelle Umgebung speziell für dieses Projekt erstellen. Das Erstellen und Verwenden virtueller Umgebungen in der Python-Entwicklung wird als Best Practice betrachtet. Dadurch werden die Abhängigkeiten unseres aktuellen Projekts von der globalen Umgebung und von anderen Python-Projekten isoliert, wodurch mögliche Konflikte vermieden werden.

Um eine virtuelle Umgebung zu erstellen, verwenden Sie den folgenden Befehl:

python -m venv env

Nachdem die virtuelle Umgebung erstellt wurde, müssen wir sie aktivieren. Der Prozess unterscheidet sich je nach Betriebssystem.

Wenn Sie Windows verwenden, geben Sie den folgenden Befehl in Ihr Terminal ein:

.
\env\Scripts\activate

Wenn Sie Linux oder MacOS verwenden, verwenden Sie diesen Befehl:

source env/bin/activate

Nachdem Sie den entsprechenden Befehl ausgeführt haben, sollten Sie den Namen Ihrer Umgebung (in diesem Fall env) in Klammern am Anfang Ihrer Terminalaufforderung sehen, was anzeigt, dass sie aktiviert und bereit zur Verwendung ist!

Einrichten der erforderlichen Bibliotheken

In diesem Schritt installieren wir alle Bibliotheken, die für unser Projekt erforderlich sind. Stellen Sie zunächst sicher, dass Ihre virtuelle Umgebung aktiviert ist. Dann hier eine kurze Übersicht über die Bibliotheken, die wir installieren werden:

• cohere-Bibliothek: Wir werden das Cohere-SDK nutzen, um die Benutzereingaben basierend auf Trainingsbeispielen zu klassifizieren.
• chromadb-Bibliothek: Wir werden ChromaDB nutzen, um umfangreiche Trainingsdaten zu speichern und basierend auf semantischen Ähnlichkeiten mit den Benutzereingaben abzurufen.
• halo-Bibliothek: Die Anfragen an die API von Cohere benötigen einen Moment, und diese Bibliothek bietet einen ansprechenden Ladeindikator, während die Benutzer warten.

Lassen Sie uns mit der Installation dieser Bibliotheken fortfahren:

pip install cohere chromadb halo

Nachdem wir diese Bibliotheken installiert haben, können wir mit den Projektdateien arbeiten.

Schreiben der Projektdateien

Es ist Zeit, zurück zum Code zu kommen! Öffnen Sie Ihre bevorzugte IDE oder Ihren Code-Editor und erstellen Sie eine neue Datei mit dem Namen main.py. In dieser Datei werden wir mehrere Komponenten implementieren, um unsere Ziele zu erreichen.

Schritt 1. Notwendige Bibliotheken importieren

Wir beginnen mit dem Import der notwendigen Bibliotheken wie cohere, halo, os, dotenv, colorama und pprint. Dann laden wir die Umgebungsvariablen, die in einer .env-Datei gespeichert sind, die sensible Informationen wie API-Schlüssel enthalten wird.

Schritt 2. Funktion zur Generierung von Antworten definieren

Diese Funktion erhält Benutzernachrichten als Eingabe, generiert eine Ladeanimation und initialisiert den Cohere API-Client. Sie klassifiziert die Stimmung des Benutzers und die zuständige Abteilung basierend auf den Eingaben und stoppt die Ladeanimation.

Schritt 3. Die Klassifikationsfunktionen definieren (Stimmung und zuständige Abteilung)

Die Funktionen get_department_classification und get_mood_classification klassifizieren Benutzernachrichten in Kategorien, indem sie Beispielobjekte verwenden, die als Anfragen an das Cohere-Modell zur Vorhersage gesendet werden.

Schritt 4. Definition des Einstiegspunkts des Projekts

Die Hauptfunktion beginnt eine Endlosschleife, die nach Benutzereingaben fragt und eine Antwort mithilfe der Generation-Funktion generiert, wobei sie nur bei Benutzereingabe 'quit' unterbrochen wird.

Einrichten der Chroma-Datenbank

Um unser Problem zu lösen, werden wir ChromaDB verwenden. Lassen Sie uns damit beginnen, chromadb und die erforderlichen Bibliotheken zu importieren, um Embeddings effizient zu verwalten.

Wir initiieren die Datenbank zusammen mit den Einbettungsfunktionen und ersetzen dann die Hardcoded-Beispiele in den Klassifikationsfunktionen durch dynamische Ergebnisse von Chroma.

Testen der Help Desk-App

Setzen Sie die Help Desk-App auf die Probe! Sie werden die Stimmung, die mit Anfragen verbunden ist, klassifizieren und diese den entsprechenden Abteilungen zuweisen.

Angenommen, der COHERE_KEY ist korrekt konfiguriert, geben Sie Abfragen ein, um Stimmungen zu klassifizieren und Tests mit Chroma-unterstützten Beispielen zu verbessern.

Fazit

Wir haben die leistungsstarken Fähigkeiten der Cohere-Plattform in Verbindung mit der Chroma-Datenbank untersucht. Dieses Tutorial zeigt, wie man eine intelligente App entwickelt, die basierend auf Benutzerinteraktionen evolviert.