Erstellen einer Streamlit-App mit Cohere's Rerank-Modell und ElevenLabs-Integration

Einführung

Cohere ist ein führendes KI-Unternehmen, das eine Suite leistungsstarker Sprachmodelle entwickelt hat, die darauf abzielen, die Art und Weise zu revolutionieren, wie Textdaten verarbeitet werden. Dieses Tutorial bietet eine umfassende Anleitung zur Nutzung des Rerank (Beta)-Modells von Cohere, um Suchalgorithmen zu verbessern und eine Streamlit-Anwendung zu erstellen. Außerdem kann ich allen, die interessiert sind, unser Tutorial Wie man mit Cohere LLMs beginnt wärmstens empfehlen.

Verstehen von ElevenLabs

ElevenLabs ist ein Unternehmen für Sprach-KI-Forschung und -bereitstellung, das sich darauf konzentriert, Inhalte in verschiedenen Sprachen und Stimmen zugänglich zu machen. Das Unternehmen ist darauf spezialisiert, hochrealistische, kontextbezogene KI-generierte Audios zu produzieren, die es Nutzern ermöglichen, Sprache in mehreren unterschiedlichen Stimmen und Sprachen zu erstellen. Gegründet wurde es 2022 von Piotr und Mati, und entstand aus dem Wunsch heraus, Probleme im Zusammenhang mit unzureichendem Synchronisieren in Filmen, insbesondere in Hollywood, zu lösen.

Einführung in Streamlit

Streamlit ist ein reines Python-Framework, das für den mühelosen Aufbau von Webanwendungen entwickelt wurde. Weitere Informationen über Streamlit und dessen Anwendungen finden Sie auf der offiziellen Streamlit-Website.

Voraussetzungen

• Laden Sie Visual Studio Code oder einen anderen kompatiblen Code-Editor wie IntelliJ IDEA oder PyCharm herunter und installieren Sie ihn.
• Erhalten Sie einen Cohere-API-Schlüssel, indem Sie sich auf der Website von Cohere anmelden.
• Holen Sie sich auch einen ElevenLabs-API-Schlüssel, indem Sie sich bei ElevenLabs registrieren und Ihren Schlüssel aus dem Profilbereich kopieren.
• Erstellen Sie ein neues Konto bei Streamlit, um Ihre Anwendung einfach bereitzustellen, vorzugsweise mit Ihrem GitHub-Konto.
• Stellen Sie sicher, dass Sie eine Tasse Kaffee und einen Laptop bereit haben!

Lernziele

• Verstehen, wie man das Cohere Rerank (Beta)-Modell über die API verwendet.
• Erfahren, wie man Webanwendungen mit Streamlit erstellt.
• Eine Anwendung erstellen, die das Rerank-Modell von Cohere nutzt.
• Die Anwendung in der Streamlit Sharing Cloud bereitstellen.

Fangen wir an!

1. Erstellen Sie ein neues Projekt

Öffnen Sie Visual Studio Code und erstellen Sie einen neuen Ordner mit dem Namen cohere-rerank-tutorial.

2. Richten Sie eine virtuelle Umgebung ein

Öffnen Sie Ihr Terminal und führen Sie den folgenden Befehl aus, um eine Python-Virtual-Environment zu erstellen und zu aktivieren:

python -m venv env
source env/bin/activate  # für macOS/Linux
# oder
env\Scripts\activate  # für Windows

3. Installieren Sie die erforderlichen Abhängigkeiten

Instalieren Sie als nächstes alle erforderlichen Abhängigkeiten mit:

pip install cohere streamlit elevenlabs

4. Erstellen Sie die Streamlit-App

Erstellen Sie eine neue Datei mit dem Namen app.py in Ihrem Projektordner. Importieren Sie oben in der Datei die erforderlichen Bibliotheken:

import streamlit as st
import cohere
import elevenlabs

5. Konfigurieren Sie den Logger (optional)

Dieser Schritt ist optional, kann aber den Debugging-Prozess erheblich erleichtern.

6. Konfigurieren Sie die Streamlit-Seite

Geben Sie Ihrer App einen Titel, ein Favicon und eine Beschreibung, damit die Nutzer die Funktionen leicht verstehen können:

st.set_page_config(page_title='Cohere Rerank App', page_icon=':sparkles:', layout='wide')
st.title('Cohere Rerank-Anwendung')
st.write('Eine Web-App, die Cohere Rerank für verbesserte Suchergebnisse nutzt.')

7. Erstellen Sie eine Seitenleiste

Fügen Sie eine Seitenleiste hinzu, um API-Schlüssel und hochgeladene Dateien zu verwalten:

st.sidebar.title('API-Konfiguration')
c_interface = st.sidebar.text_input('Cohere API-Schlüssel')
el_interface = st.sidebar.text_input('ElevenLabs API-Schlüssel')

8. Nachrichtenstatus initialisieren

Implementieren Sie die Logik zur Initialisierung der Nachrichtenstatus für die Benutzer.

9. Eingabeformular erstellen

Erstellen Sie ein Formular, um Benutzereingaben zu akzeptieren und Anfragen zu bearbeiten:

with st.form(key='my_form'):
    user_input = st.text_area('Geben Sie Ihre Anfrage ein:')
    submit_button = st.form_submit_button(label='Senden')

10. Sprachaufnahme generieren

Implementieren Sie die Funktionalität zur Generierung einer Sprachaufnahme für jede Nachricht:

# Beispiel Voiceover-Funktion
voiceover = elevenlabs.Voiceover(user_input)

11. API-Antwort anzeigen

Hol dir die Antwort von der API und stelle sie dar:

response = cohere.rerank(user_input)
st.write('Antwort von der API:', response)

12. Chatverlauf löschen (optional)

Sie können auch eine Funktion implementieren, um den Chatverlauf nach Bedarf zu löschen.

13. Anwendung ausführen

Führen Sie die Anwendung aus, indem Sie Folgendes ausführen:

streamlit run app.py

Besuchen Sie http://localhost:8501, um Ihre App anzuzeigen.

14. Watchdog-Modul installieren

Für eine verbesserte Leistung sollten Sie in Betracht ziehen, das Watchdog-Modul zu installieren:

pip install watchdog

15. Code zu GitHub pushen

Erstellen Sie ein neues Repository auf GitHub und pushen Sie Ihren Code, wobei Sie sicherstellen, dass Sie requirements.txt einfügen.

16. App in der Streamlit Sharing Cloud bereitstellen

Melden Sie sich bei Streamlit Sharing Cloud mit Ihrem GitHub-Konto an. Klicken Sie auf "Neue App" und füllen Sie die Einzelheiten aus, um sie bereitzustellen:

• Wählen Sie Ihr Repository aus.
• Wählen Sie den Branch und setzen Sie app.py als Hauptdatei.
• Klicken Sie auf "Bereitstellen!" und warten Sie, bis der Prozess abgeschlossen ist.

Nach Abschluss ist Ihre App einsatzbereit. Sie können Ihre App auch aktualisieren, indem Sie neue Commits zu GitHub pushen, und Streamlit wird die neuesten Änderungen abrufen.

17. Anwendung testen

Um Ihre App zu testen, geben Sie Ihren Cohere API-Schlüssel ein, laden Sie die gewünschte Datei hoch, geben Sie eine Anfrage ein und klicken Sie auf die Schaltfläche "Senden".

Fazit

Vielen Dank, dass Sie dieses Tutorial verfolgt haben. Sie verfügen jetzt über die Werkzeuge, um eine leistungsstarke Anwendung mithilfe des Rerank-Modells von Cohere und der Sprach-KI von ElevenLabs zu erstellen und bereitzustellen!