OpenAI Whisper Tutorial: Erstellen Sie eine Sprachrecognition-API in Docker

Entdecken Sie Whisper: OpenAIs führendes Spracherkennungssystem

Whisper ist ein bahnbrechendes Spracherkennungssystem, das von OpenAI entwickelt wurde und darauf ausgelegt ist, zu revolutionieren, wie wir mit Technologie durch unsere Stimmen interagieren. Mit einem Trainingsdatensatz von 680.000 Stunden multilingualer und multitaskingfähiger Daten, die aus dem Web stammen, zeichnet sich Whisper durch seine bemerkenswerte Fähigkeit aus, sich an verschiedene Akzente, Hintergrundgeräusche und Fachjargon anzupassen.

Hauptmerkmale von Whisper

• Mehrsprachige Unterstützung: Whisper kann gesprochene Sprache in Englisch transkribieren und übersetzen, was es zu einem äußerst vielseitigen Werkzeug für Benutzer auf der ganzen Welt macht.
• Robuste Leistung: Das System übertrifft sich in herausfordernden Audioverhältnissen und gewährleistet hohe Genauigkeit, selbst in lauten Umgebungen.
• Entwicklerfreundlich: OpenAI bietet Zugriff auf die Modelle und den Code von Whisper, sodass Entwickler innovative Anwendungen erstellen können, die diese fortschrittliche Spracherkennungstechnologie nutzen.

So starten Sie mit Docker

Wenn Sie überlegen, Whisper auf Ihrem lokalen Computer auszuführen, ist der erste Schritt die Installation von Docker. Diese Software ermöglicht es Ihnen, isolierte Umgebungen für Ihre Anwendungen zu erstellen.

Einrichten Ihres Projekts

1. Erstellen Sie einen Ordner für Ihre Dateien und benennen Sie ihn whisper-api.
2. Erstellen Sie innerhalb dieses Ordners eine Datei namens requirements.txt und fügen Sie flask als Abhängigkeit hinzu.
3. Erstellen Sie eine weitere Datei mit dem Namen Dockerfile, um Ihre Docker-Umgebung zu konfigurieren.

Das Dockerfile erstellen

Ihr Dockerfile sollte folgende Anweisungen enthalten:

FROM python:3.10-slim
WORKDIR /python-docker
COPY requirements.txt .
RUN apt-get update && apt-get install -y git
RUN pip install -r requirements.txt
RUN pip install git+https://github.com/openai/whisper.git
RUN apt-get install -y ffmpeg
EXPOSE 5000
CMD ["flask", "run"]

Das Dockerfile verstehen

Hier ist eine Aufschlüsselung dessen, was jede Zeile bewirkt:

• FROM python:3.10-slim: Setzt das Basisbild für Ihren Container.
• WORKDIR /python-docker: Erstellt und setzt ein Arbeitsverzeichnis innerhalb des Containers.
• COPY requirements.txt .: Kopiert Ihre Anforderungsdatei in die Docker-Umgebung.
• RUN apt-get update && apt-get install -y git: Aktualisiert den Paketmanager und installiert Git zur Versionskontrolle.
• RUN pip install -r requirements.txt: Installiert die in der Anforderungsdatei aufgeführten Abhängigkeiten.
• RUN pip install git+https://github.com/openai/whisper.git: Installiert das Whisper-Paket direkt von GitHub.
• RUN apt-get install -y ffmpeg: Installiert FFmpeg, ein leistungsfähiges Multimedia-Framework zur Verarbeitung von Audio- und Videodateien.
• EXPOSE 5000: Gibt den Port 5000 für den Zugriff auf den Flask-Server frei.
• CMD ["flask", "run"]: Startet die Flask-Anwendung, wenn der Container ausgeführt wird.

Erstellen Sie Ihre API-Route

Erstellen Sie als Nächstes eine Datei namens app.py, in der Sie die erforderlichen Pakete importieren und sowohl die Flask-App als auch Whisper initialisieren:

from flask import Flask, request
import whisper

app = Flask(__name__)
model = whisper.load_model("base")

Erstellen Sie dann eine Route, um POST-Anfragen mit einer Audiodatei zu akzeptieren:

@app.route('/whisper', methods=['POST'])
def transcribe():
    file = request.files['file']
    audio = whisper.load_audio(file)
    result = model.transcribe(audio)
    return {'transcript': result['text']}

Führen Sie den Docker-Container aus

Um Ihren Container zu erstellen und auszuführen, öffnen Sie ein Terminal und navigieren Sie zu Ihrem Projektordner. Führen Sie die folgenden Befehle aus:

# Den Container erstellen
$ docker build -t whisper-api .
# Den Container ausführen
$ docker run -p 5000:5000 whisper-api

Testen Sie Ihre API

Sie können die API testen, indem Sie eine POST-Anfrage an http://localhost:5000/whisper mit einer Datei senden. Stellen Sie sicher, dass der Body der Anfrage form-data ist. Verwenden Sie diesen curl-Befehl zum Testen:

curl -X POST -F "file=@path_to_your_file" http://localhost:5000/whisper

Wenn alles korrekt eingerichtet ist, sollten Sie eine JSON-Antwort mit der Transkription der Audiodatei erhalten.

Bereitstellung der API

Diese API kann auf jeder Plattform bereitgestellt werden, die Docker unterstützt. Denken Sie daran, dass die aktuelle Konfiguration die CPU zur Verarbeitung von Audiodateien nutzt. Um eine GPU zu verwenden, müssen Sie Ihr Dockerfile anpassen, um die GPU-Ressourcen zu teilen. Weitere Informationen dazu finden Sie in der offiziellen NVIDIA-Dokumentation.

Teilnahme an kommenden AI-Hackathons

Was wäre besser geeignet, um Ihre neu erworbenen Fähigkeiten zu nutzen, als an einem AI-Hackathon teilzunehmen? Engagieren Sie sich mit der Community und erkunden Sie die realen Anwendungen der Technologien, die Sie lernen!

Den kompletten Code erkunden

Sie finden das vollständige Code-Repository hier.