Tutorial de Cohere: Construyendo una Aplicación Simple de Mesa de Ayuda para Superhéroes

Introducción

Presentación de la Plataforma Cohere Cohere es una plataforma robusta que proporciona acceso a modelos de procesamiento de lenguaje natural de última generación a través de una API fácil de usar. Esta plataforma permite a los desarrolladores integrar sin problemas una variedad de tareas de procesamiento de lenguaje natural en sus aplicaciones, como clasificación de texto, embeddings e incluso generación de texto.

Más allá de sus ofertas estándar, Cohere también proporciona la capacidad de crear modelos personalizados adaptados a casos de uso específicos. Puede aprovechar sus propios datos de entrenamiento y dictar de manera estratégica cómo se deben utilizar estos datos durante el proceso de entrenamiento.

Una de las características destacadas de Cohere es su playground (entorno de pruebas): un espacio donde puede explorar y experimentar con las diversas facetas de la plataforma. Ya sea que busque generar texto humano, clasificar texto en categorías predefinidas o medir la similitud semántica entre diferentes fragmentos de texto, el playground proporciona un ambiente propicio para la experimentación y el aprendizaje.

Las capacidades de Cohere lo convierten en una herramienta ideal para una amplia variedad de aplicaciones. Si está construyendo un chatbot, un sistema de recomendación de contenido, una herramienta de clasificación de texto, o cualquier aplicación que requiera entender o generar texto, Cohere puede resultar un activo invaluable.

Introducción a Chroma y Embeddings

Chroma es una base de datos de código abierto diseñada específicamente para el almacenamiento y recuperación eficientes de embeddings, un componente crucial en el desarrollo de aplicaciones y servicios impulsados por IA, particularmente aquellos que utilizan Modelos de Lenguaje Grande (LLMs). El diseño de Chroma se centra en la simplicidad y la productividad del desarrollador, proporcionando herramientas para almacenar y consultar embeddings, así como para incrustar documentos.

Los desarrolladores pueden interactuar con Chroma a través de su SDK para Python, SDK para Javascript/Typescript o una aplicación de servidor. La base de datos puede operar en memoria o en modo cliente/servidor, con soporte adicional para entornos de notebooks.

¿Pero qué son los embeddings? En el ámbito de la IA, y más específicamente dentro del aprendizaje automático y el procesamiento de lenguaje natural, un 'embedding' es una representación de datos en un espacio vectorial. Los embeddings de palabras, por ejemplo, representan palabras como vectores de alta dimensión, con palabras similares ocupando una proximidad cercana en este espacio vectorial. Los embeddings son muy apreciados en los modelos de aprendizaje automático porque permiten a estos modelos comprender el contenido semántico de los datos. En el procesamiento de lenguaje natural, los embeddings empoderan a los modelos para comprender el significado de las palabras en función de su contexto dentro de una oración o un documento.

Estos embeddings suelen generarse entrenando un modelo con una gran cantidad de datos. El modelo aprende a asociar cada pieza de datos (como una palabra) con un punto específico en un espacio de alta dimensión. Una vez que el modelo está entrenado, puede generar un embedding para cualquier pieza de datos dada. Chroma aprovecha los embeddings para representar documentos o consultas de una manera que encapsula su contenido semántico. Estos embeddings pueden luego almacenarse de manera eficiente en la base de datos y buscarse, proporcionando una herramienta poderosa para gestionar y aprovechar datos de alta dimensión.

Requisitos Previos

• Conocimientos básicos de Python
• Acceso a la API de Cohere
• Base de datos Chroma configurada

Esquema

1. Inicializando el Proyecto
2. Configurando las Bibliotecas Requeridas
3. Escribiendo los Archivos del Proyecto
4. Probando la App de Help Desk
5. Configurando la Base de Datos Chroma
6. Probando la App de Help Desk
7. Discusión

Inicializando el Proyecto

Tras las introducciones, es hora de adentrarnos en la parte práctica: ¡comencemos a codificar! Nuestro proyecto se llamará chroma-cohere. Abra su terminal preferida, navegue a su directorio de proyectos de desarrollo y cree un nuevo directorio para nuestro proyecto.

A continuación, vamos a crear un nuevo entorno virtual específicamente para este proyecto. Crear y usar entornos virtuales en el desarrollo de Python se considera una buena práctica. Aísla las dependencias de nuestro proyecto actual del entorno global y de otros proyectos de Python, evitando así cualquier posible conflicto.

Para crear un entorno virtual, use el siguiente comando:

python -m venv env

Una vez que se crea el entorno virtual, necesitamos activarlo. El proceso varía según su sistema operativo.

Si está usando Windows, ingrese el siguiente comando en su terminal:

.
\env\Scripts\activate

Si está en Linux o MacOS, use este comando:

source env/bin/activate

Después de ejecutar el comando correspondiente, debería ver el nombre de su entorno (en este caso, env) aparecer entre paréntesis al inicio del aviso de su terminal, indicando que está activado y listo para usar!

Configurando las Bibliotecas Requeridas

En este paso, instalaremos todas las bibliotecas requeridas por nuestro proyecto. Primero, asegúrese de que su entorno virtual esté activado. Luego, aquí hay un resumen rápido de las bibliotecas que vamos a instalar:

• biblioteca cohere: Usaremos el SDK de Cohere para clasificar la entrada del usuario según ejemplos de entrenamiento.
• biblioteca chromadb: Usaremos ChromaDB para almacenar datos de entrenamiento amplios y recuperarlos según similitudes semánticas con la entrada del usuario.
• biblioteca halo: Las solicitudes a la API de Cohere tomarán un momento, y esta biblioteca proporciona un indicador de carga atractivo mientras los usuarios esperan.

Procedamos a instalar estas bibliotecas:

pip install cohere chromadb halo

Después de instalar estas bibliotecas, podemos comenzar a trabajar en nuestros archivos del proyecto.

Escribiendo los Archivos del Proyecto

¡Es hora de volver al código! Abra su IDE o editor de código preferido y cree un nuevo archivo llamado main.py. En este archivo, implementaremos varios componentes para lograr nuestros objetivos.

Paso 1. Importar Bibliotecas Necesarias

Comenzamos importando las bibliotecas necesarias como cohere, halo, os, dotenv, colorama y pprint. Luego, cargamos las variables de entorno almacenadas en un archivo .env, que contendrá información sensible como claves de API.

Paso 2. Definir la Función de Generación de Respuestas

Esta función recibe los mensajes de los usuarios como entrada, genera una animación de carga e inicializa el cliente API de Cohere. Clasifica el estado de ánimo del usuario y el departamento responsable según las entradas y detiene la animación de carga.

Paso 3. Definir las Funciones de Clasificación (Estado de Ánimo y Departamento a Cargo)

Las funciones get_department_classification y get_mood_classification clasifican los mensajes de los usuarios en categorías utilizando objetos de ejemplo enviados como solicitudes al modelo de Cohere para hacer predicciones.

Paso 4. Definir el Punto de Entrada del Proyecto

La función principal inicia un bucle infinito que solicita la entrada del usuario y genera una respuesta utilizando la función de generación, rompiendo únicamente en la entrada del usuario 'salir'.

Configurando la Base de Datos Chroma

Para resolver nuestro problema, utilizaremos ChromaDB. Comencemos importando chromadb y las bibliotecas necesarias para gestionar embeddings de manera eficiente.

Iniciamos la base de datos junto con las funciones de embedding y procedemos a reemplazar ejemplos codificados de forma rígida en las funciones de clasificación con resultados dinámicos de Chroma.

Probando la App de Help Desk

¡Ponga a prueba la App de Help Desk! Clasificará el estado de ánimo asociado con las consultas y las asignará a los departamentos apropiados.

Asumiendo que la COHERE_KEY está correctamente configurada, ingrese consultas para clasificar estados de ánimo y probar mejoras con ejemplos potenciados por Chroma.

Conclusión

Examinamos las poderosas capacidades de la plataforma Cohere combinada con la base de datos Chroma. Este tutorial muestra cómo desarrollar una app inteligente capaz de evolucionar según las interacciones de los usuarios.