Guía completa del Hub API de AI71
¡Bienvenidos a todos! Ya seas un desarrollador de IA, ingeniero de software o apenas estés comenzando tu camino en la codificación, este tutorial está diseñado para ayudarte a navegar por el nuevo Hub API de AI71. Exploraremos cómo interactuar con los potentes modelos Falcon, personalizar sus configuraciones y gestionar tus proyectos de manera eficiente.
¡Sumergámonos y desbloqueemos juntos el potencial completo de los modelos Falcon!
Introducción al Hub API de AI71
El Hub API de AI71 es una plataforma poderosa que proporciona acceso fluido a modelos avanzados de IA. Simplifica la integración de capacidades de IA en tus aplicaciones, ofreciendo una gama de modelos y herramientas para mejorar tus proyectos. Con este nuevo Hub API, puedes aprovechar la tecnología de vanguardia para construir aplicaciones inteligentes sin esfuerzo.
Características y Funcionalidades
Descripción general de la página de inicio
Cuando llegues por primera vez a la página de inicio de la plataforma AI71, verás tres opciones principales para interactuar con la API:
- SDK de Python de AI71
- SDK de Python de OpenAI
- Curl
Eligiendo un modelo
AI71 ofrece varios modelos potentes para elegir:
- Falcon 180B
- Falcon 11B
- Falcon 11B VLM
Nota: Actualmente, solo los modelos tiiuae/falcon-180b-chat
, tiiuae/falcon-11b
y tiiuae/falcon-11b-vlm
están operativos. Los otros modelos estarán disponibles pronto. Mientras tanto, puedes probar los modelos tiiuae/falcon-180b-chat
, tiiuae/falcon-11b
y tiiuae/falcon-11b-vlm
para familiarizarte con la plataforma.
Puedes seleccionar cualquiera de estos modelos directamente desde la página de inicio, facilitando el inicio de tu proyecto de IA con las herramientas adecuadas.
Calculadora de Tokens
Encontrarás una práctica calculadora de tokens a la derecha de la página de inicio. Simplemente ingresa la cantidad en dólares y automáticamente calculará cuántos tokens puedes obtener. Esta es una excelente manera de gestionar tu presupuesto y planificar tu uso.
Cada opción incluye un ejemplo para ayudarte a comenzar rápidamente. Puedes elegir el método que mejor se adapte a tu flujo de trabajo. Aquí hay un vistazo rápido a las opciones de la página de inicio:
Página de Sandbox
La página de sandbox es donde puedes interactuar con todos los modelos Falcon en tiempo real. Aquí, puedes:
- Seleccionar un modelo: Elegir entre los modelos disponibles.
- Personalizar el aviso del sistema: Adaptar el aviso a tus necesidades.
- Ajustar la longitud máxima de salida: Establecer la longitud de salida entre 3 y 2048 tokens, dependiendo del modelo.
- Ajustar la temperatura: Ajustar la temperatura entre 0 y 2 para controlar la aleatoriedad de la salida.
- Ajustar Top P: Controlar la probabilidad acumulativa de las secuencias de tokens.
- Ajustar Top K: Limitar la selección del próximo token a los mejores K tokens.
- Establecer penalización de frecuencia: Penalizar nuevos tokens en función de su frecuencia existente en el texto.
- Definir secuencias de parada: Especificar secuencias donde la salida debe detenerse.
La longitud máxima de salida diferirá según cada modelo.
Esta flexibilidad te permite experimentar y encontrar la mejor configuración para tu caso de uso específico.
Página de Documentación
La página de documentación proporciona instrucciones detalladas sobre cómo utilizar los modelos soportados a través de diferentes métodos:
- SDK de Python de AI71
- SDK de OpenAI
- SDK de LangChain
- Curl
Cada método incluye una breve descripción y un ejemplo de uso para ayudarte a comenzar rápidamente. Otros SDK compatibles de OpenAI pueden funcionar si hay una opción para cambiar la URL base y la clave de API.
Modelos Soportados
AI71 soporta varios modelos, cada uno con su caso de uso específico y formato de llamada a la API:
-
tiiuae/falcon-180B-chat
: Un modelo causal solo decoder de 180B parámetros ajustado en conjuntos de datos de Ultrachat, Platypus y Airoboros. -
tiiuae/falcon-11b
: Un modelo causal solo decoder de 11B parámetros. -
tiiuae/falcon-11b-vlm
: Un modelo de lenguaje visual de 11B parámetros.
Para más detalles, puedes consultar la Documentación de AI71.
Página de Organización
La página de organización te permite crear y gestionar tu organización. Aquí, puedes:
- Crear una organización: Configurar tu organización, invitar a uno o más miembros.
- Gestionar claves API: Crear y gestionar claves API.
- Soporte: Crear y gestionar tickets de soporte.
- Uso: Ver el uso de las claves API creadas.
Esto es perfecto para equipos que colaboran en proyectos de IA, proporcionando un lugar centralizado para gestionar el acceso y los recursos.
Casos de Uso
El Hub API de AI71 puede aplicarse en varios escenarios, como:
- Soporte al Cliente: Implementar chatbots que pueden manejar consultas de clientes y proporcionar soporte.
- Creación de Contenidos: Generar contenido para blogs, redes sociales y campañas de marketing.
- Análisis de Datos: Automatizar el análisis de grandes conjuntos de datos para obtener información.
- Asistentes Personales: Desarrollar asistentes virtuales para ayudar con la programación, recordatorios y recuperación de información.
Implementaciones
Usando el SDK de Python de AI71
Aquí hay un ejemplo rápido de cómo usar el SDK de Python de AI71:
Primero, instala el SDK usando pip:
Luego, puedes importar la biblioteca e interactuar con cualquiera de los modelos en el archivo de Python que desees usar:
Nota: Reemplaza con tu clave API real. Puedes encontrar o crear tu clave API en Claves API bajo la sección de Organización.
Usando Curl
También puedes interactuar con la API usando Curl desde la terminal:
Usando el SDK de Langchain
Para interactuar con los modelos Falcon usando el SDK de Langchain:
Primero, instala el SDK usando pip:
Luego puedes importar la biblioteca e interactuar con cualquiera de los modelos en el archivo de Python que desees usar:
Usando el SDK de OpenAI
También puedes usar el SDK de OpenAI para interactuar con los modelos Falcon.
Primero, instala el SDK usando pip:
Luego puedes importar la biblioteca e interactuar con cualquiera de los modelos en el archivo de Python que desees usar:
Mejores Prácticas
- Experimenta con Configuraciones: Usa el sandbox para probar diferentes modelos y configuraciones para encontrar la mejor opción para tu aplicación.
- Monitorea el Uso: Utiliza la calculadora de tokens y la página de uso para realizar un seguimiento de tu consumo y gestionar costos de manera efectiva.
- Aprovecha la Documentación: Consulta la documentación detallada para entender las capacidades y limitaciones de cada modelo.
Conclusión
Con esta guía, estás listo para explorar y utilizar la plataforma AI71 al máximo. Desde seleccionar y personalizar modelos hasta gestionar los recursos de tu organización, AI71 proporciona un conjunto completo de herramientas para tus proyectos de IA. ¡Feliz codificación!
Dejar un comentario
Todos los comentarios se revisan antes de su publicación.
Este sitio está protegido por hCaptcha y se aplican la Política de privacidad de hCaptcha y los Términos del servicio.