La Nueva Herramienta de IA de Microsoft Corrige Inexactitudes Automáticamente

Microsoft Introduce la Función de Corrección de IA para Mayor Precisión

En un movimiento significativo hacia la mejora de la fiabilidad de las salidas de IA, Microsoft ha anunciado el lanzamiento de su nueva función de corrección, diseñada para detectar y reescribir automáticamente las inexactitudes en el contenido generado por sistemas de IA. Esta capacidad es particularmente beneficiosa para las organizaciones que utilizan Microsoft Azure para sus aplicaciones de inteligencia artificial.

¿Qué es la Función de Corrección?

La función de corrección es parte de Azure AI Studio, que alberga un conjunto de herramientas de seguridad específicamente dirigidas a identificar vulnerabilidades, corregir “alucinaciones” y bloquear solicitudes potencialmente dañinas. Actualmente disponible en modo de vista previa, esta función sirve para mejorar la precisión y fiabilidad general del contenido generado por IA.

¿Cómo Funciona?

Cuando se activa, el sistema de corrección:

• Escanear y Identificar: El sistema escanea automáticamente las salidas de IA, señalando inexactitudes al compararlas con el material fuente de un cliente.
• Destacar Errores: Cualquier inexactitud identificada se resalta, proporcionando comentarios claros a los usuarios.
• Proporcionar Contexto: Los usuarios recibirán explicaciones detallando por qué ciertas salidas son incorrectas.
• Reescribir Contenido: El sistema luego reescribirá el contenido defectuoso antes de que los usuarios vean las inexactitudes.

Las Limitaciones de la Corrección de IA

Si bien la función de corrección representa un avance en la mitigación de inexactitudes de IA, es crucial señalar que no es infalible. Microsoft ha reconocido que este sistema, que incorpora tanto modelos de lenguaje pequeños como modelos de lenguaje grandes, es propenso a cometer sus propios errores.

Un portavoz de Microsoft explicó que, aunque el sistema de corrección ayuda a alinear las salidas de IA generativa con documentos centrales predeterminados, no garantiza una precisión absoluta. Este reconocimiento es esencial para entender las limitaciones de los sistemas de IA, ya que la detección de apegos simplemente ayuda a alinear las salidas en lugar de garantizar su precisión.

Comparación con Vertex AI de Google

En el panorama competitivo del desarrollo de IA, la plataforma Vertex AI de Google también ofrece una solución única para abordar las inexactitudes de la IA. Esta plataforma incluye una función que fundamenta los modelos de IA al validar las salidas contra los resultados de búsqueda de Google, así como los datos internos de la empresa, con planes para introducir conjuntos de datos de terceros en un futuro cercano.

Conclusión

A medida que la demanda de sistemas de IA fiables sigue creciendo, características como la revelación de corrección de Microsoft marcan un paso significativo hacia la mejora de la precisión del contenido generado por IA. Aunque existen limitaciones, la introducción de tales tecnologías destaca los esfuerzos continuos de los gigantes tecnológicos para asegurar que sus salidas de IA sean lo más fiables y precisas posible, allanando el camino hacia un futuro de IA más confiable.

Para aquellos interesados en aprender más sobre los avances en IA, consideren explorar artículos relacionados en TechCrunch y Google Cloud.