Le nouvel outil d'IA de Microsoft corrige automatiquement les inexactitudes

Microsoft Introduit une Fonction de Correction AI pour une Précision Améliorée

Dans un mouvement marquant vers l'amélioration de la fiabilité des sorties AI, Microsoft a annoncé le lancement de sa nouvelle fonction de correction, conçue pour détecter automatiquement et réécrire les inexactitudes dans le contenu généré par les systèmes AI. Cette capacité est particulièrement bénéfique pour les organisations utilisant Microsoft Azure pour leurs applications d'intelligence artificielle.

Qu'est-ce que la Fonction de Correction?

La fonction de correction fait partie de l'Azure AI Studio, qui abrite une suite d'outils de sécurité spécifiquement destinés à identifier les vulnérabilités, à corriger les « hallucinations », et à bloquer les invites potentiellement nuisibles. Actuellement disponible en mode prévisualisation, cette fonctionnalité vise à améliorer l'exactitude et la fiabilité globales du contenu généré par l'IA.

Comment Ça Fonctionne?

Lorsqu'elle est activée, le système de correction va :

• Analyser et Identifier : Le système analyse automatiquement les sorties AI, repérant les inexactitudes en les comparant aux documents source d'un client.
• Souligner les Erreurs : Toute inexactitude identifiée est mise en évidence, fournissant un retour clair aux utilisateurs.
• Fournir un Contexte : Les utilisateurs recevront des explications détaillant pourquoi certaines sorties sont incorrectes.
• Réécrire le Contenu : Le système réécrira ensuite le contenu défaillant avant même que les utilisateurs ne voient les inexactitudes.

Les Limites de la Correction AI

Bien que la fonction de correction représente des progrès dans la réduction des inexactitudes AI, il est crucial de noter qu'elle n'est pas infaillible. Microsoft a reconnu que ce système, qui intègre à la fois de petits modèles de langage et de grands modèles de langage, est susceptible de faire ses propres erreurs.

Un porte-parole de Microsoft a expliqué que bien que le système de correction aide à aligner les sorties génératives AI avec des documents de base prédéterminés, il ne garantit pas une précision absolue. Cette reconnaissance est essentielle pour comprendre les contraintes des systèmes AI, car la détection de la fondation aide seulement à aligner les sorties plutôt qu'à garantir leur exactitude.

Comparaison avec le Vertex AI de Google

Dans le paysage concurrentiel du développement AI, la plateforme Vertex AI de Google offre également une solution unique pour aborder les inexactitudes AI. Cette plateforme comprend une fonctionnalité qui ancre les modèles AI en validant les sorties contre les résultats de recherche Google, ainsi que les données internes de l'entreprise, avec des plans pour introduire des ensembles de données tiers dans un proche avenir.

Conclusion

Alors que la demande pour des systèmes AI fiables continue de croître, des fonctionnalités comme la correction de Microsoft marquent une étape significative vers l'amélioration de l'exactitude du contenu généré par l'IA. Bien qu'il existe des limites, l'introduction de telles technologies souligne les efforts continus des géants de la technologie pour garantir que leurs sorties AI soient aussi fiables et précises que possible, ouvrant la voie à un avenir AI plus digne de confiance.

Pour ceux qui s'intéressent à en savoir plus sur les avancées de l'IA, envisagez d'explorer des articles connexes sur TechCrunch et Google Cloud.