Chercheur en désinformation confirme que ChatGPT a causé des erreurs de citation dans un dossier judiciaire

Mise à jour controversée de l'expert en désinformation sur l'utilisation de l'IA dans les dépôts juridiques

Les événements récents entourant Jeff Hancock, un expert en désinformation de premier plan et fondateur du Stanford Social Media Lab, ont suscité des discussions sur les implications éthiques de l'utilisation de l'IA dans la documentation légale. Hancock s'est retrouvé au centre de la controverse après que son affidavit soutenant la loi du Minnesota sur l'"Utilisation de la technologie Deep Fake pour influencer une élection" ait été contesté en raison d'erreurs de citation attribuées à des résultats générés par l'IA.

Contexte de l'affaire

Le défi juridique a été présenté par le YouTuber conservateur Christopher Khols, connu sous le nom de Mr. Reagan, et la représentante de l'État du Minnesota, Mary Franson. Ils ont soutenu que l'affidavit de Hancock était "non fiable" en raison de ce que les critiques ont qualifié d'hallucinations – des citations erronées que Hancock a reconnu avoir été générées avec l'aide de ChatGPT.

Réponse de Hancock

Dans une déclaration soumise en fin de semaine dernière, Hancock a clarifié sa position, affirmant que bien qu'il ait effectivement utilisé ChatGPT pour organiser ses citations, il n'en dépendait pas pour le contenu du document lui-même. Il a déclaré : "J'ai écrit et examiné le fond de la déclaration, et je soutiens fermement chacune des affirmations qui y sont faites, toutes étant étayées par les recherches académiques les plus récentes dans le domaine." Cette affirmation souligne son engagement envers les points substantiels du document malgré les incohérences de citation.

Comprendre les erreurs

Hancock a expliqué qu'il avait utilisé à la fois Google Scholar et GPT-4 pour identifier des articles qui soutiendraient sa déclaration. Cependant, il a réalisé que l'IA avait généré des citations incorrectes – des erreurs appelées "hallucinations" dans le jargon de l'IA – ainsi que des attributions erronées pour certaines références. Il a exprimé des regrets pour toute confusion causée par ces erreurs, soulignant que tromper le tribunal n'avait jamais été son intention.

Implications pour l'IA dans les contextes juridiques

Cet incident soulève des questions cruciales concernant l'intégration des outils d'IA dans les processus juridiques. À mesure que l'IA continue d'évoluer, son rôle dans des domaines critiques tels que la documentation légale doit être scruté. Voici quelques points clés à considérer :

• Fiabilité : Le déploiement d'outils d'IA comme ChatGPT dans des contextes juridiques nécessite des contrôles rigoureux pour garantir l'exactitude et minimiser la désinformation potentielle.
• Utilisation éthique : Cela soulève des considérations éthiques sur l'utilisation de l'IA pour soutenir des affirmations académiques et la documentation légale.
• Directives futures : Il y a un besoin urgent de directives complètes sur la manière dont les professionnels peuvent utiliser de manière efficace et éthique les technologies d'IA dans les procédures judiciaires.

À l'avenir

Tandis que les procédures juridiques concernant la loi du Minnesota se poursuivent, l'affaire de Hancock représente une intersection cruciale entre technologie et droit. Cet incident pourrait établir des précédents sur la manière dont l'IA peut ou ne peut pas être utilisée dans la rédaction de documents juridiques. La façon dont les tribunaux réagiront à cette situation pourrait bien façonner l'avenir des pratiques juridiques et l'adoption des technologies de l'IA au sein de celles-ci.

Conclusion

En résumé, bien que Jeff Hancock maintienne l'intégrité des arguments centraux de sa déclaration, les erreurs de citation résultant de l'influence de l'IA mettent en évidence un défi continu dans le domaine de la désinformation et de la documentation légale. Cette affaire servira probablement de point tournant pour les discussions sur l'utilisation éthique et pratique de l'IA dans les contextes juridiques.