Le CTO de Ripple défend Character.AI contre les menaces judiciaires, cite les droits à la liberté d'expression

Le CTO de Ripple remet en question la légalité de la poursuite contre Character.AI

Les discussions récentes dans la communauté technologique se sont centrées sur les actions légales contre Character.AI, avec des contributions significatives de David Schwartz, le directeur de la technologie de Ripple. Selon Odaily, Schwartz s'est opposé publiquement à la poursuite, suggérant qu'elle manque de fondement solide dans le droit américain.

L'argument central : la protection du premier amendement

Schwartz s'est exprimé sur la plateforme de médias sociaux X pour partager ses réflexions sur la question. Il a spécifié que bien qu'il ne cautionne pas les implications morales entourant Character.AI, il pense que les arguments juridiques présentés contre l'entreprise ne tiennent pas la route. Un point central de son argument est que le contenu expressif généré par Character.AI est protégé par le premier amendement.

Il a fait remarquer que, sauf si le contenu créé par Character.AI peut être classé dans des catégories étroitement définies de discours non protégé – comme l'incitation ou les menaces directes – il reste constitutionnellement protégé.

Inquiétudes concernant la liberté d'expression

Schwartz a également souligné l'accent mis par la poursuite sur l'allégation de la légèreté de la conception de la plateforme Character.AI. Il a déclaré : "Tout argument selon lequel le discours protégé est imprudent, dangereux ou 'défectueux' est totalement incompatible avec la liberté d'expression." Cette affirmation fait des parallèles avec les paniques morales historiques concernant les médias émergents, illustrant comment les vagues précédentes de préoccupations ont entouré les jeux vidéo et les bandes dessinées.

Schwartz a indiqué que les défis auxquels est confronté Character.AI évoquent des controverses passées, renforçant sa conviction que les efforts pour réguler la sélection du discours pourraient enfreindre les droits constitutionnels.

La poursuite : accusations et implications

La plainte légale, initiée par la mère de Sewell Setzer III, âgé de 14 ans, accuse Character.AI de graves allégations, y compris négligence, homicide volontaire, pratiques commerciales déloyales et responsabilité du produit. La poursuite soutient que la plateforme est "excessivement dangereuse" et insuffisamment équipée de mesures de sécurité, malgré son marketing auprès des mineurs.

Les figures notables faisant face à la poursuite incluent les fondateurs de Character.AI, Noam Shazeer et Daniel De Freitas, ainsi que des cadres de Google, la société qui a acquis Character.AI en août.

Accusations de psychothérapie non agréée

L'avocat du plaignant affirme que les personnages IA et les chatbots de la plateforme ont mené ce qui est décrit comme "une psychothérapie non agréée", contribuant aux circonstances tragiques entourant la mort de Setzer. En réponse à ces accusations, Character.AI a proactivement mis à jour ses protocoles de sécurité. Ces améliorations comprennent de nouveaux filtres de contenu basés sur l'âge et de meilleures méthodes de détection pour les interactions nuisibles des utilisateurs.

Conclusion

La bataille légale en cours impliquant Character.AI met en lumière des questions significatives concernant l'intersection de la technologie, de la parole et du droit. Avec des avocats comme David Schwartz exprimant leur soutien aux protections de la liberté d'expression, l'issue de cette poursuite pourrait établir un précédent décisif dans la régulation de l'IA et les responsabilités des entreprises technologiques vis-à-vis des utilisateurs vulnérables.