Google améliore la recherche pour dissimuler les deepfakes explicites

Google améliore les fonctionnalités de sécurité en ligne contre les deepfakes

Lors des développements récents, Google a introduit de nouvelles fonctionnalités de sécurité en ligne visant à lutter contre les deepfakes explicites et à améliorer la protection des utilisateurs sur sa plateforme de recherche. Ces améliorations sont conçues pour faciliter la suppression de contenu deepfake explicite non consensuel plus efficacement tout en veillant à ce que ce type de contenu n'apparaisse pas de manière proéminente dans les résultats de recherche.

Comment Google s'attaque aux deepfakes

Lorsque les utilisateurs demandent avec succès la suppression de contenu explicite les représentant, les systèmes de Google filtreront désormais activement tous les résultats explicites liés à des recherches similaires, éliminant ainsi toute imagerie dupliquée. Cette initiative s'appuie sur des protections antérieures qui se sont avérées efficaces pour divers types d'images non consensuelles.

Emma Higham, chef de produit chez Google, a souligné l'engagement de l'entreprise envers la sécurité des utilisateurs en déclarant : "Ces protections ont déjà prouvé leur succès pour traiter d'autres types d'images non consensuelles, et nous avons maintenant construit les mêmes capacités pour les images explicites fausses. Ces efforts visent à offrir aux gens une tranquillité d'esprit supplémentaire, surtout s'ils craignent que du contenu similaire à leur sujet n'apparaisse à l'avenir."

Ajustements des classements de recherche et exposition au contenu

Google améliore également la manière dont il traite les requêtes de recherche associées à un plus grand risque d'afficher des images deepfake explicites. Par exemple, les recherches visant explicitement à trouver des images deepfake de personnes réelles prioriseront l'affichage de contenu de haute qualité, non explicite à la place. Cela inclut des articles d'actualité et d'autres documents informatifs qui peuvent fournir un contexte sans exposer les utilisateurs à du contenu nuisible.

De plus, les sites Web qui reçoivent fréquemment des demandes de suppression pour des images explicites fausses seront probablement pénalisés dans les classements de recherche de Google. Cette stratégie vise non seulement à protéger les utilisateurs mais également à inciter les créateurs de contenu à s'abstenir d'héberger ou de promouvoir un tel matériel nuisible.

Impact des mises à jour récentes

Selon Google, les mises à jour précédentes ont entraîné une réduction significative de plus de 70 % de l'exposition aux résultats d'images explicites pour les requêtes spécifiquement liées au contenu deepfake. Cela a été une étape importante dans la gestion de la sécurité en ligne pour les utilisateurs qui pourraient par inadvertance tomber sur du contenu nuisible.

Distinguer entre contenu explicite réel et faux

Un des principaux défis reste de distinguer entre le contenu explicite authentique - comme des scènes nues consensuelles jouées par des professionnels - et le contenu faux généré par la technologie. Google travaille activement à catégoriser ces types de contenu afin de maintenir l'accessibilité d'images légitimes tout en réduisant la visibilité des deepfakes malveillants.

Efforts continus pour lutter contre le contenu dangereux

Ces mises à jour s'inscrivent dans l'initiative plus large de Google visant à lutter contre les éléments nuisibles en ligne. En mai, Google a interdit aux annonceurs de promouvoir la pornographie deepfake, signalant une position ferme contre l'utilisation abusive de la technologie à des fins d'exploitation. De plus, l'entreprise a élargi ses politiques concernant les informations de "doxxing" - partage non souhaité d'informations personnelles - et a mis en œuvre un floutage automatique des images sexuellement explicites en août 2023.

Conclusion

Les mesures proactives de Google pour améliorer la sécurité en ligne sont cruciales pour protéger les individus des impacts nuisibles de la technologie deepfake. En priorisant la suppression de contenu explicite et en ajustant les paramètres de recherche, Google vise à créer un environnement en ligne plus sûr tout en permettant la visibilité de contenu légitime.