Les employés de Snap conscients des préoccupations de sécurité des enfants dans l'application, une nouvelle poursuite dévoile

Sextorsion sur les réseaux sociaux : L'écho de Snap Inc.

Le problème de la sextorsion sur des plateformes conçues pour l'interaction sociale est devenu de plus en plus préoccupant, notamment avec les révélations concernant Snapchat, une application populaire parmi les adolescents. Un procès récent déposé par le procureur général du Nouveau-Mexique contre Snap Inc. a mis en lumière des statistiques alarmantes et des communications internes qui indiquent une prise de conscience troublante au sein de l'organisation.

Augmentation des signalements de sextorsion

En novembre 2022, les employés de Snap ont rapporté avoir reçu 10 000 soumissions d'utilisateurs relatives à la sextorsion chaque mois. Cependant, ils ont reconnu que ce chiffre "représente probablement une petite fraction de cet abus" en raison de la stigmatisation et des barrières qui empêchent les victimes de signaler de tels incidents. Le procès, avec moins de rédactions que les versions précédentes, met l'accent sur la pression exercée sur Snap et ses utilisateurs.

Échecs dans la protection des utilisateurs

Des cas spécifiques révélés dans la plainte montrent une tendance troublante ; un cas noté avait 75 signalements impliquant des mineurs, de la nudité et de l'extorsion, mais le compte associé était toujours opérationnel. En 2022, des recherches internes ont montré qu'un tiers des adolescentes et 30 % des adolescents avaient rencontré des contacts non désirés sur la plateforme de Snap. Cela dresse le portrait d'une entreprise qui, malgré sa prise de conscience de ces problèmes, semble y faire face de manière inadéquate.

Déconnexion de la direction et priorisation des fonctionnalités

Pour aggraver le problème, d'anciens employés ont exprimé des préoccupations concernant un manque d'interaction entre les équipes de confiance et de sécurité et la direction. Des résistances ont été signalées contre les mécanismes de sécurité dans l'application, alors que le PDG Evan Spiegel se concentrait davantage sur l'esthétique du design que sur la sécurité des utilisateurs. Une telle priorisation soulève des questions sérieuses sur l'engagement de l'entreprise à protéger son jeune public.

Choix de design impactant la sécurité

Les choix de design de Snap, destinés à garantir la vie privée des utilisateurs, ont involontairement contribué à un environnement plus risqué pour les mineurs. Des rapports de 2021 indiquaient qu'il y avait de nombreux cas de prédateurs manipulant Snapchat pour entrer en contact avec des enfants, certains aussi jeunes que huit ans. Néanmoins, il était craint que la mise en œuvre de mesures pour lutter contre ces comportements prédateurs ne surcharge la vie privée des utilisateurs et n'augmente considérablement les coûts opérationnels.

Risques de la fonctionnalité Ajouter rapidement

Une des fonctionnalités signalées par les employés était Ajouter rapidement, qui suggère aux utilisateurs de se connecter avec d'autres. Une communication interne a révélé un désir de trouver des approches innovantes qui protégeraient les utilisateurs vulnérables, comme les mineurs, des comptes prédateurs. Bien que Snap ait finalement restreint la visibilité de l'ajout rapide en fonction des amis communs, les employés ont reconnu que cette mesure n'adressait pas adéquatement les problèmes plus larges en jeu.

Faciliter des activités illégales : Ventes d'armes

En plus de la sextorsion, la plainte dévoilée a attiré l'attention sur le rôle présumé de Snap dans la facilitation des ventes illégales d'armes. Une présentation au sein de l'entreprise a déclaré que Snap voit environ 50 publications liées aux ventes d'armes illégales par jour. De manière alarmante, il a été noté que le contenu signalé est souvent vu des centaines de fois avant d'être traité.

L'addictivité des Snapstreaks

De plus, les communications internes concernant les Snapstreaks - une fonctionnalité conçue pour encourager la communication continue entre les utilisateurs - ont mis en avant leur nature addictive. Un employé a commenté l'attrait de telles fonctionnalités, notant qu'elles maintiennent efficacement les utilisateurs engagés, rendant "impossible de se déconnecter même pendant une journée". Ces fonctionnalités soulèvent des questions éthiques concernant les stratégies d'engagement des utilisateurs.

Conclusion : Le besoin de responsabilité

Le procès contre Snap Inc. souligne d'importantes préoccupations en matière de sécurité et d'éthique concernant la manière dont les plateformes de médias sociaux priorisent l'engagement des utilisateurs plutôt que leur protection, en particulier pour des populations vulnérables comme les mineurs. À l'avenir, il est crucial que les entreprises technologiques réévaluent leurs politiques et leurs choix de design, veillant à ce qu'elles favorisent un environnement sûr, et non seulement engageant, pour les utilisateurs.