Les nouvelles découvertes suggèrent que Twitter ne parvient pas à détecter et à supprimer le contenu d’exploitation sexuelle d’enfants

Le cycle d’actualités de 2022 n’a pas été tendre avec Twitter.

À la suite de la saga des prises de contrôle d’Elon Musk et des révélations plus récentes selon lesquelles la société induit délibérément en erreur les investisseurs et le marché sur plusieurs fronts aujourd’hui, une autre histoire a soulevé encore plus de questions sur la gouvernance de Twitter – et ce qui inquiète au siège sur Twitter.

Comme l’a rapporté The Verge :

Dans Au printemps 2022, Twitter envisageait de changer radicalement la plateforme. Après des années à autoriser discrètement le contenu pour adultes sur le service, la société le monétiserait. Proposition : donner aux créateurs de contenu pour adultes la possibilité de commencer à vendre des abonnements payants dans le style d’OnlyFans, Twitter conservant une partie des revenus.

Porn Twitter serait certainement la clé, et les risques associés non seulement de reconnaître directement la présence d’un tel contenu, mais aussi de l’encourager, seraient de grande envergure et pourraient aliéner les annonceurs qui craindraient d’être associés à des contenus plus controversés et d’inviter un examen plus approfondi de la part des États-Unis. régulateurs

Mais rien de tout cela n’est la raison pour laquelle Twitter a décidé d’abandonner le projet :

Cependant, avant le feu vert final au lancement, Twitter a convoqué 84 employés pour former ce qu’il a appelé la “Red Team”. L’objectif était de “faire pression sur la décision d’autoriser les créateurs adultes à monétiser la plate-forme, en mettant l’accent sur ce à quoi cela ressemblerait pour Twitter de le faire de manière sûre et responsable”.[…] Ce que l’équipe rouge a découvert a fait dérailler le projet : Twitter ne pouvait pas autoriser en toute sécurité les créateurs adultes à vendre des abonnements, car l’entreprise n’a pas – et ne fait toujours pas – contrôler efficacement le contenu sexuel préjudiciable sur la plate-forme.

Plus précisément, l’équipe rouge a constaté que Twitter “ne peut pas détecter avec précision l’exploitation sexuelle des enfants et la nudité non consensuelle”, un problème qui existe actuellement, Twitter ne respectant systématiquement pas les normes et processus convenus pour détecter et supprimer ce matériel.

L’enquête a révélé qu’à mesure que Twitter se développait, son investissement dans la détection de contenu sexuel préjudiciable ne suivait pas le rythme, l’entreprise donnant la priorité à la croissance par-dessus tout, laissant de grandes lacunes dans ses processus.

Les révélations sont un autre aperçu surprenant de l’état de Twitter, qui peut ou non être envahi par des bots et héberge déjà tellement de pornographie qu’une recherche de pratiquement n’importe quel terme sur l’application finira par révéler un clip vidéo choquant en cours.

Cela, en soi, devrait voir l’application faire l’objet d’un examen réglementaire accru – tandis que The Verge note également que Twitter est en fait devenu une priorité pour les artistes adultes ces dernières années, en raison de la décision de Tumblr d’interdire le contenu pour adultes en 2018. Cela signifie que Twitter est maintenant l’une des seules plateformes grand public qui permet aux utilisateurs de télécharger des photos et des vidéos sexuellement explicitesqui est plus vu dans l’industrie pour adultes l’utilisent comme un outil promotionnel pour leur contenu et leurs services.

Malgré cela, la capacité de Twitter à détecter et à supprimer les contenus sexuels préjudiciables n’a cessé de décliner. Ce qui semble être un désastre imminent, avec Twitter potentiellement à un procès loin de lourdes amendes pour cela.

Vous vous demandez ce qu’Elon en pense ?

Musk, bien sûr, essaie de se retirer de son offre publique d’achat de 44 milliards de dollars sur Twitter, apparemment en raison du fait que Twitter, de l’avis de Musk, a menti sur la présence de bots et de spam sur sa plate-forme.

Twitter a déclaré à plusieurs reprises que les bots et les spams représentaient 5 % de ses utilisateurs actifs, mais l’affaire Musk a également forcé Twitter à révéler qu’il avait basé cette estimation sur des tests très limités.

Les estimations trimestrielles de Twitter sont basées sur des échantillons quotidiens de 100 mDAU, combinés pour un échantillon total d’environ 9 000 mDAU par trimestre.”

C’est un échantillon total de 9 000 comptes, soit 0,0038 % de l’audience de Twitter. À cet égard, Musk a peut-être raison de remettre en question les mesures de Twitter, tandis que de nouvelles révélations de l’ancien chef de la sécurité de Twitter, Peter Zatko, sur les importantes vulnérabilités et lacunes de sécurité de Twitter peuvent également conduire à un examen plus approfondi des processus de l’entreprise et même à des amendes à la suite d’échecs. à cet égard.

Ajoutez à ces nouvelles allégations concernant l’incapacité de l’entreprise à détecter et à supprimer les contenus sexuels préjudiciables, et Elon, s’il finit par devenir le chef de Twitter, pourrait être contraint de payer un certain nombre d’amendes parmi ses premières actions sur l’application, ce qui pourrait avoir un impact significatif sur le la capacité de la plateforme à s’aligner sur sa grande vision d’un avenir où les tweets contribuent à ‘préserver la lumière de la conscience‘.

Sur la base du libellé de l’accord de rachat, je ne suis pas sûr qu’aucune de ces nouvelles révélations puisse être incluse dans le rachat de Musk de toute façon. Mais il est beaucoup plus logique maintenant pourquoi Twitter était prêt à accepter l’offre de rachat de Musk, et pourquoi cela a fonctionné pour conclure un accord avec plusieurs clauses de sortie pour l’enfermer dans l’accord.

Mais cela, bien sûr, est à côté de la principale préoccupation – que Twitter ne protège pas les personnes vulnérables par son incapacité à contrôler le contenu adulte préjudiciable, a confirmé un examen interne, au point qu’il ne voit aucun moyen de le réparer.

C’est une grande préoccupation et devrait être un point majeur poussé par les régulateurs, qui vont probablement essayer de faire chanter les dirigeants de Twitter à propos de ces dernières révélations.

Qu’est-ce que cela signifiera pour l’avenir de la plateforme ? Ce n’est pas bon, mais si le compromis est que nous nous retrouvons avec un écosystème en ligne meilleur et plus sûr qui protège mieux les utilisateurs, alors Twitter doit être tenu responsable, à quelque titre que ce soit.