Meta partage un nouvel aperçu de ses efforts en évolution pour lutter contre les efforts de manipulation de masse

Meta a publié une nouvelle revue de ses efforts en constante évolution pour lutter contre les opérations d’influence coordonnées sur ses applications, qui sont devenues un élément clé de la plate-forme après l’élection présidentielle américaine de 2016, qui a révélé que des agents basés en Russie utilisaient Facebook pour influencer les électeurs américains. .

Depuis lors, Meta dit qu’elle a découvert et supprimé plus de 200 opérations d’influence secrètes, tout en partageant des informations sur le comportement de chaque réseau avec d’autres acteurs du secteur afin qu’ils puissent tous apprendre des mêmes données et développer de meilleures approches pour y faire face.

D’après Méta :

“Qu’ils viennent d’États-nations, d’entreprises commerciales ou de groupes non attribués, le partage de ces informations a permis à nos équipes, journalistes d’investigation, responsables gouvernementaux et collègues de l’industrie de mieux comprendre et exposer les risques de sécurité en ligne, y compris avant des élections critiques.

Meta dit avoir détecté des opérations d’influence ciblant plus de 100 pays différents, les États-Unis étant le pays le plus ciblé, suivis de l’Ukraine et du Royaume-Uni.

Rapport sur les efforts d'impact coordonnés de Metta

Cela indique probablement l’influence que les États-Unis ont sur la politique mondiale, et cela peut aussi être lié à la popularité des réseaux sociaux dans ces régions, ce qui en fait un plus grand vecteur d’influence.

En termes d’origine de ces groupes, la Russie, l’Iran et le Mexique étaient les trois sources géographiques les plus prolifiques de l’activité CIB.

Rapport sur les efforts d'impact coordonnés de Metta

La Russie, comme indiqué, abrite les opérations de ce type les plus médiatisées – bien que Metta note également que si de nombreuses opérations russes ont ciblé les États-Unis, davantage d’opérations russes ont en fait ciblé l’Ukraine et l’Afrique, dans le cadre d’un effort mondial de la nation pour influencer l’opinion publique. et le sentiment politique.

Meta note également qu’au fil du temps, de plus en plus de ces types d’opérations ciblent en fait son propre pays, par opposition à une entité étrangère.

Par exemple, nous avons signalé un certain nombre d’agences gouvernementales ciblant leur propre population en Malaisie, Nicaragua, Thaïlande et Ouganda. En fait, les deux tiers des opérations que nous avons interrompues depuis 2017 se sont concentrées en tout ou en partie sur des publics nationaux.

Rapport sur les efforts d'impact coordonnés de Metta

Concernant l’évolution de ces opérations, Meta note que, de plus en plus, les groupes CIB se tournent vers des images générées par l’intelligence artificielle, par exemple, pour masquer leur activité.

“Depuis 2019, nous avons constaté une augmentation rapide du nombre de réseaux qui ont utilisé des photos de profil générées à l’aide de techniques d’intelligence artificielle telles que les réseaux antagonistes génératifs (GAN). Cette technologie est facilement disponible en ligne, permettant à quiconque – y compris les menaces – de créer une photo unique. Plus des deux tiers de tous les réseaux CIB que nous avons perturbés cette année avaient des comptes qui avaient probablement des images de profil générées par le GAN, ce qui suggère que les acteurs de la menace pourraient y voir un moyen de rendre leurs faux comptes plus authentiques et authentiques dans le but d’éviter la détection. par des chercheurs open source qui pourraient s’appuyer sur des recherches d’images inversées pour identifier les photos de profil.

Ce qui est intéressant, surtout si l’on considère l’augmentation constante de la technologie de génération d’IA, qui s’étend des photos aux vidéos en passant par le texte et plus encore. Bien que ces systèmes aient des utilisations précieuses, il existe également des dangers et des préjudices potentiels, et il est intéressant d’examiner comment ces technologies peuvent être utilisées pour dissimuler une activité inauthentique.

Le rapport fournit une perspective précieuse sur l’ampleur du problème et sur la manière dont Metta travaille pour lutter contre les tactiques en constante évolution des fraudeurs et des opérations de manipulation en ligne.

Et ils ne s’arrêteront pas – c’est pourquoi Metta a également appelé à une réglementation accrue, ainsi qu’à une action continue des groupes industriels.

Meta met également à jour ses propres politiques et processus en fonction de ces besoins, y compris les fonctionnalités de sécurité mises à jour et options d’assistance.

Qui comprendra également plus de capacité de chat en direct :

“Bien que nos outils améliorés de récupération de compte visent à résoudre la plupart des problèmes d’accès aux comptes, nous savons qu’il existe des groupes de personnes qui pourraient bénéficier d’une assistance humaine supplémentaire.” Cette année, nous avons soigneusement développé un petit test de la fonctionnalité de support de chat en direct de Facebook, et nous commençons à voir des résultats positifs. Par exemple, au cours du mois d’octobre, nous avons proposé notre option d’assistance par chat en direct à plus d’un million de personnes dans neuf pays, et nous prévoyons d’étendre ce test à plus de 30 pays dans le monde.

Cela pourrait être une grosse mise à jour, comme le savent tous ceux qui ont déjà essayé Meta, mettre un humain sur la ligne d’assistance peut être une tâche presque impossible.

Il est difficile d’évoluer, en particulier lorsqu’il dessert près de 3 milliards d’utilisateurs, mais Meta travaille actuellement à fournir davantage de fonctionnalités d’assistance comme autre moyen de mieux protéger les personnes et de les aider à éviter les dommages en ligne.

C’est une bataille sans fin, et avec la capacité d’atteindre autant de personnes, vous pouvez vous attendre à ce que les mauvais acteurs continuent de cibler les applications Meta comme moyen de diffuser leurs messages.

En tant que tel, il convient de noter comment Metta affine son approche, tout en notant la quantité de travail effectué jusqu’à présent sur ces éléments.

Vous pouvez lire le Meta dans son intégralité Rapport coordonné sur l’application des comportements inauthentiques 2022 ici.