Sous la surveillance accrue des régulateurs et au milieu de diverses questions et préoccupations persistantes concernant la propriété et l’accès de son contenu, TikTok cherche à fournir plus d’assurances qu’il ne censure pas certains contenus ou n’amplifie pas certaines perspectives, grâce à de nouveaux points d’accès API qui permettront aux universitaires et aux chercheurs de recueillir plus d’informations sur le fonctionnement exact de ses systèmes.
Dans le cadre du nouveau programme, TikTok donnera bientôt accès aux chercheurs des données publiques et anonymisées sur le contenu et l’activité de la plateforme. Il facilitera également la compréhension de ses systèmes de modération de contenu, via des points d’accès API, avec des restrictions strictes sur qui peut accéder aux outils.
Cela pourrait éclairer un peu plus sur les raisons pour lesquelles le flux “À propos de vous” de TikTok est si addictif, en permettant aux chercheurs de déterminer avec quoi les utilisateurs s’engagent et ce que ses équipes de modération veulent supprimer. Cependant, il ne fournira pas d’informations sur les systèmes d’IA de TikTok et les détails qu’il peut extraire de chaque clip téléchargé et comment il utilise ensuite ces points de données pour décider quoi montrer à chaque utilisateur, en fonction de ses intérêts.
Ce qui est vraiment la “sauce secrète” de l’application, et probablement son élément le plus controversé, c’est que les algorithmes avancés de TikTok peuvent localiser avec précision des éléments très spécifiques dans les clips vidéo, qu’il peut ensuite utiliser pour trier le contenu.
Par exemple, dès 2020, un document interne divulgué a montré que les modérateurs de TikTok avaient pour instruction de supprimer le contenu mettant en vedette des personnes qui étaient “trop moche, pauvre ou handicapé pour la plateforme”. TikTok a déclaré que de telles réglementations avaient été rapidement supprimées de ses directives, mais le concept même selon lequel TikTok pourrait même le faire, basé en partie sur une identification algorithmique, suggère que ses systèmes sont capables d’utiliser de tels paramètres comme outils de classement – ce qui signifie que TikTok il peut, et utilise probablement ce genre de traits physiques pour montrer aux gens plus ce qu’il aime et moins ce qu’il n’aime pas.
En d’autres termes, l’IA de TikTok peut détecter des éléments physiques et les utiliser comme paramètres correspondants pour faire bouger les utilisateurs. Je soupçonne que ce type d’ID d’objet, intégré au système de TikTok, pourrait être découvert grâce à un examen plus approfondi de ses systèmes, c’est pourquoi ses algorithmes ne sont pas inclus dans ce nouvel accès API.
Là encore, il pourrait aussi s’agir d’informations commerciales, et de garder à portée de main les secrets de son succès. Et ce n’est peut-être pas non plus le souci que cela pourrait sembler, avec son système d’IA potentiellement construit sur les mêmes types de paramètres qu’Instagram ou Facebook, sans les aspects vraiment controversés.
Bien qu’il soit intéressant de noter qu’un rapport récent suggère que TikTok a conseillé à son personnel de ne pas parler de certains éléments sensibles, y compris ses outils d’IA.
Selon un rapport de Gizmodo, TikTok donne au personnel «Master Messaging document’, qui décrit les points clés que l’entreprise souhaite présenter, ou non, au public.
Selon Gizmodo :
“Tout près du haut de la liste ? “Minimisez la société mère ByteDance, minimisez l’association chinoise, minimisez l’IA.” Les trois puces sont les deuxième, troisième et quatrième lignes du document, juste après “Mettre l’accent sur TikTok en tant que marque/plate-forme”. Par ailleurs, l’entreprise conseille à ses employés de souligner que, si les jeunes adorent TikTok, “l’application est réservée aux utilisateurs âgés de 13 ans et plus”.
Ajoutez à cela le fait que TikTok supprime plus de contenu en raison de “nudité et activité sexuelle” et brosse un tableau préoccupant à certains égards, qui pourrait être exposé si un aperçu plus large de ses systèmes algorithmiques était autorisé.
Cependant, il sera intéressant de voir ce qui ressort de ces nouvelles enquêtes et ce qu’elles peuvent révéler sur le fonctionnement de l’application, en termes de tendances d’utilisation, de modération, etc.
TikTok dit qu’il fournit également le même accès API son indépendant Le US Content Advisory Council ainsi que ses conseils consultatifs régionaux de sécurité pour une analyse plus approfondie.
Cela pourrait être une bonne décision d’aider TikTok à renforcer le support et la compréhension et à réduire la pression sur l’application tout en offrant une meilleure compréhension de ce qui motive son succès.