Après des années de critique pour sa gestion de la crise de la santé mentale des jeunes, Instagram a investi massivement dans le renforcement de ses caractéristiques de sécurité des adolescents, y compris un entièrement Nouvelle façon pour les utilisateurs mineurs de publierCommuniquez et faites défiler sur l’application. Mais les tests récents de ces nouvelles caractéristiques de sécurité suggèrent que cela peut ne pas être suffisant.
Selon un enquête dirigé par l’organisme à but non lucratif dirigé par les jeunes Concevez-le pour nous et chien de garde Technologie responsable – plus tard corroboré par Washington Post Columniste Geoffrey Fowler – La plate-forme continue de faire surface dans l’âge inapproprié, sexuellement explicite et généralement nocif malgré des garanties de contrôle du contenu.
C’est maintenant un crime fédéral de publier du porno de Deepfake Ai Deepfake
Dans l’étude, les représentants de “Gen-Z vied” de l’IT de concevoir pour une utilisation ont testé cinq faux comptes d’adolescents sur les paramètres de compte pour adolescents par défaut de l’application sur une période de deux semaines. Dans tous les cas, les comptes des jeunes ont été recommandés par contenu sensible et sexuel. Quatre comptes sur cinq ont été recommandés par le contenu lié à une mauvaise image corporelle et aux troubles de l’alimentation, et un seul algorithme d’un seul compte a fait surface ce que l’organisation à but non lucratif a jugé le contenu “éducatif”.
Les algorithmes individuels ont en outre recommandé des descriptions de la consommation de substances illégales et des publications sexuellement explicites impliquant un langage à la mode et codé ont glissé à travers les filtres. Mais toutes les protections n’ont pas faibli, y compris les restrictions intégrées de la plate-forme sur la messagerie et le marquage.
Vitesse d’éclairage mashable
“Ces résultats suggèrent que Meta n’a pas favorisé indépendamment un environnement en ligne sûr, comme il le prétend aux parents et aux législateurs”, écrit le rapport. “Les législateurs devraient obliger Meta à produire des données sur les comptes des adolescents afin que les régulateurs et les organisations à but non lucratif puissent comprendre au fil du temps si les adolescents sont réellement protégés lors de l’utilisation d’Instagram.”
En réponse au Washington PostLa porte-parole de Meta, Liza Crenshaw, a déclaré que la portée limitée du test ne capture pas le véritable impact des caractéristiques de sécurité de l’application. «Un rapport manufacturé ne change pas le fait que des dizaines de millions d’adolescents ont désormais une expérience plus sûre grâce aux comptes d’adolescents Instagram. Le rapport est défectueux, mais même pris à sa valeur nominale, il n’a identifié que 61 contenus qu’il jugera sensibles« moins de 0,3 pour cent du contenu que ces chercheurs auraient probablement vu au cours du test. »
Aborder un problème en cours à l’échelle de la plate-forme
Une expérience de juin 2024 par le Wall Street Journal et l’Université du Nord-Est a constaté que les comptes d’âge mineur étaient fréquemment Contenu sexuellement explicite et graphique recommandé Dans le flux de rouleaux centrifuges de l’application, bien qu’il soit automatiquement défini sur les paramètres de contenu les plus stricts de la plate-forme. Le phénomène était un problème algorithmique connu pour la société mère Meta, qui, selon des documents internes, a été signalé par des employés effectuant des examens de sécurité dès 2021. Dans une réponse, les représentants d’Instagram ont déclaré que les expériences ne reflétaient pas la réalité de la façon dont les jeunes utilisateurs interagissent avec l’application.
À cette époque, Instagram n’avait pas encore lancé son nouveau produit de tente, Comptes d’adolescentsintroduit comme un nouveau moyen plus surveillé pour les jeunes utilisateurs d’exister et de publier en ligne – y compris des contrôles de contenu plus forts. Les utilisateurs mineurs sont automatiquement placés dans des comptes pour adolescents lors de l’inscription à Instagram, qui définit leur page privée, limite les capacités de messagerie et la possibilité de diffuser en direct et filtre le contenu sensible à partir de flux et de DMS. Les adolescents âgés de 13 à 15 ans ont encore des rênes plus strictes sur leur utilisation de leur application, et les comptes qui tombent à travers les mailles du filet Repéré et signalé par l’IA interne de Meta.
Selon Meta, plus de 54 millions d’adolescents ont été transférés dans un compte d’adolescent restreint depuis le déploiement initial, et la grande majorité des utilisateurs de moins de 16 ans ont gardé les paramètres de sécurité par défaut et plus stricts. Et tandis que les chiffres montrent un changement positif, même le méta-PDG Mark Zuckerberg admet qu’il peut y avoir Limites à l’importance de l’entreprise et algorithme complexe.
