Un nouveau rapport de l'Observatoire Internet de Stanford a révélé que la ligne directrice mise en place il y a 26 ans pour lutter contre l'exploitation des enfants en ligne n'est pas à la hauteur de son potentiel et a un besoin urgent d'améliorations technologiques et autres. Les chercheurs avertissent que la nouvelle technologie d'intelligence artificielle pourrait exacerber les problèmes rencontrés par le système, rendant encore plus difficile pour les forces de l'ordre d'identifier les vrais enfants ayant besoin de secours.

La CyberTipline, établie par le Congrès en tant que principale ligne de défense pour les enfants exploités en ligne, oblige les entreprises technologiques à signaler tout matériel d'abus sexuel d'enfants qu'elles trouvent sur leurs plateformes au Centre national pour les enfants disparus et exploités (NCMEC). Cependant, le rapport met en évidence plusieurs problèmes avec le système, notamment le volume écrasant de rapports, le manque de détails importants dans les rapports des entreprises technologiques et les contraintes juridiques qui ralentissent le processus d'identification des délinquants.

Le manque d'ingénieurs hautement qualifiés, qui peuvent gagner des salaires plus élevés dans l'industrie de la technologie, et les contraintes juridiques ont encore entravé l'efficacité du système. En outre, des distractions telles qu'un mème se propageant sur plusieurs plateformes peuvent entraîner des arriérés de signalements, retardant davantage l'identification des délinquants.

Le rapport révèle également que la CyberTipline a reçu plus de 36 millions de rapports en 2023, Facebook, Instagram et Google envoyant le plus grand nombre de rapports. Près de la moitié des conseils étaient exploitables, mais de nombreux rapports ne contenaient pas suffisamment d'informations ou étaient de fausses alarmes. La majorité des rapports concernaient des pays en dehors des États-Unis, soulignant la nature mondiale de l'exploitation des enfants en ligne.

Une solution proposée dans le rapport est d'améliorer la façon dont les plateformes technologiques étiquettent ce qu'elles signalent pour faire la distinction entre les mèmes largement partagés et le contenu qui nécessite une enquête plus approfondie. Le NCMEC a déclaré qu'il était impatient d'explorer les recommandations en interne et avec les principales parties prenantes pour améliorer l'efficacité de la CyberTipline.

Dans l'ensemble, le rapport souligne la nécessité d'améliorations technologiques et autres urgentes de la CyberTipline pour mieux lutter contre l'exploitation des enfants en ligne et assurer la sécurité des enfants.