Alex Popken, ancien responsable de la confiance et de la sécurité chez Twitter, est devenu vice-président de la confiance et de la sécurité chez WebPurify, un fournisseur de services de modération de contenu. Dans une récente interview avec l'Associated Press, Popken a discuté de l'évolution de la modération de contenu au cours de la dernière décennie. Elle a souligné les étapes clés de son passage sur Twitter, telles que la découverte de l'ingérence russe dans l'élection présidentielle américaine de 2016, qui a souligné l'importance d'investir dans la modération du contenu pour empêcher les mauvais acteurs de saper la démocratie.

Popken a souligné la nécessité de combiner la modération humaine avec l'intelligence artificielle (IA) pour modérer efficacement le contenu. Bien que l'IA puisse détecter certains mots-clés ou expressions, elle a du mal à comprendre le contexte et les nuances, ce qui oblige les modérateurs humains à fournir cette couche essentielle de jugement. Popken a reconnu les progrès de l'IA générative, qui peut mieux saisir le contexte et les nuances, mais a noté que la modération humaine restera cruciale dans un avenir prévisible.

WebPurify travaille avec une variété d'entreprises de médias non sociaux, allant des détaillants aux applications de rencontres, pour s'assurer que le contenu généré par les utilisateurs respecte les règles et les directives établies par la plateforme. Popken a expliqué que la modération de contenu est un paysage en constante évolution, influencé par les événements mondiaux, les nouvelles technologies et les risques évolutifs posés par les mauvais acteurs. Elle a souligné le défi de modérer la désinformation, notant que les plateformes doivent se concentrer sur la prévention des dommages les plus réels.

En ce qui concerne l'IA générative, Popken a exprimé ses préoccupations concernant la désinformation générée par l'IA, en particulier pendant les saisons électorales importantes. Elle a noté la montée des deepfakes et de la manipulation des médias en ligne, soulignant la nécessité d'une réglementation et de garde-fous appropriés pour prévenir les abus. Malgré les risques potentiels, Popken considère l'IA comme un outil précieux pour la modération de contenu, en particulier pour les renseignements sur les menaces, si elle est utilisée de manière responsable.