Telegram va scanner les images pour protéger les mineurs

La messagerie instantanée Telegram, qui compte plus de 950 millions d'utilisateurs actifs mensuels, franchit une étape importante dans la lutte contre les contenus d'abus sexuels sur mineurs. Sous le feu des critiques concernant sa politique de modération, l'application vient d'annoncer son adhésion à l'Internet Watch Foundation (IWF), une organisation britannique spécialisée dans la protection de l'enfance en ligne.

Un changement de cap significatif

Pour la première fois de son histoire, Telegram va déployer les outils et bases de données de l'IWF en complément de ses propres solutions. L'application utilisera notamment un système de "hashes" (empreintes numériques) permettant d'identifier instantanément les images et vidéos d'abus connus pour les bloquer avant leur diffusion sur la plateforme. Cette technologie s'appliquera aussi bien aux contenus réels qu'aux images générées par IA. Pour rappel, Apple a eu recours au même système avant de rétropédaler complètement sur le CSAM.

Ce partenariat marque un tournant dans la politique de modération de Telegram, qui rejoint ainsi d'autres géants tech comme Apple, Meta ou Google déjà membres de l'IWF. Ce revirement intervient quelques mois après l'arrestation de Pavel Durov, PDG de Telegram, à Paris, où les procureurs reprochaient à la plateforme son inaction face aux contenus criminels.

L'IWF avait précédemment identifié des milliers de contenus problématiques sur Telegram depuis 2022, incluant des images particulièrement graves impliquant des enfants de moins de deux ans. Si l'application supprimait ces contenus après signalement, elle adopte désormais une approche plus proactive avec des outils de détection automatique. Remi Vaughn, responsable des relations presse chez Telegram, a souligné que l'application "supprime déjà des centaines de milliers de contenus d'abus chaque mois" grâce à la modération proactive, l'IA et l'apprentissage automatique. Les outils de l'IWF viendront renforcer ces mécanismes existants pour une protection encore plus efficace des utilisateurs.

Manifestement, l'application est moins proactive concernant la suppression de contenus relatifs à la vente d'armes, de drogue ou de contenu protégé par le droit d'auteur. Une modération à géométrie variable.

Source

Télécharger l'app gratuite Telegram Messenger