L'UE enquête sur les risques des algorithmes chez Snapchat, TikTok et YouTube

La Commission européenne vient de demander à plusieurs grandes plateformes, dont YouTube, Snapchat et TikTok, de fournir plus d'informations sur le fonctionnement de leurs systèmes de recommandation. Cette démarche s'inscrit dans le cadre de la nouvelle législation européenne sur les services numériques (Digital Services Act ou DSA) qui vise à mieux réguler ces algorithmes. Bien qu'Apple ne soit pas directement concerné par cette demande, l'entreprise suit de près l'évolution de la réglementation dans ce domaine.

YouTube, Snapchat et TikTok dans le viseur de la Commission européenne

Conformément au DSA, la Commission européenne a envoyé une demande d'information à YouTube, Snapchat et TikTok concernant la conception et le fonctionnement de leurs systèmes de recommandation. Ces plateformes doivent désormais évaluer et atténuer de manière adéquate les risques découlant de ces algorithmes, notamment en matière de santé mentale des utilisateurs et de diffusion de contenus préjudiciables.

YouTube et Snapchat doivent fournir des informations détaillées sur les paramètres utilisés par leurs algorithmes pour recommander du contenu aux utilisateurs, ainsi que sur leur rôle dans l'amplification de certains risques systémiques liés au processus électoral, au discours civique, au bien-être mental des utilisateurs (comportements addictifs, "rabbit holes"...) et à la protection des mineurs.

De son côté, TikTok doit donner plus de précisions sur les mesures adoptées pour éviter la manipulation du service par des acteurs malveillants et atténuer les risques liés aux élections, au pluralisme des médias et au discours civique, qui peuvent être amplifiés par certains systèmes de recommandation.

Les trois plateformes ont jusqu'au 15 novembre pour fournir les informations demandées. En fonction de l'évaluation des réponses, la Commission décidera des prochaines étapes, qui pourraient inclure l'ouverture de procédures formelles. Des amendes sont prévues en cas d'informations incorrectes, incomplètes ou trompeuses.

Quelles implications pour Apple et ses services ?

Même si Apple n'est pas directement visé par cette demande d'information, l'entreprise est concernée par la problématique de la régulation des algorithmes de recommandation. Ses services comme l'App Store, Apple Music ou Apple TV+ s'appuient en effet sur ce type de systèmes pour suggérer du contenu personnalisé aux utilisateurs.

Apple met en avant depuis longtemps sa philosophie axée sur la protection de la vie privée. Cependant, avec le renforcement de la législation européenne, la firme de Cupertino pourrait être amenée à faire preuve de plus de transparence sur le fonctionnement de ses algorithmes et à mettre en place des garde-fous supplémentaires pour limiter certains risques.

Plus globalement, cette initiative de la Commission européenne illustre la volonté croissante des régulateurs de mieux encadrer les géants du numérique et leurs pratiques, dans un souci de protection des utilisateurs. Une tendance de fond qui devrait continuer à s'affirmer dans les années à venir et à laquelle Apple, comme les autres acteurs tech, devra s'adapter.

Source