Google est vigilant avec les apps qui génèrent du contenu par IA sur son Play Store

Depuis le début de l'année, l'intelligence artificielle est partout dans notre quotidien, on est amené parfois à l'utiliser dans le cadre de notre activité professionnelle ou même pour remplacer une recherche sur un moteur de recherche. Face à cette ampleur autour de l'IA, Google se dit vigilant et ne veut pas que sa boutique d'application devienne un endroit où on retrouve de multiples dérives sur les contenus générés par les IA !

Google met en place une politique stricte sur les IA

Dans une époque où l'intelligence artificielle occupe une place importante, les géants du numérique comme Google prennent des mesures pour assurer une utilisation sûre et éthique de ces technologies. À partir du début de l'année prochaine, Google mettra en vigueur une nouvelle politique à l'égard des applications d'IA génératives sur le Play Store. Cette initiative vise à répondre aux défis émergents posés par l'augmentation des applications propulsées par l'IA, dont certaines ont généré du contenu inapproprié.

Les nouvelles directives exigent que les développeurs permettent aux utilisateurs de signaler le contenu offensant généré par l'IA au sein de leurs applications. Les retours des utilisateurs devront être utilisés par les développeurs pour affiner leurs systèmes de modération et de filtrage, en améliorant ainsi la sécurité et la qualité du contenu généré.

Cette décision soudaine de Google fait suite à des incidents récents impliquant des applications populaires telles que Lensa et Remini, où du contenu inapproprié a été généré. Des cas extrêmes d'abus des générateurs d'images d'IA ont été révélés, incluant la production de contenu d'abus sexuel d'enfants et de deepfakes à des fins politiques.

Les nouvelles règles de Google couvriront un large éventail d'applications, y compris celles comportant des chatbots génératifs et celles produisant des images à partir de textes, d'images ou d'invitations vocales. Google rappelle que toutes les applications générant du contenu via l'IA, doivent adhérer à ses politiques de développement déjà en vigueur.
Pour renforcer la sécurité, un examen plus approfondi sera effectué sur les applications demandant de larges autorisations d'accès aux photos et vidéos.

En général, c'est toujours Apple qui impose en premier des règles strictes aux développeurs, c'est rare que Google prenne la décision d'établir une telle politique sur des applications très populaires sur le Play Store. Les modifications de la politique sont entrées en vigueur aujourd'hui, cependant, les développeurs disposent jusqu'au début de 2024 pour implémenter les nouvelles exigences et signaler les modifications dans leurs applications.

Source