OpenAI renforce les protections de Sora pour éviter les deepfakes de célébrités

L'outil vidéo IA de OpenAI, Sora, interdira désormais aux utilisateurs de générer des vidéos reproduisant les apparences ou les voix de célébrités. Dans une déclaration commune sur X, OpenAI, SAG-AFTRA, l'acteur Bryan Cranston, United Talent Agency, Creative Artists Agency et l'Association of Talent Agents ont annoncé leur « collaboration productive » pour protéger les voix et les apparences dans Sora 2 et l'application Sora.

OpenAI ajuste Sora 2

Bryan Cranston, l'acteur de Malcom et Breaking Bad, a exprimé ses préoccupations après l'apparition de deepfakes non autorisés le concernant sur Sora, sans son consentement ni compensation. Les familles de Robin Williams, George Carlin et Martin Luther King Jr. ont également déposé des plaintes auprès d'OpenAI pour un usage similaire. Bien que la politique d'OpenAI exige un consentement opt-in pour les voix et apparences de personnes vivantes, les utilisateurs avaient visiblement contourné les restrictions pour créer des vidéos du célèbre Walter White. Pour y remédier, OpenAI a mis en place des garde-fous plus stricts bloquant les reproductions non autorisées.

Cette mise à jour de Sora 2 réaffirme les droits des artistes et des individus en général à contrôler leurs apparitions simulées dans Sora. OpenAI s'est également engagé à traiter les plaintes futures « de manière expéditive ».

La semaine dernière, OpenAI a ajusté Sora en réponse à la famille de King, renforçant les protections pour les figures historiques. L'entreprise reconnaît des « intérêts forts en matière de liberté d'expression » pour dépeindre les icônes publiques décédées, mais permet aux représentants autorisés ou aux ayants droit de demander une exclusion des caméos Sora.

Sora a été lancé sous forme d'application iPhone le 30 septembre aux USA et a rapidement grimpé dans les classements pour devenir l'une des plus populaires de l'App Store. Il s'agit d'ailleurs d'un réseau social basé sur la vidéo, à la manière d'un certain TikTok.

Télécharger l'app gratuite Sora