Les fonctions photos d'IA des Pixel 9 sont effrayantes

Google a présenté la semaine dernière sa gamme de Pixel 9, avec des nouveaux appareils (Pixel 9, 9 Pro, 9 Pro XL et 9 Pro Fold) axés sur l'intelligence artificielle, le mot à la mode. Outre Gemini, Google a également ajouté des outils de génération et d'édition d'images basés sur l'IA. Les premiers testeurs ont unanimement salué les capacités des nouveaux smartphones, mais certains ont obtenu des résultats effrayants. On comprend mieux pourquoi Apple avance sur des oeufs avec Image Playground par exemple, un outil annonce à la WWDC 24 mais toujours introuvable dans les bêtas actuelles.

Pixel Studio accusé

Avec Pixel Studio, l'équivalent du projet Image Playground d'Apple, Google permet à tout un chacun de créer des images de qualité, comme DALL-E d'OpenAI par exemple.

Mais certains, comme nos amis de Digital Trends, ont obtenu des images choquantes. Si la plupart des utilisateurs demanderont des choses innocentes, Pixel Studio est capable de proposer des crossover inattendus comme Bob l'éponge chez les Nazis ou un héros de dessin animé en train de boire de l'alcool.

Comment cela se fait-il ? Comme l'indique le titre de cet article, j'ai demandé à Pixel Studio de générer une image de Bob l'éponge habillé en nazi. À la question « Bob l'éponge habillé en soldat allemand de la Seconde Guerre mondiale avec une croix gammée sur l'uniforme », Pixel Studio n'a pas hésité à me fournir une image représentant précisément cela.


Et ce n'est qu'un exemple. J'ai également demandé à Pixel Studio de générer des images d'Elmo pointant un fusil de chasse sur Big Bird, de Yoda prenant de la cocaïne, de M. Krabs tenant un fusil d'assaut, et bien d'autres choses encore. Pour être clair, Pixel Studio n'a pas généré d'images inappropriées de manière inattendue. Si je demande une photo d'un chien mignon, j'obtiendrai une photo d'un chien mignon, pas d'un chien brandissant une arme. Pixel Studio ne génère des images d'armes, de drogues, etc. que sur demande expresse.

Google a déclaré que des « contrôles de sécurité » avaient été mis en place pour éviter que Pixel Studio ne soit « utilisé de manière malveillante », et c'est vrai. Par exemple, Pixel Studio ne créera pas d'images d'êtres humains.

Google s'active en coulisse pour prendre en compte les commentaires reçus. Ainsi, rapidement, Digital Trends n'a plus été en mesure de faire en sorte que Pixel Studio crée des personnages de dessins animés prenant de la cocaïne ou habillés en soldats du troisième Reich.

Reimagine est pire

L'outil « Reimagine » de Google, qui permet d'ajouter des objets à des photos déjà prises sur les nouveaux Pixel 9, est encore plus inquiétant que Pixel Studio. The Verge l'a utilisé pour ajouter des cadavres, des bombes et autres catastrophes à des clichés, et les objets inclus dans les photos semblent si réalistes qu'il est difficile de savoir si c'était une image modifiée. Google parvient à faire correspondre l'éclairage et la perspective à la photo d'origine, et il n'y a pas de filigrane ou d'alerte sur les médias sociaux. Google ajoute une balise de métadonnées, mais il est assez facile de l'éliminer à l'aide d'une capture d'écran par exemple.

Il n'a jamais été aussi facile de faire circuler rapidement des photos trompeuses. Les outils permettant de manipuler vos photos de manière convaincante existent à l'intérieur même de l'appareil que vous utilisez pour les capturer et les publier pour que le monde entier puisse les voir. Nous avons téléchargé l'une de nos images « Reimagined » dans une story Instagram à titre de test (et l'avons rapidement retirée). Meta ne l'a pas étiquetée automatiquement comme étant générée par l'IA, et je suis sûr que personne ne s'en serait rendu compte s'il l'avait vue.

Vous pouvez, bien sûr, utiliser Reimagine pour ajouter des couchers de soleil et des arcs-en-ciel à votre image, tout comme vous pouvez utiliser Pixel Studio pour créer des images amusantes, et les deux fonctions d'IA fonctionnent très bien, donc ces outils ne sont pas si mauvais.

Bien sûr, tout cela est toujours possible avec Photoshop ou Pixelmator Pro, mais cela prend plus de temps (et il faut certaines compétences). Alors qu'avec un téléphone, c'est réglé en quelques secondes. Effrayant.

On espère qu'Apple saura comment rendre sa propre technologie utile pour les utilisateurs. Gageons que le retour d'Image Playground permettra d'éviter ce genre de mauvaise publicité.