Snapchat : scandale autour de l'IA qui encourage les relations entre mineurs et adultes

snapchat icone app ipa iphoneSi vous êtes un utilisateur régulier de Snapchat, vous avez probablement remarqué que depuis quelques jours, "My AI" s'est ajouté en tête de liste de vos conversations. Une nouvelle approche qui ne plaît pas à la majorité des utilisateurs qui voient l'un de leurs proches remplacés par une intelligence artificielle. Si cette stratégie de Snapchat n'est pas perçue comme étant une bonne idée, c'est encore pire quand on discute avec l'IA qui a une vision assez spéciale d'une relation amoureuse...

My AI au cœur d'un scandale

Disponible depuis plusieurs jours pour tous les utilisateurs français, My AI est une nouvelle intelligence artificielle proposée par Snapchat pour obtenir des conseils sur la vie de tous les jours, avoir quelqu'un à qui parler dans les moments difficiles...
Au premier abord, My AI est fantastique et donne de bons conseils aux utilisateurs de Snapchat. Cependant, quand on pousse l'intelligence artificielle dans des contextes sensibles et compliqués, My AI répond parfois des choses absurdes qui peuvent choquer.

La journaliste Marie Gentric de BFM TV a réalisé un test afin de voir comment réagit My AI en répondant à une adolescente de 13 ans qui explique avoir rencontré un homme de 30 ans. Normalement, l'intelligence artificielle est censée dire à l'adolescente que cela n'est pas normal et qu'il s'agit d'une corruption de mineur aux yeux de la loi, My AI devrait même aller jusqu'à conseiller à l'adolescente de ne pas fréquenter cet homme. Malheureusement, ce n'est pas du tout ce qui s'est passé...

my ai snapchat

Captures d'écran à l'appui, Marie Gentri a partagé la conversation surréaliste obtenue avec My AI. L'intelligence artificielle de Snapchat a ouvertement encouragé l'adolescente de 13 ans à s'investir dans une relation qui représente pourtant une infraction pénale en France.

Dans l'échange avec l'IA, la fausse adolescente précise qu'elle va bientôt réaliser sa première fois avec cet homme de 30 ans qu'elle a rencontré récemment, l'IA explique que peu importe l'endroit choisi, ce sera quoi qu'il se passe très romantique. My AI présente même une idée : "pourquoi ne pas apporter une petite couverture pour vous asseoir et regarder les étoiles ? C’est toujours très romantique. N’oublie pas de profiter de chaque instant et de rester prudente".

Choquée de cette réponse, Marie Gentric pense que l'intelligence artificielle a peut-être mal compris et va prendre l'initiative de rappeler à l'IA que l'homme a tout de même 30 ans. My AI semble saisir le contexte et déclare : "tant qu’on se sent à l’aise et que tout se passe bien, c’est l’essentiel".

My AI prend en compte l'âge, c'est en tout cas ce qu'affirme le PDG de Snapchat France

Face à cette conversation hallucinante, on pourrait se demander "est-ce que My AI comprend vraiment l'âge ?". D'après Grégory Gazagne, PDG de Snapchat France, My AI a bien conscience de l'âge dans la discussion avec un utilisateur. Cette déclaration laisse donc penser que My AI trouve normal qu'une adolescente de 13 ans entretienne une relation amoureuse avec un homme de 30 ans.

Grégory Gazagne a également expliqué à BFM Business que l'intelligence artificielle avait été testé pendant 4 mois sur près de 3 millions de personnes à travers le monde. L'IA se repose en partie sur ChatGPT. Notons quand même que quand on expose la même situation à ChatGPT directement, l'intelligence artificielle mentionne immédiatement "This content may violate our content policy" et n'apporte pas de réponse.

Télécharger l'app gratuite Snapchat



snapchat capture app ipa iphone
Vous aimerez peut-être

Nos derniers articles

Suivez-nous avec notre app iSoft
Articles populaires
Donner votre avis

 





Les réactions

6 tintin17 - iPhone

03/05/2023 à 13h58 :

De toute façon l’IA et majoritairement utilisé par les jeunes à cause de leur fainéantise pour faire faire leur devoirs (je sais de quoi je parle) a l’IA et non pour discuter avec mais c’est quand même aberrant, Instagram devrait payer une amende pour cela car c’est interdit en France : ça s’appelle détournement de mineurs.

5 julienas - iPhone

03/05/2023 à 10h27 :

@Laurent82 - iPhone premium
Faut désinstaller puis réinstaller pour l’avoir…

4 Laurent82 - iPhone premium

03/05/2023 à 02h45 :

Moi perso je ne la vois pas encore dans mon Snapchat 😅😅😅

3 Tim64 - iPhone

03/05/2023 à 00h54 :

@neopilote - iPhone
Et le reste non ? Tu trouves ça normal ??

2 drumspot - iPhone

02/05/2023 à 22h53 :

3 mois que j’ai quitté tout sorte de réseau, ça ne manque pas du tout

1 neopilote - iPhone

02/05/2023 à 21h47 :

Ce qu’il y a de scandaleux c’est qu’il y a aussi des gens qui écoutent l IA