Steve Wozniak, Elon Musk et d'autres parlent d'une IA "hors de contrôle"

open ai chatgpt iconSteve Wozniak, Elon Musk et plus de 1 000 autres ont signé une lettre ouverte demandant un arrêt immédiat de six mois du développement de l'intelligence artificielle qui est censée succéder à ChatGPT-4.

Après l'éclosion de la véritable IA, d'abord par ChatGPT d'OpenAI fin 2022 et dans la foulée en partie récupérée par Microsoft, puis désormais de ses concurrents comme Bard de Google, le temps est à l'inquiétude.

L'IA fait peur

La technologie qui permet d'améliorer considérablement la recherche en ligne avec un format conversationnel jamais vu jusqu'ici fait peur. Capable de répondre à un examen de Polytechnique en quelques secondes, de passer le barreau haut la main, de développer une application iPhone en deux minutes ou encore d'écrire des livres, ChatGPT commence à effrayer les grands de ce monde.

intelligence artificielle ai

Maintenant, le Future of Life Institute demande une pause "publique et vérifiable" qui inclut "tous les acteurs clés" dans le domaine. "Si une telle pause ne peut pas être promulguée rapidement", ajoute-t-il, "les gouvernements devraient intervenir et instituer un moratoire"

Le Future of Life Institute vise à "orienter la technologie transformatrice vers le bénéfice de la vie et à s'éloigner des risques extrêmes à grande échelle".

Cette lettre de 600 mots, destinée à tous les développeurs d'IA, fait valoir qu'une pause est nécessaire parce que "les derniers mois ont vu des laboratoires d'IA enfermés dans une course hors de contrôle pour développer et déployer des esprits numériques toujours plus puissants que personne - pas même leurs créateurs - ne peut comprendre, prédire ou contrôler de manière fiable".

Les laboratoires d'IA et les experts indépendants devraient utiliser cette pause pour développer et mettre en œuvre conjointement un ensemble de protocoles de sécurité partagés pour la conception et le développement avancés de l'IA qui sont rigoureusement audités et supervisés par des experts externes indépendants. Ces protocoles devraient garantir que les systèmes qui y adhèrent sont sûrs au-delà de tout doute raisonnable.

"Cela ne signifie pas une pause sur le développement de l'IA en général", dit la lettre ouverte, "simplement un pas en arrière de la course dangereuse vers des modèles de boîte noire toujours plus imprévisibles avec des capacités émergentes".

Au moment de ces lignes, la lettre ouverte compte déjà 1 123 signataires. Ceux-ci comprennent par exemple :

  • Steve Wozniak, cofondateur, Apple
  • Elon Musk, PDG de SpaceX, Tesla et Twitter (cofondateur de PayPal et OpenAI)
  • Jaan Tallinn, cofondateur de Skype
  • Evan Sharp, cofondateur, Pinterest
  • Chris Larsen, Co-Founder, Ripple
  • Nancy Chang, Google, Research Scientist
  • Daniel Barcay, Formerly Google & Planet Labs, Tech & Product Leader
  • Emad Mostaque, CEO, Stability AI
  • Valerie Pisano, President & CEO, MILA
  • Colin De La Higuera, Nantes Université, Unesco
  • Noam Shazeer, Founder of Character.ai, CEO, Major contributor to Google’s LaMDA

Les deux acteurs majeurs à l'heure actuelle sont Google et Microsoft qui ont tous deux mis en œuvre des outils basés sur des systèmes de chatbots. Le lancement initial de l'implémentation Bing de Microsoft a rapidement dérivé vers des réponses erronées et offensantes, alors que Bard de Google a commis une erreur factuelle lors de sa première démo.

Article précédentBien après Safari, Chrome adopte un mode lecture sur Mac, Windows et Linux
Article suivantLa mise à jour Black Dahlia 5.3 de Skullgirls Mobile est arrivée
Vous aimerez peut-être

Nos derniers articles

Suivez-nous avec notre app iSoft
Articles populaires
Donner votre avis

 





Les réactions

15 helico62 - iPhone ↩

30/03/2023 à 08h46 :

@stephcreas - iPhone
Y a un monolithe quelque part ?

14 helico62 - iPhone ↩

30/03/2023 à 08h43 :

@julienas - iPhone
Oui lol

13 stephcreas - iPhone ↩

30/03/2023 à 00h24 :

Ils sont un peu long à la détente alors qu’il suffit de se rappeler du film sorti en 1978 « 2001 l’odyssée de l’espace » pour comprendre où peut mener un tel chemin …
1978…N’est-ce pas Hal ? 😉 J’avais 9 ans, pourtant c’est la première chose qui m’est revenue à l’esprit lors de la sortie de chatgpt et consorts

12 mybin - iPhone premium ↩

29/03/2023 à 23h48 :

@Wacko - iPhone premium
😂😂

11 Wacko - iPhone premium ↩

29/03/2023 à 22h03 :

@Lucien Sylviano - iPhone
Oui ! Ça ne m'est pas revenu à l'esprit, pourtant j'avais vu la trilogie. On pourrait comparer ChatGPT à Skynet, mais heureusement c'est pas demain la veille qu'on se fasse courser par un T-800 venu du futur...

10 morzyloeuil - iPhone ↩

29/03/2023 à 20h29 :

@Lucien Sylviano - iPhone
C’est la première pensée que j’ai eu lorsque j’ai découverts l’IA.

9 julienas - iPhone ↩

29/03/2023 à 20h06 :

Et si ces dirigeants avaient peur d’être remplacés ?… parce qu’après tout ils appliquent les règles de management qu’on leur apprend… donc au final… un cerveau bien fait et bien calibré les remplacerait à l’aise, non? (Perso je n’ai pas les capacités intellectuelles d’ingurgiter ce qu’ils ont appris… mais l’IA c’est sans soucis!… donc au final l’IA va se résumer à ça: le retour de la suprématie du savoir faire manuel… l’intelligence devient naze!

8 Lucien Sylviano - iPhone ↩

29/03/2023 à 19h49 :

Pour les anciens… j’y vois l’avènement de Skynet…

7 mdr68 - iPhone premium ↩

29/03/2023 à 16h07 :

mmmmh l'utilise pour faire des programmes quand on aime pas un cours par ex bash (étudiant) c'est très pratique

6 Wacko - iPhone premium ↩

29/03/2023 à 16h02 :

@Aldebaran - iPhone premium
Trafiquer une photo avec PhotoShop n'est pas à la portée de tout le monde, il faut connaître le logiciel par coeur. Et il existe des outils pour détecter si une photo qui circule sur les réseaux sociaux a été trafiquée ou non. Avec Midjourney, il suffit juste de savoir taper au clavier et d'avoir un peu d'imagination. Chose très enfantin quand on veut nuire à quelqu'un par exemple.

5 wsunn - iPhone premium ↩

29/03/2023 à 16h00 :

J’allais dire : on oublie tous les bons côtés de l’IA… Mais, je n’en ai pas vraiment trouvé. À part peut être pour les tâches répétitives.

En ce qui concerne la créativité, j’écris en ce moment une histoire avec l’aide de l'IA, je voulais voir quelles plus-values, ce dernier pourrait m’apporter. Mais, je me sens démuni parce que je me dis que l’IA n’a peut-être même pas besoin de moi pour écrire la suite de mon propre livre.
En prenant du recul, sur les technologies, je m'aperçois que, par exemple, je n’arrive pas à écrire un long texte sans vérifier la grammaire avec un logiciel. Assurément, ces outils sont extrêmement utiles, mais est-ce que cela me rend-il plus paresseux ? Dans l’ensemble, peut-on dire que tout ce que la machine fait pour moi, alors que je pourrais le faire moi-même, est perçu comme quelque chose d'abrutissant ? Où sommes-nous à la frontière de l’assistanat ?

4 Aldebaran - iPhone premium ↩

29/03/2023 à 15h33 :

@Wacko - iPhone premium
Photoshop a pa attendu l’ia

3 Wacko - iPhone premium ↩

29/03/2023 à 14h52 :

L'IA est dangereuse à cause de ce que font leurs créateurs avec. ChatGPT peut être dangereux par les textes qu'il génère, car beaucoup y croit aveuglément. Midjourney est extrêmement dangereux, les photos de l'arrestation de Donald Trump ou de Macron prenant part aux manifestations en sont des exemples. Tous ces outils doivent être débranchés impérativement.

2 tintin17 - iPhone ↩

29/03/2023 à 14h10 :

C’est bien l’IA ça fait des trucs incroyables mais quand on voit qu’à l’ia peut remplacer 300 millions d’emploi, consomme énormément d’énergie à être créer et en plus nous rend ne plus en plus idiot a force de tous demander à nos téléphone on voit que c’est pas très utile en faite

1 Flo Paillasse - iPhone ↩

29/03/2023 à 13h55 :

Prit à leur propre piège 🤣🤣🤣🤣