Steve Wozniak, Elon Musk et d'autres parlent d'une IA "hors de contrôle"

Alban Martin
Il y a 1 an
💬 15 coms
🔈 Écouter

Steve Wozniak, Elon Musk et plus de 1 000 autres ont signé une lettre ouverte demandant un arrêt immédiat de six mois du développement de l'intelligence artificielle qui est censée succéder à ChatGPT-4.

Après l'éclosion de la véritable IA, d'abord par ChatGPT d'OpenAI fin 2022 et dans la foulée en partie récupérée par Microsoft, puis désormais de ses concurrents comme Bard de Google, le temps est à l'inquiétude.

L'IA fait peur

La technologie qui permet d'améliorer considérablement la recherche en ligne avec un format conversationnel jamais vu jusqu'ici fait peur. Capable de répondre à un examen de Polytechnique en quelques secondes, de passer le barreau haut la main, de développer une application iPhone en deux minutes ou encore d'écrire des livres, ChatGPT commence à effrayer les grands de ce monde.

Maintenant, le Future of Life Institute demande une pause "publique et vérifiable" qui inclut "tous les acteurs clés" dans le domaine. "Si une telle pause ne peut pas être promulguée rapidement", ajoute-t-il, "les gouvernements devraient intervenir et instituer un moratoire"

Le Future of Life Institute vise à "orienter la technologie transformatrice vers le bénéfice de la vie et à s'éloigner des risques extrêmes à grande échelle".

Cette lettre de 600 mots, destinée à tous les développeurs d'IA, fait valoir qu'une pause est nécessaire parce que "les derniers mois ont vu des laboratoires d'IA enfermés dans une course hors de contrôle pour développer et déployer des esprits numériques toujours plus puissants que personne - pas même leurs créateurs - ne peut comprendre, prédire ou contrôler de manière fiable".

Les laboratoires d'IA et les experts indépendants devraient utiliser cette pause pour développer et mettre en œuvre conjointement un ensemble de protocoles de sécurité partagés pour la conception et le développement avancés de l'IA qui sont rigoureusement audités et supervisés par des experts externes indépendants. Ces protocoles devraient garantir que les systèmes qui y adhèrent sont sûrs au-delà de tout doute raisonnable.

"Cela ne signifie pas une pause sur le développement de l'IA en général", dit la lettre ouverte, "simplement un pas en arrière de la course dangereuse vers des modèles de boîte noire toujours plus imprévisibles avec des capacités émergentes".

Au moment de ces lignes, la lettre ouverte compte déjà 1 123 signataires. Ceux-ci comprennent par exemple :

Steve Wozniak, cofondateur, Apple
Elon Musk, PDG de SpaceX, Tesla et Twitter (cofondateur de PayPal et OpenAI)
Jaan Tallinn, cofondateur de Skype
Evan Sharp, cofondateur, Pinterest
Chris Larsen, Co-Founder, Ripple
Nancy Chang, Google, Research Scientist
Daniel Barcay, Formerly Google & Planet Labs, Tech & Product Leader
Emad Mostaque, CEO, Stability AI
Valerie Pisano, President & CEO, MILA
Colin De La Higuera, Nantes Université, Unesco
Noam Shazeer, Founder of Character.ai, CEO, Major contributor to Google’s LaMDA

Les deux acteurs majeurs à l'heure actuelle sont Google et Microsoft qui ont tous deux mis en œuvre des outils basés sur des systèmes de chatbots. Le lancement initial de l'implémentation Bing de Microsoft a rapidement dérivé vers des réponses erronées et offensantes, alors que Bard de Google a commis une erreur factuelle lors de sa première démo.