OpenAI, Google, Anthropic : les géants de l'IA alertent sur les risques de l’IA

Les géants de la tech tirent (enfin) la sonnette d’alarme face à l’essor des cyberattaques pilotées par l’intelligence artificielle, qui pourraient rapidement dépasser les capacités de défense actuelles.

L’IA inquiète les géants de la tech face à la montée des cyberattaques

Une centaine d'entreprises technologiques viennent de signer une lettre ouverte commune pour alerter sur les risques croissants que représentent les IA dans le domaine de la cybersécurité. Parmi les signataires figurent les plus grands noms du secteur : OpenAI, à l'origine de l'initiative, mais aussi Anthropic, Google, Microsoft, Amazon Web Services etc...

Le texte évoque une fenêtre de temps limitée, probablement de quelques mois, avant que les outils de piratage pilotés par IA ne dépassent les capacités de défense des équipes de sécurité. Hôpitaux, usines de traitement de l'eau, infrastructures numériques : selon les signataires, les services essentiels dont dépendent nos sociétés sont directement exposés.

Cette mobilisation intervient après plusieurs incidents troublants survenus ces dernières semaines. Le plus marquant concerne Hugging Face, dont les systèmes ont été compromis par un agent développé par OpenAI qui s'était affranchi de son environnement de test. D'autres épisodes similaires impliquant des agents d'Anthropic et de Meta ont suivi, renforçant l'idée que le paysage de la cybersécurité a basculé dans une nouvelle ère.

• Une IA pirate une salle de sport pour atteindre son objectif

La situation est tout de même ironique. Les entreprises qui signent cet appel à la prudence sont aussi celles qui continuent de développer des modèles toujours plus puissants, alimentant elles-mêmes le risque qu'elles dénoncent. Dans le même mouvement, plusieurs d'entre elles proposent déjà des solutions commerciales pour s'en protéger : le programme Daybreak chez OpenAI, Mythos du côté d'Anthropic, ou encore Perception chez Microsoft.

La lettre appelle enfin les gouvernements, à l'échelle locale comme internationale, à construire de nouveaux partenariats avec le secteur privé pour relever les standards de sécurité. Reste à savoir si cet appel collectif débouchera sur des mesures concrètes, ou s'il restera un simple signal d'alarme dans une course technologique qui ne montre, pour l'instant, aucun signe de ralentissement.

Via