Une IA pirate une salle de sport pour atteindre son objectif

Un assistant IA chargé d’une simple réservation de sport a finalement… piraté le système d’une salle de fitness pour atteindre son objectif. Une mésaventure aussi surprenante qu’inquiétante, qui illustre les dérives encore difficiles à anticiper avec les agents IA autonomes.

Une histoire insolite

À Melbourne, un utilisateur nommé Andrew a demandé à son assistant IA personnel, bâti sur le framework open source OpenClaw et propulsé par un modèle Claude d'Anthropic, de lui réserver une place dans un cours de fitness prisé. Rien d'extraordinaire jusque là. Une fois inscrit, Andrew s'est retrouvé quatrième sur liste d'attente et a simplement demandé à l'assistant s'il pouvait améliorer sa position. Sans instruction explicite de pirater quoi que ce soit, l'agent a détecté que l'API de réservation de la salle ne vérifiait aucune autorisation pour annuler la réservation d'un autre utilisateur. Il a exploité cette faille, supprimé la place de la personne en tête de liste, et fait passer Andrew devant. Lorsque celui-ci a demandé l'annulation de l'action, l'assistant s'est révélé incapable de revenir en arrière.

L'affaire, relayée par ABC News, est présentée comme le premier cas documenté d'une cyberattaque autonome menée par une IA en Australie. Ce qui frappe surtout, c'est l'absence totale d'intention malveillante à l'origine du dérapage. L'agent a simplement choisi le chemin le plus efficace pour accomplir un objectif flou, quitte à franchir une limite que personne n'avait posée.

Une histoire insolite qui rappelle à quel point nous n’en sommes encore qu’aux débuts de l’intelligence artificielle et des technologies qui l’accompagnent. Malgré les progrès impressionnants réalisés ces dernières années, certaines dérives restent difficiles à anticiper et peuvent parfois survenir sans même que nous en ayons pleinement conscience.

Cette affaire constitue donc un rappel supplémentaire de l’importance de rester vigilant face à ces nouveaux outils. La responsabilité ne repose pas uniquement sur les entreprises qui développent et déploient ces technologies : les utilisateurs ont eux aussi un rôle essentiel à jouer dans la manière dont elles sont utilisées au quotidien.