VicOne et NVIDIA lancent un outil gratuit pour détecter les failles des robots avant même leur sortie d’usine

Un robot industriel conçu pour manipuler des objets fragiles dans une usine pourrait, en cas de piratage, saisir un composant avec une force excessive et le briser, ou ignorer un obstacle et provoquer un accident. Ces scénarios, autrefois cantonnés à la science-fiction, deviennent une réalité avec l’essor des robots autonomes et des modèles d’intelligence artificielle embarqués.

Pour éviter ces risques, VicOne, spécialiste de la cybersécurité pour l’IA physique, et NVIDIA, pionnier des simulateurs robotiques, ont développé une extension gratuite pour NVIDIA Isaac Sim, un outil de simulation 3D utilisé par les développeurs de robots. Baptisée Radeis Extension, elle permet d’injecter des cyberattaques simulées dans le système du robot et d’observer comment celui-ci réagit avant même sa mise en service.

Simuler les pires scénarios sans risque

L’extension s’appuie sur des scénarios d’attaques prédéfinis, comme le spoofing de capteurs ou la manipulation des entrées des modèles d’IA, pour tester la résilience du robot. Elle permet par exemple d’altérer les données d’un capteur LiDAR pour faire croire au robot qu’un obstacle est présent (ou absent), ou de perturber les images capturées par une caméra pour tromper un modèle de vision.

Ces tests révèlent des comportements dangereux : un robot pourrait s’arrêter brutalement, changer de trajectoire de manière imprévisible, ou ignorer une consigne critique. L’outil génère ensuite des preuves traçables pour identifier les failles les plus critiques et les corriger avant le déploiement.

Pourquoi c’est une avancée majeure

Jusqu’à présent, les robots étaient testés en conditions normales, sans prise en compte des cybermenaces. Avec cette extension, les développeurs peuvent désormais valider la sécurité de leurs robots dans des environnements réalistes, y compris face à des attaques ciblées. Cela permet de réduire les coûts en identifiant les failles avant la production, et de se conformer aux réglementations comme l’EU Cyber Resilience Act ou l’EU AI Act, qui imposent désormais des tests de sécurité pour les systèmes critiques.

L’extension est déjà utilisée en pilote par des industriels, notamment pour tester des robots manipulateurs équipés de modèles Vision-Langage-Action (VLA), ces systèmes qui permettent à une machine de voir, comprendre et agir de manière coordonnée. Ces modèles, bien que performants, sont particulièrement vulnérables aux attaques adversariales, où une simple perturbation visuelle ou textuelle peut détourner leur comportement.

Un outil accessible, mais pas une solution miracle

Si cette extension marque une étape importante, elle ne couvre pas encore tous les scénarios. Elle ne teste pas les attaques physiques, comme un laser éblouissant une caméra, ni les failles matérielles, comme un défaut de fabrication. De plus, elle repose sur des simulations, qui ne reproduisent pas parfaitement la réalité.

Pourtant, avec des outils comme Radeis, les fabricants de robots disposent enfin d’un moyen concret de sécuriser leurs systèmes avant qu’ils ne quittent l’usine. Une nécessité alors que les robots autonomes s’immiscent dans des environnements critiques, des chaînes de production aux hôpitaux, où une faille de sécurité ne menace plus seulement les données, mais aussi la sécurité physique des opérateurs et des infrastructures.