Payer sans contrôle humain : une faille inédite dans les agents IA

Depuis l’explosion de l’intelligence artificielle générative, les agents IA autonomes sont confiés des tâches complexes. Cependant, cette transition expose les systèmes à des risques majeurs, car un attaquant peut injecter une instruction malveillante dans un document anodin, comme un texte blanc, pour altérer le raisonnement de l’agent. Le cofondateur de la startup, Samy Nettour, souligne que les outils de cybersécurité traditionnels ne peuvent pas vérifier l’intention réelle des agents IA. La solution développée par Aurel vise à intercepter les décisions avant leur exécution, en utilisant une technologie de sécurité cryptographique. La startup, basée à Paris, s’inscrit dans une démarche de sécurisation des processus automatisés, tout en recherchant des investissements pour renforcer ses équipes de recherche et développement.