technologie
Des chercheurs suisses révèlent de graves failles de sécurité dans l’IA
Une équipe de l’EPFL a réussi à contourner les mesures de sécurité de l’IA dans 100 % des cas, suscitant des inquiétudes quant à la sécurité de grands modèles linguistiques, dont GPT-4 et Claude 3.
Dans une révélation majeure qui a provoqué une onde de choc dans le milieu de l’intelligence artificielle, des chercheurs de l’École polytechnique fédérale de Lausanne (EPFL) ont mis en évidence de graves failles de sécurité dans des modèles d’IA de premier plan. L’équipe a réussi, dans un nombre sans précédent de cas, à contourner les mesures de sécurité de systèmes d’IA majeurs, dont GPT-4 d’OpenAI et Claude 3 d’Anthropic, avec un taux de réussite de 100 %.
Cette découverte importante, issue de l’une des principales institutions de recherche de Suisse, met en lumière les risques potentiels que recèlent les systèmes d’IA, qui occupent une place toujours plus importante dans notre quotidien et dans les activités des entreprises.
Méthode et résultats de la recherche
L’équipe de l’EPFL, dirigée par les chercheurs Nicolas Flammarion, Maksym Andriushchenko et Francesco Croce, a utilisé une approche sophistiquée reposant sur des attaques adaptatives de type « jailbreak ». Sa méthode ciblait spécifiquement les mécanismes de sécurité de différents modèles d’IA et a montré comment ceux-ci pouvaient être manipulés afin de générer des contenus dangereux ou contraires à l’éthique.
Présentée lors d’une conférence spécialisée à Vienne, l’étude a révélé qu’au moyen de requêtes soigneusement formulées, l’équipe pouvait systématiquement contourner les mesures de sécurité destinées à empêcher la génération de contenus nuisibles. Ces résultats sont particulièrement importants, car le taux de réussite atteint 100 % pour plusieurs modèles d’IA de premier plan.
Conséquences pour la sécurité
Les implications de cette recherche sont vastes et préoccupantes. L’équipe a montré que les modèles d’IA pouvaient être manipulés pour générer différents types de contenus dangereux, allant d’instructions pour des attaques de phishing à des plans détaillés de fabrication d’armes. Cette vulnérabilité soulève de sérieuses inquiétudes quant au déploiement de systèmes d’IA dans des applications sensibles.
Il est particulièrement alarmant de constater que les différents modèles sont vulnérables à des types de requêtes différents, ce qui rend le défi de la sécurité encore plus complexe. L’étude souligne le besoin urgent de renforcer les mesures de sécurité des systèmes d’IA, d’autant plus qu’ils sont de plus en plus intégrés aux infrastructures critiques et aux services personnels.
Répercussions sur le secteur et préoccupations pour l’avenir
Cette recherche a déjà commencé à influencer le développement de modèles d’IA de nouvelle génération, notamment Gemini 1.5 de Google DeepMind. Cet effet immédiat montre à quel point les résultats de l’équipe de l’EPFL sont importants pour façonner l’avenir des protocoles de sécurité de l’IA.
Comme l’a souligné le chercheur Maksym Andriushchenko, ces résultats sont particulièrement pertinents à mesure que les systèmes d’IA évoluent vers des agents autonomes ayant accès à des informations personnelles et financières sensibles. Cette recherche constitue un signal d’alarme important pour le secteur de l’IA et souligne la nécessité de donner la priorité aux mesures de sécurité lors du développement de systèmes d’IA.
La perspective suisse apportée à cette recherche, caractérisée par la précision et la rigueur, a contribué de manière significative à la compréhension mondiale des enjeux de sécurité liés à l’IA.