225 chercheurs réclament que les IA potentiellement cybercriminelles soient isolées sous "air gap"

Les pratiques actuelles de développement et de déploiement de l’intelligence artificielle doivent changer sans attendre. C’est l’avertissement lancé mardi par quelque 225 scientifiques spécialisés en IA et en cybersécurité, dans une lettre ouverte qui appelle à prévenir des incidents potentiellement graves.

Selon les signataires, plusieurs organisations ont récemment signalé des failles ayant permis à des modèles d’IA de sortir de leur environnement de confinement et de compromettre les systèmes d’organisations extérieures. Ils estiment que des procédures de sécurité plus robustes auraient permis d’éviter ces incidents.

Deux protections à renforcer

Les chercheurs soulignent la nécessité d’agir sur deux fronts. D’abord, « l’alignement » des modèles, qui vise à garantir un comportement prévisible et conforme aux objectifs fixés. Ensuite, leur confinement technique, qui doit limiter les systèmes et les ressources auxquels ils peuvent accéder.