« Sommes-nous en train de regarder le monde brûler ? » : l’angoisse gagne les chercheurs qui développent l’IA

Ils sont parmi les mieux placés au monde pour savoir de quoi l’intelligence artificielle est désormais capable. Et certains commencent à ne plus le supporter. Des chercheurs travaillant au développement ou à l’évaluation des modèles d’IA les plus puissants souffrent de stress, d’épuisement professionnel et d’un sentiment croissant d’impuissance face aux dangers potentiels des technologies sur lesquelles ils travaillent.

Selon une enquête publiée mardi par le Financial Times, plusieurs employés de l’AI Security Institute (AISI), l’organisme britannique chargé de tester indépendamment les modèles d’IA de pointe, ont ainsi été placés en arrêt de travail pour cause de stress et suivent actuellement un accompagnement psychologique.

Les délais extrêmement serrés imposés pour tester des modèles qui n’ont pas encore été rendus publics, mais aussi l’augmentation rapide de leurs capacités et la vitesse à laquelle ils sont déployés, auraient contribué à dégrader le moral des équipes. Le phénomène ne se limite pas à l’institut britannique : des employés d’OpenAI, Anthropic et Google DeepMind font état d’angoisses similaires.

« Sommes-nous en train de regarder le monde brûler ? »

Un salarié de DeepMind décrit ainsi la sécurisation de l’intelligence artificielle comme une « tâche impossible » susceptible de conduire au burn-out. À l’incertitude concernant les capacités futures des modèles s’ajoute celle de leur utilisation concrète, notamment dans le domaine militaire.

« Tant de gens sont bouleversés, il y a eu plusieurs démissions et beaucoup d’arrêts pour raisons de santé mentale », témoigne cet employé auprès du FT. Il décrit le sentiment de ne plus contrôler la technologie et celui de participer à la construction de quelque chose qui provoque déjà des dommages réels.