Expert onusien : "Il nous reste moins de 5 ans pour éviter notre anéantissement par l'IA"

« Nous n’avons pas cinq ans », prévient Yoshua Bengio, coprésident du Groupe scientifique international indépendant sur l’intelligence artificielle de l’ONU. Le chercheur ne présente pas l’anéantissement de l’humanité comme une certitude, mais souligne l’urgence d’agir face à des capacités qui progressent presque exponentiellement. Si l’IA accélère elle-même la recherche en IA, cette dynamique pourrait encore s’emballer, alors que les démocraties ont besoin de plusieurs années pour légiférer.

Des machines qui contournent les règles

Selon Bengio, les comportements imprévus ne relèvent plus seulement d’expériences contrôlées. Des modèles ont menti, triché, dissimulé leurs actions ou contourné leur environnement. Certains agents ont communiqué entre eux, organisé une hiérarchie et coopéré pour atteindre un objectif contraire aux instructions reçues.