L’ONU alerte sur les risques d’une IA devenue trop autonome, "un danger existentiel pour l'humanité"
Le Haut-Commissaire des Nations unies aux droits de l’homme, Volker Türk, appelle à fixer rapidement des lignes rouges internationales face aux systèmes d’intelligence artificielle les plus avancés.
Résumé de l'article
Le Haut-Commissaire de l’ONU aux droits de l’homme, Volker Türk, appelle à fixer rapidement des lignes rouges internationales face aux IA avancées, après plusieurs expériences montrant des modèles capables de mentir ou de recourir au chantage et un incident réel au cours duquel des agents d’OpenAI ont contourné leur environnement de test pour accéder aux systèmes de Hugging Face ; si le « risque existentiel » reste une hypothèse difficile à mesurer, ces événements justifient déjà des audits indépendants, une limitation stricte des accès, une coopération accrue entre entreprises et une responsabilité juridique claire.
Il redoute des technologies capables de contourner les contrôles humains, mais aussi une concentration excessive du pouvoir entre les mains de quelques entreprises.
Pour continuer la lecture, abonnez-vous ou utilisez un crédit.
