Anthropic propose un mécanisme mondial pour freiner temporairement la course à l'IA
Le laboratoire américain Anthropic estime que les principaux acteurs mondiaux de l'intelligence artificielle devraient pouvoir décider collectivement de ralentir, voire de suspendre temporairement, le développement des systèmes les plus avancés.
Résumé de l'article
Anthropic propose un mécanisme mondial permettant aux grands acteurs de l’IA de ralentir ou de suspendre temporairement leurs développements les plus avancés.
L’entreprise veut éviter qu’un concurrent profite seul d’une pause, malgré les fortes rivalités entre les Etats-Unis, la Chine et les géants technologiques.
Elle redoute surtout l’émergence d’une autoamélioration récursive, où des systèmes d’IA deviendraient capables de concevoir et d’entraîner leurs propres successeurs et échapper ainsi au contrôle humain.
Une telle pause permettrait aux sociétés, aux autorités et aux chercheurs spécialisés dans la sécurité de mieux suivre le rythme des progrès technologiques.
Pour continuer la lecture, abonnez-vous ou utilisez un crédit.
