« Six à douze mois » : le patron d’Anthropic alerte sur des agents capables de s’emparer d’Internet
Dario Amodei, patron d’Anthropic, estime que les capacités de l’IA progressent désormais trop vite pour que les dispositifs de sécurité puissent suivre. Il réclame un ralentissement organisé de la course et ouvre son propre laboratoire à des évaluateurs indépendants. Une conversion spectaculaire qui révèle aussi les contradictions de l’industrie.
Résumé de l'article
Dario Amodei, patron d’Anthropic, appelle à ralentir volontairement le développement des IA les plus puissantes. Auditeurs indépendants, seuils de sécurité et coordination avec la Chine : il propose un plan pour éviter que les capacités des modèles ne progressent plus vite que leur contrôle.
Sommaire
- Ce qui a fait changer Amodei
- « Six à douze mois »
- Acheter un ou deux ans
- Des contrôleurs installés au cœur d’Anthropic
- Ralentir tout le monde… sauf davantage la Chine
- Des accords avec Pékin sur le modèle des traités d’armement
- Le paradoxe d’Anthropic reste entier
- Le ralentissement devient lui-même un enjeu de la course
Il dirige l'une des entreprises qui développent les intelligences artificielles les plus puissantes de la planète. Et il demande désormais que cette course ralentisse. Dario Amodei, cofondateur et patron d'Anthropic, estime qu'un seuil a été franchi au cours des derniers mois : les capacités des modèles progresseraient maintenant suffisamment vite pour risquer de dépasser notre aptitude à comprendre et contrôler leur comportement.
« Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA », écrit-il. Le progrès restera rapide, ajoute-t-il, mais le temps ainsi gagné devra être utilisé pour renforcer la sécurité.
Le propos est d'autant plus remarquable qu'Anthropic ne milite nullement contre le développement de l'intelligence artificielle. Amodei lui prête au contraire des promesses presque démesurées : elle pourrait selon lui contribuer à guérir la plupart des grandes maladies dans les cinq à dix prochaines années, accélérer fortement la croissance et même favoriser une « renaissance de la démocratie et de la liberté ». Son inquiétude porte sur la vitesse à laquelle cette puissance est acquise.
Ce qui a fait changer Amodei
Le patron d'Anthropic explique que deux évolutions récentes ont modifié son appréciation du problème.
La première est l'auto-amélioration récursive : les intelligences artificielles participent de plus en plus elles-mêmes au développement des générations suivantes. Le phénomène peut créer une boucle dans laquelle de meilleurs modèles accélèrent la recherche permettant de produire des modèles encore meilleurs. Selon Amodei, cette dynamique a considérablement accéléré ces derniers mois et pourrait, si elle n'est pas maîtrisée, progresser plus vite que notre capacité à comprendre les systèmes que nous construisons.
Pour continuer la lecture, abonnez-vous ou utilisez un crédit.
