Anthropic : les créateurs de Claude redoutent de perdre le contrôle
Dans son dossier déposé auprès de la SEC, Anthropic reconnaît que l'accélération de l'IA pourrait rendre certains processus impossibles à maîtriser pour les humains. Un avertissement majeur, au cœur même de sa promesse commerciale.
Publié par A.G.
Résumé de l'article
Le document déposé par Anthropic (Claude) auprès de la SEC, gendarme de Wall Street, renforce encore davantage la crainte d'une Intelligence Artificielle qui pourrait, tôt ou tard, échapper à ses propres créateurs.
Dario Amodei, le CEO d'Anthropic, qui multiplie les avertissements tout en reconnaissant travailler à une accélération de sa technologie apparaît davantage encore comme un apprenti-sorcier.
L’avertissement ne vient pas d’un adversaire de l’intelligence artificielle. Il figure dans le document par lequel Anthropic présente à la SEC - le gendarme financier de Wall Street - son entreprise aux investisseurs. Le créateur de Claude y expose une ambition industrielle vertigineuse : utiliser l’IA pour accélérer la fabrication d’IA toujours plus performantes. Et reconnaît que cette mécanique pourrait dépasser sa capacité à en comprendre et à en contrôler certains rouages.
« Claude lui-même est devenu l’un des moteurs les plus puissants de nos progrès : chaque nouvelle version d’un modèle Claude accélère directement le développement de la suivante », explique l’entreprise dans son formulaire S-1 déposé le 26 octobre auprès de la SEC, le gendarme boursier américain. Elle donne un nom à cette dynamique : « boucler la boucle ».
La formule paraît presque anodine. Elle décrit pourtant un changement fondamental. L’outil participe désormais à la construction de ses successeurs. Ses performances alimentent le processus qui doit produire davantage de performances. Et les humains chargés de surveiller cette accélération s’appuient eux-mêmes, de plus en plus, sur les systèmes qu’ils doivent contrôler.
Pour continuer la lecture, abonnez-vous ou utilisez un crédit.
Déjà abonné(e) ? Se connecter
