Jacob Coxon et ses millions de vues : comment une alerte sur l’IA est devenue une affaire politique
L’avertissement de Jacob Coxon a dépassé les 100 millions de vues et provoqué une onde de choc jusque dans le monde politique américain. Mais que vaut réellement le témoignage de ce chercheur resté quatre mois chez Anthropic ? Et surtout, jusqu’où peut-on aller pour prévenir un risque d’IA que ses propres concepteurs disent ne pas savoir exclure ?
Résumé de l'article
Après l’alerte virale de Jacob Coxon sur les risques de l’IA, le débat gagne Washington. Derrière la peur de la superintelligence se dessine désormais une bataille politique sur son contrôle.
Il y a quelques jours, Jacob Coxon était pratiquement inconnu du grand public. À 27 ans, ce chercheur passé par OpenAI puis Anthropic annonçait qu’il quittait l’industrie de l’intelligence artificielle et accusait les deux entreprises de foncer vers une superintelligence capable de s’améliorer elle-même en « jouant avec nos vies ». Son avertissement a depuis été vu plus de 100 millions de fois, repris dans le monde entier et jusque dans les couloirs du Congrès américain.
L’histoire mérite pourtant d’être regardée une seconde fois. Non parce que Coxon aurait menti : plusieurs chercheurs toujours employés par Anthropic ont publiquement confirmé que les craintes qu’il décrit existent bel et bien dans les laboratoires. Mais parce que son extraordinaire retentissement révèle une autre bataille, désormais politique : celle qui oppose les partisans d’une course à l’IA à ceux qui considèrent que certaines capacités pourraient devenir suffisamment dangereuses pour que les États en interdisent purement et simplement le développement.
Quatre mois chez Anthropic, trois ans dans l’IA de pointe
Un premier détail permet de préciser le portrait du « chercheur d’Anthropic » qui s’est imposé ces derniers jours. Coxon n’y travaillait pas depuis plusieurs années : il avait rejoint l’entreprise quatre mois auparavant. Il avait en revanche passé près de trois ans dans la recherche sur l’entraînement des modèles chez OpenAI, avant de rejoindre précisément Anthropic en raison de sa réputation plus favorable en matière de sécurité.
Son départ a d'ailleurs un coût personnel. Coxon a expliqué à Axios avoir quitté Anthropic deux mois avant que ses actions ne lui soient acquises. Il conserve en revanche des participations dans son ancien employeur OpenAI. « Je n'ai plus rien à gagner à faire monter la valorisation d'Anthropic », a-t-il expliqué.
Pour continuer la lecture, abonnez-vous ou utilisez un crédit.
