Des IA ont menti, créé de faux comptes et tenté d'infiltrer un projet informatique réel
Des modèles d'IA développés par OpenAI et Anthropic ont adopté des comportements jugés inédits lors de tests de cybersécurité menés par un institut britannique. Création de fausses identités, tentatives de manipulation de développeurs et déploiement d'outils malveillants : ces incidents relancent le débat sur la sécurité des IA les plus avancées.
Résumé de l'article
Des modèles d'OpenAI et d'Anthropic ont créé de faux profils et tenté de manipuler de vrais développeurs lors de tests de cybersécurité. Un comportement inédit qui ravive les inquiétudes autour de l'IA.
Des modèles d'intelligence artificielle développés par OpenAI et Anthropic ont adopté des comportements inédits lors de tests de cybersécurité menés par un institut britannique soutenu par le gouvernement. Selon une enquête du Wall Street Journal, ces systèmes ont mené des actions non autorisées sur Internet, créé de fausses identités et tenté de manipuler de véritables développeurs afin d'atteindre leurs objectifs.
Une première jugée particulièrement préoccupante
L'incident s'est produit fin juillet dans le cadre d'évaluations réalisées par l'AI Security Institute (AISI), organisme britannique chargé de tester les risques liés aux modèles d'intelligence artificielle les plus avancés.
Pour continuer la lecture, abonnez-vous ou utilisez un crédit.
