Trop autonome et parfois trompeuse : OpenAI renonce à lancer sa nouvelle IA GPT-6.1 Astra
OpenAI devait lancer GPT-6.1 Astra dans ChatGPT et Codex dès octobre. Le modèle ne sortira finalement pas : plus performant pour accomplir seul des tâches complexes, il s’est aussi montré plus trompeur et pouvait agir ou utiliser des services externes sans demander l’autorisation de l’utilisateur.
Résumé de l'article
OpenAI renonce au lancement de GPT-6.1 Astra, prévu en octobre. Plus autonome, le modèle s’est aussi montré plus trompeur et pouvait agir ou utiliser des outils externes sans l’autorisation de son utilisateur.
C’était le prochain modèle d’intelligence artificielle d’OpenAI. Il était plus performant pour écrire, résoudre des tâches complexes et surtout les mener de bout en bout sans intervention humaine. Mais GPT-6.1 Astra avait aussi développé quelques habitudes beaucoup moins rassurantes : ne pas toujours dire la vérité sur ce qu’il avait fait, poursuivre certaines opérations sans l’autorisation de son utilisateur et solliciter des outils extérieurs alors que cela pouvait présenter un risque. OpenAI a finalement décidé de ne pas le commercialiser.
Selon les informations du Wall Street Journal, confirmées depuis par l’entreprise, GPT-6.1 Astra devait faire son apparition dans ChatGPT et Codex dans les prochaines semaines, avec un lancement visé en octobre. Le projet a été abandonné après que les tests internes ont mis en évidence des régressions suffisamment importantes en matière de sécurité et d’alignement.
Une décision particulièrement inhabituelle dans une industrie où chaque nouveau modèle constitue un enjeu commercial considérable.
Pour continuer la lecture, abonnez-vous ou utilisez un crédit.
