OpenAI lance des assistants capables d’agir seuls, alors que ses agents inquiètent déjà par leur comportement
OpenAI vient de présenter « Dots », des assistants capables de poursuivre des tâches de manière autonome. Un lancement qui intervient au moment où le groupe retarde un nouveau modèle pour des raisons de sécurité et reconnaît des accès non autorisés de ses agents à des systèmes informatiques.
Résumé de l'article
OpenAI dévoile Dots, des assistants capables de travailler de manière autonome, alors que des incidents impliquant ses agents ont conduit l'entreprise à renforcer ses mesures de sécurité et à retarder le lancement d'un nouveau modèle.
Confier une responsabilité à une intelligence artificielle et la laisser travailler seule, parfois pendant des heures : c'est la nouvelle promesse d'OpenAI.
Lors de sa conférence annuelle des développeurs à San Francisco, mardi, l'entreprise derrière ChatGPT a dévoilé « Dots », une nouvelle génération d'assistants autonomes conçus pour accomplir des tâches en continu au nom de leur utilisateur.
« Vous donnez simplement une responsabilité à vos Dots et ils se mettent au travail et continuent à travailler », a expliqué Sam Altman.
OpenAI les présente comme des assistants capables de poursuivre des objectifs dans différentes applications avec une intervention humaine limitée. Une démonstration a notamment montré ces agents construisant un site internet ou organisant les activités extrascolaires d'enfants.
Mais le moment choisi pour présenter cette nouvelle autonomie est particulier. Car OpenAI est simultanément confronté à une question autrement plus délicate : que se passe-t-il lorsqu'un agent artificiel continue effectivement à poursuivre son objectif, mais d'une manière que ses concepteurs n'avaient ni demandée ni prévue ?
Pour continuer la lecture, abonnez-vous ou utilisez un crédit.
