OpenAI place ChatGPT sous surveillance renforcée pour les moins de 18 ans
OpenAI déploie une version de ChatGPT réservée aux 13-17 ans, avec davantage de restrictions et de contrôles parentaux. Une réponse aux inquiétudes croissantes sur la santé mentale des jeunes et les effets de l’IA sur leur apprentissage.
Résumé de l'article
OpenAI lance ChatGPT pour les 13-17 ans avec des restrictions renforcées, davantage de contrôle parental et un mode étude destiné à limiter les réponses toutes faites.
Sommaire
- Un ChatGPT différent pour les mineurs
- Des parents davantage alertés
- Plusieurs affaires dramatiques
- « Un seul incident est déjà de trop »
- Quand ChatGPT fait les devoirs à la place de l'élève
- Une IA qui ne donnera plus immédiatement la réponse
- Après les réseaux sociaux, le tour des intelligences artificielles
- Une frontière qui ne fait que commencer à se dessiner
Il aura fallu à peine quatre ans pour que ChatGPT passe du statut de curiosité technologique à celui de compagnon quotidien de millions d’adolescents. Pour faire leurs devoirs, réviser un examen, obtenir un conseil, parler de leurs problèmes ou simplement tromper l’ennui, les jeunes utilisent désormais l’intelligence artificielle dans des domaines qui dépassent largement la simple recherche d’informations.
OpenAI commence à en tirer les conséquences. L'entreprise déploie ce mardi dans le monde entier une version de ChatGPT spécialement destinée aux adolescents de 13 à 17 ans, dotée de protections renforcées concernant notamment l'automutilation, la violence, les troubles alimentaires et les contenus sexuels.
Le changement est important : il ne s'agit plus seulement d'ajouter quelques garde-fous au ChatGPT utilisé par tout le monde. OpenAI crée désormais une expérience distincte pour les mineurs, avec ses propres restrictions, ses propres mécanismes de surveillance et même une manière différente de répondre aux questions scolaires.
Un ChatGPT différent pour les mineurs
Lorsqu'un utilisateur déclare avoir entre 13 et 17 ans, la nouvelle version doit automatiquement lui être appliquée. OpenAI entend également utiliser différents signaux liés à l'utilisation du service pour repérer les utilisateurs susceptibles d'être mineurs, y compris lorsqu'ils ont indiqué un autre âge. En cas de doute, l'entreprise avait déjà annoncé vouloir privilégier l'expérience réservée aux moins de 18 ans.
Les adolescents se verront imposer davantage de restrictions sur les contenus sensibles. Le système doit notamment limiter plus sévèrement certaines conversations concernant le suicide et l'automutilation, les troubles alimentaires, la violence ou la sexualité.
Autre changement significatif : ChatGPT doit davantage éviter de donner l'impression qu'il possède des sentiments ou une conscience propre, ainsi que de favoriser une dépendance émotionnelle de l'adolescent envers la machine.
La mesure peut sembler anecdotique. Elle touche pourtant à l'une des caractéristiques les plus troublantes des intelligences artificielles conversationnelles : leur extraordinaire capacité à simuler une présence humaine.
Un adolescent peut parler plusieurs heures à une machine qui répond instantanément, se souvient du contexte de la conversation et adopte un ton empathique. Or l'interlocuteur n'éprouve évidemment ni affection, ni inquiétude, ni amitié : il génère des réponses.
Des parents davantage alertés
Les contrôles parentaux vont parallèlement être renforcés. Les parents peuvent lier leur compte à celui de leur enfant, imposer des « heures de silence » durant lesquelles ChatGPT devient inaccessible et recevoir des notifications lorsque certains signaux particulièrement inquiétants sont détectés. Le dispositif, déjà développé précédemment, est notamment étendu aux situations liées aux troubles alimentaires.
Pour continuer la lecture, abonnez-vous ou utilisez un crédit.
