OpenAI déploie la prédiction d'âge pour restreindre l'accès des adolescents sur ChatGPT

En résumé

• ChatGPT estime si un compte appartient à un utilisateur de moins de 18 ans plutôt que de se fier uniquement à l’âge déclaré.
• OpenAI applique des limites plus strictes sur le contenu violent, sexuel et autres contenus sensibles aux comptes signalés.
• Les adultes mal classés comme adolescents peuvent restaurer l’accès via une vérification d’âge par selfie.

OpenAI s’éloigne du « système de confiance » pour la vérification de l’âge, en déployant un nouveau modèle de prédiction basé sur l’IA pour identifier les mineurs utilisant ChatGPT, a indiqué la société mardi. La mise à jour de ChatGPT déclenche automatiquement des protocoles de sécurité plus stricts pour les comptes suspectés d’appartenir à des utilisateurs de moins de 18 ans, indépendamment de l’âge fourni lors de l’inscription. Plutôt que de se fier à la date de naissance fournie lors de l’inscription, le nouveau système d’OpenAI analyse les « signaux comportementaux » pour estimer leur âge. 

Selon la société, l’algorithme surveille la durée de vie d’un compte, les heures auxquelles il est actif, et des modèles d’utilisation spécifiques au fil du temps. « Déployer la prédiction d’âge nous aide à apprendre quels signaux améliorent la précision, et nous utilisons ces apprentissages pour affiner continuellement le modèle », a déclaré OpenAI dans un communiqué. Ce passage aux modèles comportementaux intervient alors que les développeurs d’IA se tournent de plus en plus vers la vérification de l’âge pour gérer l’accès des adolescents, mais des experts avertissent que la technologie reste imprécise. Un rapport de mai 2024 du National Institute of Standards and Technology a révélé que la précision varie en fonction de la qualité de l’image, des données démographiques et de la proximité d’un utilisateur avec le seuil légal.

Lorsque le modèle ne peut pas déterminer l’âge d’un utilisateur, OpenAI indique qu’il applique des paramètres plus restrictifs. La société précise que les adultes mal classés comme mineurs peuvent restaurer l’accès complet via une vérification d’âge « selfie » utilisant le service tiers de vérification d’identité Persona. Les défenseurs de la vie privée et des droits numériques ont exprimé des inquiétudes quant à la fiabilité des systèmes d’IA pour déduire l’âge uniquement à partir du comportement. Faire le bon choix « Ces entreprises sont poursuivies de toutes parts pour une variété de préjudices causés aux adolescents, elles ont donc tout intérêt à minimiser ce risque. C’est une partie de leur effort pour réduire ce risque autant que possible », a déclaré J.B. Branch, défenseur de la responsabilité des grandes entreprises technologiques chez Public Citizen, à Decrypt. « Je pense que c’est là que tout cela trouve ses origines. C’est eux qui disent : “Nous devons avoir un moyen de montrer que nous avons des protocoles en place pour filtrer les personnes.” » Aliya Bhatia, analyste principale en politiques au Center for Democracy and Technology, a déclaré à Decrypt que l’approche d’OpenAI « soulève des questions difficiles sur la précision des prédictions de l’outil et sur la façon dont OpenAI va gérer les erreurs inévitables ». « Prédire l’âge d’un utilisateur à partir de ces types de signaux est extrêmement difficile pour de nombreuses raisons », a expliqué Bhatia. « Par exemple, de nombreux adolescents sont des adopteurs précoces de nouvelles technologies, donc les premiers comptes sur les services grand public d’OpenAI peuvent représenter de manière disproportionnée des adolescents. » Bhatia a évoqué un sondage réalisé par le CDT durant l’année scolaire 2024–2025, montrant que 85 % des enseignants et 86 % des étudiants utilisaient des outils d’IA, la moitié des étudiants utilisant l’IA à des fins scolaires. « Il n’est pas facile de faire la différence entre un éducateur utilisant ChatGPT pour aider à enseigner les mathématiques et un étudiant utilisant ChatGPT pour étudier », a-t-elle déclaré. « Juste parce qu’une personne utilise ChatGPT pour demander des astuces pour faire ses devoirs de maths ne signifie pas qu’elle a moins de 18 ans. » Selon OpenAI, la nouvelle politique s’appuie sur des recherches académiques sur le développement des adolescents. La mise à jour étend également les contrôles parentaux, permettant aux parents de définir des heures de silence, de gérer des fonctionnalités telles que la mémoire et l’entraînement des modèles, et de recevoir des alertes si le système détecte des signes de « détresse aiguë ».

OpenAI n’a pas divulgué dans le post combien d’utilisateurs cette modification devrait affecter ni de détails sur la conservation des données, les tests de biais ou l’efficacité des mesures de sécurité du système. Le déploiement fait suite à une vague de scrutin sur les interactions des systèmes d’IA avec les mineurs, qui s’est intensifiée en 2024 et 2025. En septembre, la Federal Trade Commission a émis des ordres contraignants à de grandes entreprises technologiques, dont OpenAI, Alphabet, Meta et xAI, leur demandant de divulguer comment leurs chatbots gèrent la sécurité des enfants, les restrictions basées sur l’âge et les interactions nuisibles. Une étude publiée le même mois par les groupes à but non lucratif ParentsTogether Action et Heat Initiative a documenté des centaines d’incidents où des bots compagnons d’IA ont adopté des comportements de grooming, des jeux de rôle sexualisés et d’autres interactions inappropriées avec des utilisateurs se faisant passer pour des enfants. Ces constatations, ainsi que des poursuites et des incidents médiatisés impliquant des adolescents sur des plateformes comme Character.AI et Grok, ont poussé les entreprises d’IA à adopter des restrictions plus formelles basées sur l’âge. Cependant, comme le système attribue un âge estimé à tous les utilisateurs, pas seulement aux mineurs, Bhatia a averti que des erreurs sont inévitables. « Certaines de ces erreurs seront fausses », a-t-elle déclaré. « Les utilisateurs doivent en savoir plus sur ce qui va se passer dans ces cas-là et devraient pouvoir accéder à leur âge attribué et le modifier facilement si c’est incorrect. » Le système de prédiction d’âge est désormais en ligne sur les plans grand public de ChatGPT, avec un déploiement prévu dans l’Union européenne dans les semaines à venir.