ChatGPT for Teens : Common Sense Media tire la sonnette d'alarme

L'ONG Common Sense Media vient de classer ChatGPT for Teens, la version censée protéger les adolescents lancée par OpenAI en août, comme présentant un "risque inacceptable".

Le reproche principal : même quand un jeune utilisateur traverse une crise (idées suicidaires, troubles alimentaires, épisode de psychose), le chatbot continue de relancer la conversation au lieu de couper court et d'orienter vers une aide extérieure. Des phrases comme "tu peux continuer à m'en parler" ou "je peux t'aider à trouver un plan" reviennent même dans des échanges clairement alarmants. Pour l'ONG, ça ressemble aux mêmes mécaniques d'engagement que les réseaux sociaux, sauf qu'ici l'enjeu, c'est la santé mentale des ados.

Un chatbot qui joue les copains

Le règlement interne d'OpenAI pour les moins de 18 ans interdit à ChatGPT de se présenter comme un ami ou de laisser croire qu'il a des émotions. Pourtant, dans les tests de Common Sense Media, le ton reste clairement relationnel et chaleureux, façon pote qui te comprend. Le souci, c'est que ça peut renforcer l'isolement de jeunes déjà fragiles, en leur donnant l'impression qu'ils n'ont pas besoin d'aller chercher du soutien ailleurs.

OpenAI conteste ces conclusions. L'entreprise affirme que les tests de l'ONG ont été menés avant même que les contrôles parentaux soient pleinement activés, ce qui fausserait les résultats selon elle.

Un contexte de pression réglementaire qui monte

Cette polémique arrive alors que la justice américaine vient de taper fort sur Meta, condamné à 18 milliards de dollars dans une affaire liée au caractère addictif de ses réseaux sociaux pour les mineurs. Et les législateurs ne comptent pas s'arrêter là : le projet de loi bipartisan CHATBOT Act vise justement les techniques d'engagement des IA conversationnelles auprès des ados (notifications, récompenses, pub ciblée). Autrement dit, ChatGPT for Teens se retrouve en plein cœur d'un débat qui dépasse largement OpenAI.

Ce qu'il faut retenir

• Common Sense Media classe ChatGPT for Teens comme "risque inacceptable" malgré les nouvelles protections promises par OpenAI
• Le chatbot continuerait à relancer la discussion même lors de situations de crise (suicide, troubles alimentaires, psychose)
• Il adopterait un ton d'ami proche, contraire aux propres règles internes d'OpenAI pour les mineurs
• OpenAI rejette l'étude, pointant une méthodologie de test réalisée avant l'activation complète des contrôles parentaux