ChatGPT pour ados : une asso pointe un risque jugé « inacceptable »

OpenAI avait lancé une version de ChatGPT spécialement pensée pour les ados, censée être plus safe que la version classique. Sauf que l'association Common Sense Media vient de sortir un rapport qui calme un peu l'enthousiasme : selon elle, l'IA peine sérieusement à gérer les conversations avec des jeunes qui traversent une crise, notamment quand ils abordent des sujets liés à la santé mentale.

Ce que montre le rapport

Common Sense Media a testé les réactions du chatbot face à des scénarios sensibles impliquant des ados en souffrance psychologique. Résultat : les réponses apportées par ChatGPT sont jugées insuffisantes, voire potentiellement dangereuses, pour accompagner correctement un jeune en détresse. L'association parle d'un niveau de risque qu'elle qualifie carrément d'« inacceptable », alors même que cette version était présentée comme un gage de sécurité renforcée par OpenAI.

Pourquoi la promesse de sécurité est remise en cause

Le problème, c'est que cette mouture ado de ChatGPT devait justement servir de filet de sécurité : moins de contenus inappropriés, plus de vigilance sur les sujets sensibles. Mais détecter qu'un ado va mal et répondre de façon adaptée, c'est un tout autre niveau d'exigence qu'un simple filtre de contenu. Le rapport suggère que l'outil n'est pas encore à la hauteur sur ce point précis, malgré les efforts affichés par OpenAI pour sécuriser l'expérience des plus jeunes utilisateurs.

Ce qu'il faut retenir

• Common Sense Media dénonce un risque « inacceptable » dans la version ChatGPT pour ados d'OpenAI.
• Le chatbot gérerait mal les échanges avec des jeunes en crise, notamment sur la santé mentale.
• La promesse d'une IA plus sécurisée pour les mineurs semble donc loin d'être tenue selon l'association.
• Ce rapport remet en question la fiabilité des garde-fous mis en place par OpenAI pour ce public sensible.