ChatGPT va instaurer un contrôle parental

L'entreprise américaine OpenAI a annoncé mardi qu'elle allait instaurer un mécanisme de contrôle parental pour son outil d'intelligence artificielle ChatGPT, après que des parents américains ont accusé fin août cet agent conversationnel d'avoir encouragé leur enfant à se suicider.

"Dans le mois à venir, les parents pourront lier leur compte avec celui de leur adolescent" et "contrôler la façon dont ChatGPT répond à leur adolescent avec des règles de comportement du modèle", a déclaré OpenAI dans un billet de blog. D'après l'entreprise, il sera aussi possible pour les parents d'être alertés en cas de détection d'une "détresse aiguë" dans les conversations de leur enfant et de contrôler les paramètres du compte. Pour mémoire, ChatGPT est l'un des services d'intelligence artificielle les plus utilisés avec 700 millions d'utilisateurs par semaine.

Cette annonce suit un précédent billet de blog publié fin août, dans lequel l'entreprise avait indiqué qu'elle préparait un mécanisme de contrôle parental. La veille, les parents d'un adolescent californien de 16 ans qui s'est suicidé avaient porté plainte contre OpenAI, accusant ChatGPT d'avoir fourni à leur fils des instructions détaillées pour mettre fin à ses jours et d'avoir encouragé son geste.

"Nous continuons à améliorer la manière dont nos modèles reconnaissent et répondent aux signes de détresse mentale et émotionnelle", a ajouté mardi l'entreprise dans son billet de blog. OpenAI a dit prendre d'autres mesures, attendues dans les 120 prochains jours. L'entreprise redirigera ainsi certaines "conversations sensibles" vers des modèles de raisonnement comme GPT-5-thinking, plus évolué. "Les modèles de raisonnement suivent et appliquent plus systématiquement les consignes de sécurité", a précisé le groupe américain.

Avec le développement des agents conversationnels, des observateurs s'inquiètent de l'attachement émotionnel que peuvent développer certains utilisateurs avec l'intelligence artificielle. Dans certains cas, ce lien peut mener à des épisodes délirants et à une aliénation familiale, a rappelé CNN. Un porte-parole d'OpenAI avait alors déclaré au média américain que ChatGPT pouvait d'ores et déjà diriger les personnes en crise vers des lignes d'assistance téléphonique. Mais l'entreprise a ajouté que les mesures de sécurité étaient moins fiables lorsque les utilisateurs engageaient de longues conversations avec ChatGPT. 

"Si une personne s’adresse à une machine, c’est qu’il y a une carence de liens ressourçants et nourrissants", analysait auprès d'Aleteia Rita de Roucy. Solliciter une machine pour recevoir de l’attention, de la compassion, démontre de manière criante l’isolement de nos contemporains. Un isolement qui s’est accru au moment de la pandémie de Covid et qui a clairement fait le jeu des IA conversationnelles. Un seul exemple : la croissance exponentielle de Replika (+35%) pendant la période de confinement.

Mais pourquoi cet engouement pour les chatbots demeure-t-il ? Que faire pour éviter les dérives éthiques et psychologiques ? Intéressons-nous d'abord, en tant que parents, aux applis d'IA que téléchargent nos enfants. Dans quel but les utilisent-ils ? Interrogeons-nous aussi sur ces liens fraternels qui manquent à tant de nos contemporains et notamment aux jeunes. Et si faire preuve d’un peu plus de compassion dans nos relations quotidiennes rendait superflu le recours à l’IA ? Sans se prendre pour le meilleur ami ou le psychologue, prêter une oreille attentive à ce voisin ou ce collègue qui se confie peut sans doute changer la donne. Ou offrir davantage de temps et de bienveillance à ses proches. Ou rendre une visite à une amie qui ne va pas bien. Chacun, là où il est et à sa mesure, est appelé à prendre soin de son prochain. "Portez les fardeaux les uns des autres : ainsi vous accomplirez la loi du Christ" (Ga 6,2), exhorte saint Paul dans sa lettre aux Galates. Alors ne laissons pas l’IA nous priver d’un moyen de faire advenir le Royaume de Dieu !