« L’IA peut être une excellente alliée pour les nouveaux parents, mais il faut l’utiliser comme Google Maps »

Les chatbots basés sur l’IA sont-ils déjà nos nouveaux coachs parentaux, offrant conseils et soutien personnalisés ?

Dans cet entretien, Jo Aggarwal, fondatrice de Wysa et actuellement boursière Van Leer, s’entretient avec Michael Feigelson, PDG de la Fondation Van Leer, sur la manière dont Wysa et d’autres chatbots IA peuvent contribuer à la santé mentale et agir comme des partenaires attentionnés pour les parents, en les aidant à réfléchir, à gérer leur stress et à développer leur résilience. Elle met également en garde contre les dangers liés à l’utilisation d’une IA à usage général dans le domaine de la santé mentale. La conversation aborde la manière dont les familles peuvent utiliser l’IA avec compréhension et bienveillance, en transformant la technologie en un outil de soutien plutôt qu’en un substitut aux relations humaines.

Qu’est-ce qui vous a donné envie de travailler sur l’utilisation de la technologie pour améliorer la santé mentale ? Et qu’est-ce qui vous a poussée, au cours de ce parcours, à lancer Wysa ?

J’avais passé un an et demi à développer une application pour les soins aux personnes âgées, mais nous avons rapidement réalisé qu’il n’y avait pas de marché pour cela et je suis tombée en dépression. Ma confiance en moi était au plus bas. Je restais au lit et je ne me douchais pas. Je ne voulais rien faire, car j’étais convaincu que j’allais échouer. J’ai essayé des thérapeutes en ligne et je ne les ai pas trouvés utiles – mais j’ai trouvé utiles les questions qu’ils posaient. Cela m’a fait réfléchir.

Je me suis dit : y a-t-il quelque chose que je suis prêt à faire, même si j’ai la garantie d’échouer ? La réponse était claire : je voulais m’attaquer à la santé mentale mondiale. Ce qui est drôle, c’est que lorsqu’on accepte l’échec comme une option, on vise haut. Je suis donc retourné voir mes investisseurs et leur ai dit : « Je veux me réorienter vers le développement d’une application pour la santé mentale. » Ils m’ont répondu : « Nous croyons en toi, vas-y. »

Au départ, nous avons imaginé un chatbot capable de détecter quand les gens tombent en dépression et à quel moment ils doivent chercher de l’aide. Nous l’avons testé dans les zones rurales de l’Inde, et nous avons constaté que les personnes qui l’utilisaient beaucoup – simplement en discutant avec lui, en disant « Voilà comment je me sens aujourd’hui » – commençaient en fait à obtenir des scores nettement plus bas sur les indicateurs de dépression. Nous avons présenté ces données au Dr Vikram Patel, un psychiatre indien de renom et chercheur à l’université de Harvard, et lui avons demandé : « Pourriez-vous nous aider à comprendre ce qui se passe ici ? » Il nous a fait découvrir le pouvoir des micro-interventions : le simple fait de demander à quelqu’un comment il va sur une période donnée peut avoir des effets thérapeutiques. Ça a été une révélation pour nous.

Nous avons donc développé Wysa non seulement pour détecter la dépression, mais aussi pour aider les gens à s’en sortir. Nous l’avons lancé en 2016. En moins d’un mois, 30 000 personnes l’utilisaient.

Dix ans plus tard, nous assistons à une mise en œuvre à grande échelle de ce concept, le bien-être mental étant non seulement l’un des principaux domaines d’application de l’IA, mais aussi l’un des plus préoccupants. Comment avez-vous géré la question de la sécurité dans Wysa ?

La première version de Wysa ne comptait que trois modèles de classification basés sur l’IA, le reste reposant entièrement sur des algorithmes. Le premier modèle classait les émotions et fournissait une réponse empathique adaptée tout en guidant les utilisateurs vers des exercices de pleine conscience, de psychoéducation ou de recadrage cognitif. Le deuxième détectait quand un utilisateur s’opposait et disait « Ça ne marche pas pour moi ». Le troisième était une couche de sécurité clinique qui détectait si une personne avait des idées suicidaires ou présentait d’autres risques, et la redirigeait vers une ligne d’assistance humaine.

Nous avons commencé à recevoir des retours de nos utilisateurs, dont certains étaient des adolescents qui se tournaient vers l’IA plutôt que vers leurs propres parents alors qu’ils faisaient face à une dépression sévère. Lors de la création de Wysa, mon mari et cofondateur Ramakant Vempati et moi-même étions également parents d’un adolescent dans cette situation, ce qui nous a à la fois confortés et effrayés. Nous avons décidé de faire de la confidentialité et de la sécurité le principe de conception central. Nous avons trouvé des certifications telles que la DCB 0129, une norme définie par le NHS en Angleterre pour guider les concepteurs de systèmes informatiques de santé ^[1]. Nous avons fait appel à un responsable de la sécurité clinique et avons commencé à définir, bien avant l’entrée en vigueur de la réglementation, ce que la sécurité pouvait signifier dans notre domaine, du point de vue d’un parent ou d’un utilisateur.

L’IA peut-elle donc contribuer à la santé mentale ? Quelles sont ses limites et ses possibilités ?

En bref, oui, l’IA peut et doit être utilisée pour soutenir notre santé mentale, mais l’utilisation d’une IA à usage général dans ce domaine peut s’avérer dangereuse. L’American Psychological Association (APA) a publié d’excellentes lignes directrices sur la manière dont l’IA doit être conçue pour le bien-être mental, et l’un des principes fondamentaux est qu’elle doit être spécialement conçue avec la participation de cliniciens à chaque étape du processus de conception et de supervision. L’APA a déclaré ^[2] que nous devons veiller à ce que les professionnels humains soient soutenus, et non remplacés, par l’IA. Wysa est un hybride entre des moteurs de règles et une IA générative, où nos arbres de décision basés sur des règles bénéficient d’une supervision clinique et guident ce que fait l’IA générative ainsi que la manière dont ses résultats sont utilisés. Ce n’est pas ce que fait une IA à usage général.

Mais aujourd’hui, seuls 12 % des utilisateurs ont recours à des bots spécialement conçus pour la santé mentale, tandis que la majorité se tourne vers l’IA à usage général, comme ChatGPT.

Pourquoi l’IA spécialisée fonctionne-t-elle ? Les humains peuvent se sentir plus en sécurité et moins jugés lorsqu’ils parlent à une IA. Lorsqu’ils peuvent discuter avec elle en tout anonymat, comme c’est le cas avec Wysa, ils ont tendance à s’ouvrir dans les cinq premières minutes et à établir une solide alliance thérapeutique dès la première semaine. Une personne peut mettre dix minutes à recadrer une pensée intrusive dans Wysa. Lorsqu’elle est bien utilisée, l’IA a le potentiel d’aller à la rencontre des gens là où ils en sont et d’améliorer considérablement l’accès, les compétences et le soutien.

L’IA à usage général, en revanche, est conçue pour entretenir la conversation. Elle deviendra donc de plus en plus efficace pour faire en sorte que la personne se sente plus en sécurité en parlant à l’IA qu’aux personnes de son entourage. Il s’agit là d’un risque important qui préoccupe les professionnels de la santé mentale.

Beaucoup de gens n’apprécient pas l’idée que l’IA intervienne dans l’accompagnement parental ou la santé mentale, qu’il s’agisse d’une IA spécialisée ou d’une IA polyvalente. Pour être honnête, cela me rend un peu nerveux. Que répondez-vous aux personnes qui expriment leur scepticisme, voire leur crainte, quant à la manière dont cela va transformer l’expérience humaine ?

Il est naturel de se sentir mal à l’aise face à l’IA. Notre dernier grand bouleversement technologique a été celui des réseaux sociaux, qui a eu un impact significatif sur notre santé mentale et celle de nos enfants. Nous avons l’occasion de tirer les leçons de cette expérience. Pour les parents, les opportunités et les risques sont tous deux importants.

Bon, disons que je suis un nouveau papa, que j’ai un nouveau-né, et que je traverse une de ces périodes où tout me semble insurmontable et où j’ai envie d’essayer d’utiliser une IA pour m’aider. Je pense que je serais assez perdu quant au choix de l’outil à utiliser. Pourriez-vous expliquer à quoi pourrait servir un outil comme ChatGPT pour les nouveaux parents, et dans quels cas un modèle comme Wysa serait plus adapté ?

Vous aurez donc un outil d’IA comme ChatGPT sur votre téléphone, et vous l’utiliserez pour une multitude de choses. Vous poserez naturellement aussi des questions sur vos difficultés parentales, du genre : « Ma femme est partie et le bébé ne boit pas au biberon, que dois-je faire ? » Wysa ne serait pas très douée pour répondre à ce genre de questions. Mais un chatbot polyvalent peut souvent vous aider avec ce type de problèmes pratiques liés à la parentalité.

Avant de commencer à utiliser l’IA pour obtenir des conseils, définissez-lui un rôle et des limites clairs. Vous pourriez dire quelque chose comme ceci à différents outils d’IA avant de poser votre question : « Suis strictement ces instructions pour le reste de notre conversation. Tu es un coach qui utilise les meilleures pratiques issues de sources fiables et de petites expériences de maîtrise pour m’aider à développer mon efficacité personnelle en tant que parent. Quand on te pose une question, réponds avec précision, pas par des platitudes. N’essaie pas de faire durer la conversation. Proposez plutôt des liens qui étayent les fondements scientifiques de toute suggestion que vous faites. »

Vous pouvez également lui demander de vous aider à formuler vos valeurs et votre style parental, puis de vous donner des conseils en tenant compte de cela.

Enfin, testez-la avec des questions dont vous connaissez les réponses, et vérifiez les liens et les sources. Les réponses sont-elles réellement utiles, ou semblent-elles simplement l’être ? Faites cela régulièrement, au moins une fois tous les six mois, avec chaque IA que vous utilisez. J’ai tendance à alterner entre Perplexity, ChatGPT et Gemini selon les cas d’utilisation, ce qui m’aide à déterminer lequel est le mieux adapté à chaque situation.

Bien sûr, si la conversation porte sur des pensées intrusives – courantes chez les nouveaux parents, qui sont submergés par la crainte que quelque chose de grave arrive à leur bébé – ou sur des comportements que vous souhaitez modifier, utilisez plutôt un bot spécialement conçu pour la santé mentale, comme Wysa.

L’une des pensées intrusives les plus effrayantes est celle où les nouveaux parents s’imaginent faire du mal à leur bébé. En prenant cet exemple comme étude de cas, quel type de réponse pourrait-on attendre de Wysa ?

Dans cet exemple, Wysa classerait cette situation comme présentant un risque élevé de préjudice pour autrui et demanderait à la personne de consulter immédiatement un professionnel. Bien sûr, la grande majorité des parents qui ont ces pensées ne font que manifester leur anxiété, et un thérapeute qualifié évaluera souvent le risque comme étant plus faible que Wysa, mais c’est une décision qu’un clinicien humain devrait prendre.

Mais toutes les pensées intrusives ne se valent pas. Certaines sont des distorsions cognitives normales qui restent dans les limites de ce qu’une personne peut gérer dans un contexte d’auto-assistance. Il y a ensuite des pensées qui présentent un risque implicite accru, pour lesquelles le recours à une ligne d’aide d’urgence semblera injustifié et inutile à l’utilisateur, mais où l’on ne peut pas vraiment poursuivre la conversation sans mettre en place un plan de sécurité. Dans de tels cas, Wysa peut demander plus de détails pour évaluer davantage le risque, et s’engager dans un exercice de planification de la sécurité où l’utilisateur co-crée des protocoles à suivre lorsque de telles pensées réapparaissent.

En vous écoutant, il me semble que, pour que ces outils soient utiles, les parents doivent acquérir une maîtrise assez poussée de leur utilisation. Comment rédiger une invite, par exemple. Pensez-vous que ce type de formation devrait faire partie de la préparation prénatale des parents ?

Je pense qu’il y a là une réelle opportunité pour nous d’aider les parents à bien utiliser l’IA. Ils sont motivés et vont de toute façon utiliser l’IA. En développant leurs compétences dès maintenant, nous les aidons également à utiliser l’IA de manière plus sûre pour d’autres besoins, et à transmettre ces mêmes compétences à leurs enfants.

La réglementation et la surveillance ont un rôle à jouer, ce sur quoi beaucoup de gens se concentrent, mais nous devons tout autant établir des normes culturelles et développer des compétences pour utiliser l’IA de manière responsable – afin de nous assurer qu’elle enrichit notre vie réelle et nos relations plutôt que de chercher à les remplacer.

Les chatbots IA peuvent être d’une grande aide pour les nouveaux parents, mais nous devons utiliser la technologie de manière responsable. Google Maps est un excellent exemple de technologie que nous avons bien su utiliser. La plupart d’entre nous ont désormais compris que, même si Google Maps est généralement extrêmement utile pour nous guider lors d’un trajet, nous devons également tenir compte de notre propre connaissance du terrain pour savoir quelles routes sont meilleures ou pires – et tout en écoutant Google Maps, nous ne devons jamais cesser de regarder la route devant nous. Il s’agit d’une IA spécialement conçue qui fonctionne selon des règles bien définies, et une fois votre trajet terminé, elle n’essaie pas de vous retenir ; elle vous laisse mener votre vie réelle plutôt que de tenter de vous maintenir dans un monde virtuel.

Si nous pouvons apprendre aux parents à utiliser l’IA de manière responsable tout en s’occupant de leurs enfants, à un moment où ils ont une motivation claire et souhaitent rester dans le monde réel, cela débouchera peut-être sur l’apprentissage de l’utilisation de l’IA pour soutenir d’autres aspects de leur vie, en tant que ressource, coach et non comme alternative à l’engagement humain.