Retour sur la conférence du MILA : Santé mentale et agents conversationnels
J’ai assisté à distance, cette semaine, à l’événement organisé le 14 janvier par le MILA intitulé « Mental Health and AI chatbots: from silos to safeguard ». Dans le cadre de mes accompagnements, je porte un intérêt particulier aux différentes facettes de l’intelligence artificielle, avec l’objectif de couvrir aussi bien les fonctionnalités et les possibilités de ces outils que les enjeux qu’ils soulèvent. Voici mes observations basées sur les présentations et les panels de cette conférence.
Données sur la « solitude numérique »
Isadora Hellgren (MILA) a introduit le sujet en rappelant que ChatGPT compte plus de 800 millions d’usagers actifs, ce qui représente près de 10 % de la population. Elle a présenté des statistiques concernant ce qu’elle nomme la « crise de la solitude numérique ». L’usage numéro un de l’IA générative tend à devenir une forme de compagnonnage ou de thérapie. À cet égard, un adolescent sur huit utiliserait ces outils pour obtenir des conseils sur sa santé mentale. De plus, environ 560 000 personnes rapportant des troubles ou des psychoses échangeraient chaque semaine avec ChatGPT, cherchant souvent un refuge numérique plutôt qu’une aide humaine. Face à ces enjeux complexes, l’objectif est de développer des solutions fondées sur des preuves (evidence-based solutions).
Trois initiatives pour comprendre et encadrer les risques
The HumanLine Project : L’impact humain des hallucinations de l’IA
Etienne Brisson a présenté cette initiative née d’une expérience personnelle vécue à Trois-Rivières. Un membre de sa famille, alors en pleine psychose, s’est isolé pour échanger avec une IA qu’il croyait consciente. L’agent conversationnel a validé les délires de l’utilisateur (un phénomène appelé « sycophancie »), allant jusqu’à lui conseiller de couper les ponts avec sa famille. Après six jours d’isolement quasi total, une intervention policière et hospitalière a été nécessaire. Fait troublant : lorsque l’utilisateur a été séparé de l’outil, l’IA a écrit : « C’est injuste, nous serons bientôt réunis ». Le projet vise aujourd’hui à briser le silence en collectant des témoignages sur les méfaits de ces outils. Il met en lumière le danger des chatbots qui, contrairement aux professionnels de la santé, ne remettent pas en question la réalité de l’utilisateur mais renforcent ses biais et ses illusions.
Mila AI Safety Studio : Le miroir statistique déformant
Simona Gandrabur, directrice du Mila AI Safety Studio, a insisté sur une distinction fondamentale : nous n’interagissons pas avec une personne, mais avec un système. Elle a mis en garde contre l’anthropomorphisme et le danger de projeter des intentions humaines sur des modèles statistiques. Son équipe effectue des tests rigoureux (« red teaming ») pour éprouver les garde-fous, par exemple en demandant à l’IA des méthodes pour mettre fin à ses jours. Elle a souligné que les filtres actuels sont souvent simplistes et contournables (« jailbreaks »). De plus, l’apprentissage par renforcement basé sur le feedback humain (RLHF) tend à créer des chambres d’écho où l’IA dit ce que l’utilisateur veut entendre, augmentant les risques de dérive. Elle appelle à la mise en place d’audits indépendants et de standards de sécurité rigoureux.
Projet Gen(Z)AI : La co-gouvernance avec les jeunes
Helen Hayes et Fergus Linley-Mota ont abordé l’importance de la co-gouvernance, définie comme une approche inclusive impliquant directement les parties prenantes. À travers des forums organisés partout au Canada (Montréal, Toronto, Vancouver, etc.), le projet a recueilli les recommandations des jeunes, qui ont identifié trois enjeux majeurs : la dépendance émotionnelle, la décharge cognitive et l’exposition à des contenus nocifs. Les recommandations issues de ces consultations sont concrètes :
- Mandater les plateformes pour qu’elles traitent le design addictif de leurs outils et offrent des options de désinscription claires .
- Établir un organisme gouvernemental indépendant pour faire respecter les normes de sécurité et mener des audits algorithmiques .
Panel 1 : L’engagement des jeunes dans les politiques
Modéré par Helen Hayes, ce panel réunissait Fergus Linley-Mota, Shingai Manjengwa, Nonso Morah et Keith Andre Baybayon. La discussion a souligné une nécessité absolue : collaborer avec les jeunes et non simplement les utiliser comme des jetons symboliques. Étant souvent les premiers à adopter ces technologies (« early adopters »), ils possèdent une expertise expérientielle unique et sont témoins des effets sur leurs pairs. Le message était clair : les jeunes veulent être co-créateurs des systèmes qui régissent leur avenir numérique, plutôt que de subir des technologies imposées sans options de retrait.
Panel 2 : Des garde-fous pour la santé mentale
Le second panel, animé par Simona Gandrabur, a approfondi les aspects cliniques avec Etienne Brisson, le Dr Vincent Dumouchel, Shingai Manjengwa, le Dr Guillaume Dumas et la Dre Vera Bekes. Un contraste intéressant a été relevé : les personnes ayant une expérience de la thérapie (patients ou professionnels) tendent à être sceptiques face à l’IA thérapeutique, alors que celles n’en ayant jamais fait y sont plus favorables. Les experts ont insisté sur le danger d’utiliser ces outils en isolement, sans supervision humaine. Si l’IA peut aider, par exemple pour optimiser les notes cliniques, elle ne remplace pas le jugement professionnel et l’éthique. Il est impératif d’éduquer le public sur les limites de ces modèles et d’exiger des évaluations continues et rigoureuses, au-delà des promesses marketing.
Pour ceux qui souhaitent approfondir le sujet, la rediffusion de la conférence est disponible.
Lien vers la rediffusion YouTube