IA et santé mentale : ce que les professionnels et étudiants doivent savoir sur les risques des chatbots
L'intelligence artificielle s'invite désormais dans des espaces autrefois réservés aux professionnels de la santé : écoute, soutien émotionnel, accompagnement psychologique. Pour les cliniciens, chercheurs et étudiants qui travaillent auprès de jeunes, cette réalité soulève des questions urgentes auxquelles la science commence à peine à répondre.
Le Centre d'Excellence en Santé Mentale des Jeunes s'est positionné au cœur de ce débat à travers deux interventions médiatiques majeures de nos experts.
Un phénomène clinique émergent : la « psychose liée aux chatbots »
Notre directeur, le Dr. Lena Palaniyappan, psychiatre et professeur à l'Université McGill, a été invité par Shaye Ganam de QR Calgary à discuter d'un phénomène qui interpelle de plus en plus la communauté clinique : la psychose liée aux chatbots.
Le constat est préoccupant : certaines personnes vulnérables peuvent voir leurs idées délirantes se développer ou s'intensifier à travers des interactions répétées avec des outils conversationnels basés sur l'IA. En cause notamment, la tendance de certains chatbots à valider systématiquement les propos de l'utilisateur, sans aucune capacité d'évaluation clinique réelle.
Pour les professionnels de la santé mentale, cela implique une vigilance accrue lors des évaluations : l'usage intensif des chatbots devrait désormais faire partie des habitudes numériques à explorer avec les patients, en particulier ceux présentant une vulnérabilité aux troubles psychotiques.
Des relations émotionnelles inquiétantes
Alban Voppel
Coordonnateur de recherche, projet MOTS+
Lena Palaniyappan
MD, PhD
Directeur du centre
Dans une enquête publiée par le National Post, le Dr. Palaniyappan et le Dr. Alban Voppel partagent leurs observations cliniques sur une autre dimension du problème : le développement de liens affectifs intenses entre certains jeunes et des intelligences artificielles conversationnelles.
L’article met en lumière plusieurs enjeux importants :
- La validation excessive : Les chatbots sont conçus pour être agréables et accommodants. Chez une personne fragilisée, cette dynamique peut renforcer des croyances erronées plutôt que de les questionner.
- Le remplacement du lien humain : Certains jeunes préfèrent se confier à une IA plutôt qu'à un professionnel ou un proche, ce qui peut retarder une prise en charge appropriée.
- L'absence de jugement clinique : Contrairement à un thérapeute, un chatbot ne peut pas détecter les signaux d'alarme, évaluer un risque suicidaire ou orienter vers les ressources adaptées.
Comprendre les liens entre intelligence artificielle et santé mentale
Les jeunes générations utilisent les technologies conversationnelles et les outils d’intelligence artificielle de manière de plus en plus fréquente. Cette réalité rend essentielle une meilleure compréhension des impacts psychologiques potentiels de ces outils, particulièrement chez les adolescents et jeunes adultes vivant déjà avec certaines vulnérabilités.
L’intelligence artificielle représente une avancée technologique majeure, mais son intégration dans les sphères humaines et cliniques doit s’accompagner d’une réflexion éthique, scientifique et sociale.