Innovation responsable IA et soins de santé mentale

Crédit

Documents à distribuer

Intervenants

Henry Xiao, PhD Séminaires et produits connexes

---

Henry Xiao, PhD, est directeur adjoint des opérations au sein du service de conseil et de soutien psychologique (CAPS) de l'université Penn State, où il combine son expertise clinique et ses connaissances en matière d'innovation technologique afin d'améliorer la prise en charge mentale des étudiants. Henry est psychologue clinicien agréé et a mené des recherches approfondies sur les processus et les résultats de la psychothérapie. Depuis plus de dix ans, il intègre la prise de décision fondée sur les données dans les systèmes de conseil universitaire grâce à sa formation supérieure à l'université Penn State et à son travail au Centre pour la santé mentale universitaire (CCMH). Dans le cadre de ses fonctions actuelles au CAPS, il supervise la mise en œuvre de la technologie et la sécurité des données, travaille en étroite collaboration avec l'équipe informatique de l'université pour planifier et mettre en œuvre les changements technologiques, et entretient des liens étroits avec le CCMH, où il occupe désormais le poste de conseiller en recherche, afin de garantir que les services de santé mentale du CAPS restent efficaces et à la pointe de la technologie. Sa passion pour la technologie combine un intérêt professionnel et personnel.

 

Déclarations du conférencier :
Financier : Henry Xiao a une relation d'emploi avec l'Université de l'État de Pennsylvanie. Il reçoit des honoraires de la part de PESI, Inc. Il n'a aucune relation financière pertinente avec des organisations inéligibles.
Non financier : Henry Xiao est un évaluateur ad hoc pour Cogent Mental Health and Psychotherapy Research.

 

Objectifs

1. Identifier les principaux enjeux éthiques et considérations liés à l'utilisation personnelle et professionnelle de l'IA.
2. Résumez le fonctionnement de l'IA et son utilisation actuelle dans le domaine de la santé mentale.
    

Aperçu

Justification - Pourquoi cette conférence et à quoi s'attendre

• Avertissement : l'intervenant n'est ni ingénieur en IA ni programmeur, et n'est rémunéré/sponsorisé par aucune entreprise spécialisée dans l'IA.
• Toutes les démos de la présentation ont été créées à l'aide de la version gratuite des sites web cités.
• Identité des intervenants participant à la conférence (Pope explore également l'IA, soulignant l'importance internationale/mondiale du sujet)
• Questions Zoom pour évaluer la familiarité du public avec l'IA ; environ 1 à 2 minutes chacune, résultats à partager en direct.
• Discussion sur certaines convictions éclairées de l'utilisateur concernant l'IA, fondées sur des recherches et des explorations professionnelles/personnelles (afin de définir le contexte de la discussion).
• Objectifs pédagogiques 

Statistiques d'utilisation : qui utilise l'IA et pourquoi est-ce important ?
Remarque supplémentaire concernant les sources : chaque utilisation de l'outil est citée et datée, et la bibliographie contient généralement un mélange de recherches empiriques et d'articles/sources plus récents.

  La majorité des personnes interrogées dans le monde utilisent désormais des enquêtes hebdomadaires.

• L'utilisation réelle est susceptible d'être différente en raison de la nature rapidement changeante.
• Les personnes plus jeunes utilisent plus fréquemment
• Exemple d'utilisation de ChatGPT et rapidité d'adoption
• Qui utilise l'IA ? Géopolitique internationale et importance de l'IA

Introduction à l'IA - Qu'est-ce que l'IA, comment fonctionne-t-elle ?

• Présenter et parler de l'IA -> IA générative -> Grands modèles linguistiques
• Les grands modèles linguistiques présentés comme un sujet central et un phénomène public
• Comment fonctionnent les LLM ? Accent mis sur la prédiction de modèles sans véritable « compréhension » de la vérité par opposition à la fiction.
• Analogie entre les bébés et l'IA générative : en gros, ni les uns ni les autres ne « comprennent » vraiment pourquoi ils font ce qu'ils font, mais ils réagissent néanmoins avec précision. 
• Exemples de LLM couramment utilisés : ChatGPT, Claude, Gemini, DeepSeek et Perplexity. 

Éthique et considérations : quelles sont les préoccupations actuelles concernant l'IA dans tous les secteurs ?

• Sortie de DeepSeek en janvier 2025 : démonstration de la « chaîne de pensée » et dévoilement de la « boîte noire » de manière accessible
• Deepseek Censure de la place Tian'anmen et pouvoir des entreprises propriétaires de déterminer leur alignement avec les valeurs/la sécurité
• La sortie de DeepSeek est un bon exemple des multiples considérations éthiques, notamment géopolitiques et économiques, de censure et de garde-fous, ainsi que d'utilisation massive par le grand public.
• Ordre du jour pour les catégories de considérations éthiques - il y a beaucoup à dire à ce sujet, l'espoir est de susciter une réflexion autour de ces domaines, mais le temps manque pour explorer chacun d'entre eux de manière approfondie.
  • GIGO et biais
    • La sortie du LLM/GenAI dépend entièrement des données sur lesquelles il a été entraîné.
    • Exemple d'impact sur les personnes ne parlant pas anglais, et exemple d'horloges bloquées à 10 h 10.
• Confidentialité, responsabilité et sécurité des données
  • Au-delà de la valeur géopolitique, l'usurpation d'identité est une raison très forte de ne pas mettre de données sensibles dans un LLM public.
  • Les dossiers médicaux (données de niveau HIPAA) restent particulièrement précieux.
  • Les comités d'éthique se développent pour encadrer l'utilisation responsable de l'IA, à l'instar de l'American Psychological Association
  • Organisations internationales (Conférence des Nations Unies)
  • Hypothèse de la reine rouge : la technologie progresse rapidement, donc « rester immobile » n'est pas une option viable.
• Coûts écologiques et énergétiques
  • Entretien électrique, coûts élevés de formation et d'inférence
  • Une partie des progrès consiste également à réduire les coûts en augmentant l'efficacité, mais la répartition des coûts reste inégale.
  • Droits humains et éthique - RLHF au Kenya
• Humanité : pensée critique
  • Enseignement supérieur et éducation en général - Impacts du LLM
  • Exemple illustrant la complexité avec laquelle un LLM peut répondre à une question
  • Les LLM rendent le « savoir » plus accessible sans nécessairement exiger la « sagesse ».
  • Étude réalisée par Microsoft sur l'utilisation des modèles linguistiques à grande échelle (LLM) et la pensée critique
  • Petit exemple d'impact quotidien ; aperçu de l'IA de Google
• Humanité : lien social
  • Exemple de conversation vocale avec l'IA
  • Étude des forums publics (par exemple, Reddit/Quora) et de la manière dont les utilisateurs utilisent les LLM pour trouver de la compagnie.
  • Plus d'informations dans la section Soins de santé mentale
• Humanité : Créativité/Art
  • Exemple musical (si le temps le permet)
  • Exemple de vidéo
  • Haïku ; écrit personnellement ; mais désormais impossible à prouver
  • Discussion sur ce qui constitue « l'art » défini comme une qualité humaine
  • Résumé des résultats de recherche liés aux préférences humaines    
• Santé mentale
  • Utilisations actuelles ; aucun LLM gratuit n'offre la sécurité HIPAA ; vous devrez payer pour bénéficier d'une sécurité adéquate.
  • Les chatbots utilisés à des fins thérapeutiques : avantages et inconvénients, études et commentaires anecdotiques sur Reddit
  • Utilisation parasociale, y compris poursuite judiciaire contre Character.AI et Google
  • Données du CCMH - augmentation de l'anxiété sociale, de l'anxiété et rôle de l'évitement
  • Discussion sur l'étude de Harlowe sur les singes et sur la manière dont l'IA pourrait être le « singe en peluche » subjectif pour les personnes en situation difficile.
  • Comment continuer à discuter de la tolérance à la détresse ?

Exemples :

• Grandes catégories d'utilisation, telles que définies par l'étude Microsoft
• Exemple d'utilisation personnelle, invites « quotidiennes »
• Exemple d'utilisation personnelle/professionnelle : comment utiliser un LLM ?
• Exemple d'utilisation professionnelle, génération d'une feuille de calcul client
• Exemple : comparaison linguistique entre ChatGPT et Claude ; importance de l'exploration personnelle et de l'alignement des modèles
• Suggestions supplémentaires pour explorer l'IA

C'est l'heure des questions
 

Public cible

• Conseillers en toxicomanie
• Gestionnaires de cas certifiés
• Conseillers, éducateurs 
• Thérapeutes conjugaux et familiaux
• Infirmières
• Médecins
• Psychologues
• Travailleurs sociaux
• Art-thérapeutes