OpenAI a annoncé mercredi 7 janvier le lancement d'une version de ChatGPT axée sur la santé, appelée ChatGPT Health. Décrite comme « une expérience dédiée dans ChatGPT conçue pour la santé et le bien-être », cette nouvelle expérience permettrait aux utilisateurs potentiels de fournir leurs informations de santé personnelles à ChatGPT.

La société indique que l'objectif de ChatGPT Health est d'aider à donner du sens aux informations de santé dispersées que les gens ont reçues de médecins, de tests et d'applications de suivi de santé, ainsi que de « comprendre les résultats de tests récents, se préparer aux rendez-vous avec votre médecin, obtenir des conseils sur la façon d'aborder votre régime alimentaire et votre routine d'entraînement, ou comprendre les compromis entre différentes options d'assurance en fonction de vos habitudes de santé ».

Je peux voir que l'initiative part d'une bonne intention, mais en tant que personne qui nourrit un scepticisme sain envers les initiatives pilotées par l'IA, je devais me demander : « ChatGPT peut-il offrir un véritable soutien aux personnes ayant besoin de soins médicaux réels ? »

J'ai fouillé dans leur documentation pour résoudre certaines de mes propres préoccupations concernant le déploiement prochain de ChatGPT Health.

Lire la vidéo

Limitations d'utilisation, collecte de données

Bien qu'il vise à aider les utilisateurs à mieux défendre leurs intérêts lorsqu'il est temps de consulter un médecin, il indique également explicitement dans son annonce qu'il est conçu pour « soutenir, et non remplacer les soins médicaux ». J'ai examiné les limitations qu'il énumère qui le rendraient admissible en tant qu'assistant, mais pas en tant que remplacement des prescriptions médicales réelles.

Selon la page d'assistance OpenAI pour ChatGPT Health, les utilisateurs américains de plus de 18 ans peuvent connecter leurs dossiers médicaux ou de santé électroniques afin que ChatGPT puisse leur parler spécifiquement de questions liées à la santé dans la sous-section ChatGPT Health de l'application. Les utilisateurs doivent se connecter aux fournisseurs pour ce faire, ce qui fait allusion à une friction nécessaire pour maintenir la confidentialité de vos données de santé.

Les données Apple Health peuvent également être connectées à ChatGPT Health. Il permet également d'ajouter des données provenant d'un certain nombre d'applications tierces — notamment Peloton, MyFitnessPal, Function, Instacart, AllTrails et Weight Watchers.

Selon sa page d'assistance, les informations que ChatGPT Health obtient sont cloisonnées et utilisées spécifiquement pour ChatGPT Health et aucune autre fonction.

Confidentialité et protections des données

En termes de confidentialité des données, j'ai l'impression qu'ils ont pris grand soin d'apaiser les vigilants surveillant les comportements répréhensibles.

Les gens doivent s'inscrire en autorisant l'utilisation de leurs données par ChatGPT pour les aider. Plus particulièrement, OpenAI a déclaré ce à quoi vous pouvez vous attendre de voir dans un dossier médical, allant des « résultats de laboratoire, résumés de visites et antécédents cliniques ». Il suggère également que cette fonctionnalité ne soit utilisée « que si vous êtes à l'aise avec le fait que ces informations soient dans ChatGPT ».

Cela dit, OpenAI affirme que les données que vous placez dans ChatGPT Health ne sont pas utilisées pour entraîner ses modèles de base, et peuvent être supprimées ou autrement retirées quand vous le souhaitez. De plus, les conversations ChatGPT Health, les applications connectées, la mémoire et les fichiers ne sont disponibles que dans ce service.

Bien qu'une conversation ChatGPT puisse soudainement devenir une conversation ChatGPT Health si nécessaire, cette conversation ChatGPT Health ne devient pas une partie de ChatGPT à proprement parler, bien que vous puissiez partager vos conversations avec d'autres si vous le souhaitiez. La responsabilité semble incomber à vos actions.

Vantant l'assistance de médecins

Peut-être qu'un grand attrait potentiel de ChatGPT Health pour ceux qui sont intéressés à l'utiliser est son accent sur l'obtention d'aide de médecins pour affiner le service sur une période de deux ans. Selon l'annonce de presse, OpenAI a déclaré avoir travaillé avec « plus de 260 médecins ayant exercé dans 60 pays et des dizaines de spécialités pour comprendre ce qui rend une réponse à une question de santé utile ou potentiellement nuisible — ce groupe a maintenant fourni des commentaires sur les résultats du modèle plus de 600 000 fois dans 30 domaines d'intérêt ».

L'objectif, semble-t-il, est d'encourager les gens à obtenir de l'aide médicale et à consolider les informations au préalable, facilitant la communication des patients sur ce qu'ils ressentent sans simplification excessive des symptômes, pour aider à voir des schémas qu'un patient pourrait ne pas remarquer au fil du temps, et pour prioriser la sécurité des utilisateurs avant tout.

OpenAI a ajouté : « Cette approche dirigée par les médecins est intégrée directement dans le modèle qui alimente Health, qui est évalué par rapport aux normes cliniques en utilisant HealthBench⁠, un cadre d'évaluation que nous avons créé avec la contribution de notre réseau de médecins praticiens ». HealthBench est censé évaluer les réponses de ChatGPT Health sur la base de rubriques établies par un médecin pour refléter la qualité en pratique, pour prioriser la sécurité d'un utilisateur, pour être clair et utiliser des escalades de soins appropriées et le respect des contextes de la personne utilisant le chatbot.

Mes préoccupations personnelles concernant ChatGPT Health

Pour moi, en tant que Philippin qui sait que les soins de santé sont coûteux et qui souffre de diabète de type 2, il serait probablement prudent de profiter de tout avantage possible si j'ai un problème de santé nécessitant un diagnostic.

Bien que je ne voudrais pas que mes données restent éternellement sur ChatGPT Health — Dieu merci, je peux supprimer mes données sans poser de questions — le fait qu'il puisse suivre ma condition physique et m'encourager à consulter un médecin pour compléter un programme d'exercice ou au moins encourager un rendez-vous chez le médecin si quelque chose ne va pas pourrait être utile.

Cela dit, je m'inquiète de savoir si ChatGPT prend ou non la race en considération, car il existe suffisamment de littérature pour noter les disparités raciales dans les soins de santé, bien que pour des raisons variées. Si ChatGPT Health peut aider à créer l'équité dans les soins médicaux en permettant aux patients de mieux défendre leurs intérêts ou de communiquer leurs préoccupations, je le soutiendrais.

En attendant, je laisserai les États-Unis prendre les devants et voir comment cela se déroule en tant que service réel. – Rappler.com