Assistant personnel IA : ChatGPT Health est déployé, soulevant des préoccupations en matière de confidentialité

OpenAI a largement déployé ChatGPT Health auprès de tous les utilisateurs, y compris ceux disposant de forfaits gratuits, mais cette expansion s’accompagne de changements significatifs dans les protocoles de confidentialité que les travailleurs du savoir devraient examiner attentivement concernant l’utilisation des données et la formation de l’IA.

• ChatGPT Health d’OpenAI est désormais accessible à tous les utilisateurs de plus de 18 ans, quel que soit leur niveau d’abonnement, y compris les comptes gratuits.
• De manière cruciale, les conditions de confidentialité ont été assouplies : seules les conversations où les utilisateurs connectent et partagent activement leurs données médicales (par exemple, Apple Health, dossiers hospitaliers) sont désormais considérées comme des ‘conversations de santé’ et protégées de la formation de l’IA.
• Les requêtes de santé générales ou les discussions sur des diagnostics sans données connectées ne sont pas protégées et peuvent être utilisées par OpenAI pour la formation future de modèles d’IA.
• Les affirmations d’OpenAI selon lesquelles ChatGPT surpasse les médecins dans les évaluations ‘HealthBench’ sont accueillies avec scepticisme, car ces tests pourraient ne pas refléter les interactions médicales réelles ou la fiabilité.

Déploiement généralisé de ChatGPT Health et évolution des conditions de confidentialité pour votre assistant personnel IA

OpenAI a annoncé la disponibilité généralisée de ChatGPT Health, rendant ses capacités d’IA spécialisées dans la santé accessibles à tous les utilisateurs âgés de 18 ans et plus, quel que soit leur plan d’abonnement. Cette initiative vise à positionner ChatGPT comme un assistant personnel IA complet, offrant des conseils et une interprétation des données pour les dossiers médicaux. Cependant, ce déploiement généralisé s’accompagne d’altérations notables de son cadre de confidentialité, qui diffèrent considérablement de son expérience initiale dédiée à la santé.

Initialement, une promesse fondamentale de ChatGPT Health était que toutes les conversations liées à la santé seraient conservées séparément et explicitement exclues de la formation des modèles d’IA. Cette assurance offrait un certain confort aux utilisateurs discutant d’informations personnelles sensibles. Les conditions mises à jour, cependant, introduisent une distinction plus nuancée et potentiellement préoccupante concernant la protection des données, en particulier pour les travailleurs du savoir qui interagissent fréquemment avec des outils de productivité IA et traitent des informations sensibles.

Quelles sont les préoccupations croissantes en matière de confidentialité pour les outils d’assistant personnel IA ?

La principale préoccupation des travailleurs du savoir utilisant des outils d’assistant personnel IA comme ChatGPT Health tourne autour de la confidentialité des données. OpenAI déclare désormais que seules les informations directement connectées à partir de sources externes — telles que Apple Health, les systèmes hospitaliers américains pris en charge, One Medical ou Function Health — et utilisées dans les conversations seront protégées de la formation de l’IA. Cela signifie que si un utilisateur connecte ses dossiers médicaux, toute discussion exploitant ces données connectées est considérée comme une ‘conversation de santé’ avec des garanties de confidentialité spécifiques.

Inversement, si un utilisateur choisit de ne pas connecter ses données de santé mais discute néanmoins d’un diagnostic ou pose des questions liées à la santé avec ses propres mots, ces interactions ne sont explicitement *pas* considérées comme des ‘conversations de santé’. Par conséquent, ces discussions non protégées peuvent être utilisées par OpenAI pour la formation future de modèles d’IA. Cette distinction oblige de fait les utilisateurs à partager leurs données de santé les plus sensibles avec OpenAI pour bénéficier des protections de confidentialité promises, un écart significatif par rapport à l’offre initiale et une considération critique pour tout travailleur du savoir évaluant des outils d’IA pour des tâches sensibles.

Votre assistant personnel IA peut-il réellement surpasser les professionnels de la santé ?

OpenAI a présenté ses évaluations HealthBench comme preuve de la compétence de ChatGPT en matière de conseils médicaux, suggérant que ses modèles peuvent obtenir des scores plus élevés que les médecins humains. Bien que ces évaluations impliquent des médecins notant les réponses, les critiques soulignent des limitations fondamentales. Les tests consistent souvent en des scénarios courts et soigneusement construits qui ne reproduisent pas les complexités, les tournures idiomatiques, les changements de sujet ou les préoccupations imprévues inhérents aux interactions réelles entre patients et médecins.

Des recherches antérieures ont constamment montré que même lorsque les grands modèles linguistiques (LLM) fournissent des réponses précises à des questions de santé isolées, leurs performances peuvent se dégrader considérablement dans des contextes conversationnels dynamiques et réels. Le cadre HealthBench, en se concentrant sur des interactions courtes, ne parvient pas non plus à évaluer des éléments critiques tels que les flux de travail de soins longitudinaux ou les transferts multidisciplinaires, qui sont des composantes vitales de la pratique médicale réelle. Cela soulève des questions sur la fiabilité pratique d’un assistant personnel IA pour des conseils de santé critiques, appelant à la prudence pour les travailleurs du savoir recherchant des conseils médicaux définitifs.

Implications pratiques pour les travailleurs du savoir et les outils de productivité IA

Pour les travailleurs du savoir, l’évolution de ChatGPT Health constitue une étude de cas cruciale pour comprendre les petits caractères des conditions de service de l’IA, en particulier concernant la confidentialité des données. Que vous utilisiez l’IA pour l’automatisation des tâches, les outils de réunion IA ou la prise de notes IA, le principe reste le même : comprenez quelles données sont partagées et comment elles sont utilisées pour la formation des modèles. Le changement dans la politique de confidentialité de ChatGPT Health souligne la nécessité de faire preuve de diligence lors de l’interaction avec toute IA qui traite des informations personnelles ou sensibles.

Bien que des outils comme Notion AI, Reclaim AI, Motion, Otter AI ou Microsoft Copilot offrent une immense valeur pour la productivité, le précédent établi par l’offre de santé d’OpenAI souligne que toutes les données ne sont pas traitées de la même manière, et que la connexion explicite des données dicte souvent les niveaux de confidentialité. Les travailleurs du savoir doivent rester vigilants, examinant attentivement les conditions de service de tous les outils d’IA pour s’assurer que leurs données, en particulier les informations personnelles ou professionnelles sensibles, sont traitées conformément à leurs attentes et aux exigences réglementaires.

Un point essentiel à retenir pour l’utilisation de l’IA par les travailleurs du savoir

Le point le plus important à retenir pour tout travailleur du savoir est de faire preuve d’une extrême prudence lors de la saisie d’informations personnelles sensibles, y compris les détails de santé, dans des modèles d’IA à usage général qui n’offrent pas de garanties explicites et inébranlables d’exclusion des données des ensembles d’entraînement. Privilégiez toujours les outils dotés de politiques de confidentialité transparentes et robustes, et partez du principe que toute donnée non explicitement protégée peut être utilisée pour affiner les futurs modèles d’IA.