La presse a récemment relayé qu'OpenAI envisage, en Europe, de développer prochainement une nouvelle fonctionnalité permettant à son chatbot, ChatGPT, de délivrer des conseils de santé en s'appuyant sur les dossiers médicaux des patients ainsi que sur les données issues de montres connectées. Les données médicales constituent des informations hautement sensibles. Leur exploitation, notamment par des sociétés commerciales telles que des compagnies d'assurance, pourrait conduire à des pratiques discriminatoires fondées sur l'état de santé réel ou présumé des personnes. Le risque de transfert, volontaire ou non, de ces données vers des acteurs tiers suscite donc de vives inquiétudes. 1. Comment le gouvernement évalue-t-il cette nouvelle fonctionnalité annoncée, notamment au regard des risques de détournement ou d'utilisation abusive des données de santé? 2. Quelles mesures entendez-vous mettre en place afin de garantir que de telles applications ne puissent transférer, partager ou rendre accessibles ces données médicales à des tiers, en particulier à des acteurs privés tels que les assureurs?
B046
Je suis très attentive aux développements récents annoncés par OpenAI concernant le lancement de 'ChatGPT Santé'? permettant à l'utilisateur de connecter ses données de santé personnelles, telles que ses dossiers médicaux électroniques et ses données issues d'applications de suivi santé. L'objectif affiché est de proposer des réponses potentiellement plus utiles et plus personnalisées aux utilisateurs. Je tiens à rappeler que ce type de données constitue des données sensibles dont la protection doit être garantie. À ce stade, cette fonctionnalité n'est pas déployée dans l'Union européenne, en raison des réglementations européennes plus strictes tant au regard de la protection des données personnelles, de l'intelligence artificielle (AI Act) et des règlementations dans le domaine de la santé, notamment sur les dispositifs médicaux. Le déploiement de ce type d'outils soulève des enjeux importants, y compris au regard des risques de détournement ou d'utilisation abusive des données par des sociétés commerciales. OpenAI annonce s'appuyer sur des mécanismes éprouvés de confidentialité et de gestion des données, avec des protections supplémentaires, telles qu'un chiffrement dédié et une isolation renforcée, afin de préserver le cloisonnement des conversations de santé. Si on peut se réjouir de ces annonces, la plus grande prudence reste de mise. Il faut aussi tenir compte du fait que les règles de fonctionnement de ce type de plateformes privées peuvent évoluer rapidement, notamment en matière de traitement des données à caractère personnel. De manière générale, toute entreprise souhaitant déployer ce type de service sur le territoire européen doit démontrer sa conformité avec l'ensemble des réglementations applicables. Je resterai particulièrement attentive à l'évolution de ces technologies et à leur éventuel déploiement en Europe, afin de veiller à ce que l'utilisation d'outils numériques dans le domaine de la santé se fasse dans le respect strict de la vie privée, de la sécurité des données et de l'intérêt des citoyens.