Les systèmes d'intelligence artificielle (IA), et plus particulièrement les grands modèles de langage comme ceux développés par Meta AI, ont démontré qu'ils pouvaient reproduire, voire amplifier, des stéréotypes, des préjugés ou des discriminations. Ces biais peuvent concerner des questions de genre, d'origine, de religion, de handicap, d'orientation sexuelle ou encore de statut socioéconomique. Lorsque ces technologies sont massivement intégrées dans des plateformes sociales utilisées par des millions de Belges, ces biais ne relèvent plus uniquement d'une problématique technique, mais bien d'un enjeu démocratique, éthique et de respect des droits fondamentaux. Ils influencent les représentations collectives, les discours publics et même parfois l'accès à certains services ou à la visibilité en ligne. Dans ce contexte, il est essentiel que les autorités publiques s'assurent que les IA déployées sur le territoire belge - y compris celles de Meta - fassent l'objet d'un encadrement rigoureux, avec des mécanismes de contrôle, de transparence et de réparation en cas de dérive. 1. Quelles garanties le gouvernement belge exige-t-il de la part de Meta en matière d'identification, de prévention et de correction des biais dans ses systèmes d'IA accessibles en Belgique? 2. Des échanges ont-ils lieu avec Meta à ce sujet, notamment via l'Autorité de protection des données, l'Institut pour l'égalité des femmes et des hommes ou Unia? 3. Un contrôle indépendant de ces systèmes est-il envisagé ou recommandé, p. ex. via des audits algorithmiques réalisés par des institutions belges ou européennes? 4. Le gouvernement soutient-il la mise en place d'une instance de veille éthique sur l'IA à l'échelle fédérale ou européenne, chargée de veiller à la non-discrimination et au respect des valeurs fondamentales? 5. Dans le cadre du futur AI Act européen, la Belgique plaide-t-elle pour l'intégration d'obligations strictes de transparence et de lutte contre les biais dans les modèles déployés par des acteurs privés sur son territoire?
B015
1. L'identification, la prévention et la correction des biais dans les systèmes d'intelligence artificielle (IA) accessibles en Belgique, sont réglés par l'AI Act, qui est entré en vigueur à l'été 2024 et devient progressivement applicable. L'AI Act vise à limiter les risques posés par l'IA. L'AI Act vise notamment à promouvoir l'adoption de l'IA axée sur l'humain et digne de confiance, tout en garantissant un niveau élevé de protection de la santé, de la sécurité et des droits fondamentaux. L'AI Act s'applique aux entreprises établies ou situées dans un pays tiers si les résultats (output) des systèmes d'IA qu'elles proposent sont destinés à être utilisés dans l'Union européenne. Cela signifie qu'une entreprise comme Meta, qui propose des systèmes d'IA destinés à être utilisés en Belgique, doit également se conformer aux règles de l'AI Act. Ainsi, l'utilisation de certains systèmes d'IA portant un risque inacceptable pour les droits fondamentaux, comme les systèmes d'IA qui ont recours à des techniques subliminales avec pour objectif ou effet d'altérer le comportement d'une personne ou ses décisions, ou les systèmes d'IA qui développent des bases de données de reconnaissance faciale par le moissonnage non ciblé d'images (scraping), est interdit en vertu de l'AI Act. Meta ne peut donc pas mettre en service de tels systèmes. Les systèmes d'IA qui présentent un haut risque mais qui ne sont pas interdits doivent aussi se conformer à une série de règles strictes. Enfin, Meta doit également respecter les exigences de transparence pour les systèmes d'IA présentant un risque limité, tels que l'étiquetage d'une image comme étant générée par l'IA, ou le signalement lorsqu'un utilisateur s'adresse à un chatbot plutôt qu'à un humain. L'AI Act prévoit un système de surveillance étendu avec un contrôle ex ante et ex post des systèmes d'IA, ainsi que des sanctions de grande portée en cas de non-respect des exigences de l'AI Act. Ce système de contrôle est également coordonné au niveau européen. 2. Pour cette question, il peut être référé à ces institutions indépendantes. L'Autorité de protection des données, l'Institut pour l'égalité des femmes et des hommes et Unia sont chacune des autorités notifiées en tant qu'autorité chargée de la protection des droits fondamentaux en vertu de l'article 77 de l'AI Act. En effet, dans le cadre de l'article 77 de l'AI Act, les États membres ont désigné des autorités nationales chargées de veiller au respect des droits fondamentaux lors de l'utilisation de systèmes d'IA à haut risque. Ces autorités peuvent demander de la documentation sur le système d'IA utilisé pour évaluer si les droits fondamentaux ont été violés. Si la demande et la consultation de cette documentation ne suffisent pas, ces autorités peuvent également demander aux autorités de surveillance du marché de tester le système d'IA en question afin de déterminer s'il y a eu violation. S'il y a une violation, l'autorité de surveillance du marché invite l'opérateur concerné à prendre toutes les mesures correctives appropriées pour mettre le système d'IA en conformité, le retirer du marché ou le rappeler dans un délai déterminé. 3. L'AI Act prévoit la mise en place d'un cadre de gouvernance, de contrôle et de sanctions aux niveaux national et européen. Dans la grande majorité des cas, la surveillance du marché dans les États membres est assurée par les autorités nationales de surveillance du marché. Dans deux cas, la surveillance du marché se fait au niveau européen. La Commission européenne en sa qualité d'AI Office, agit en tant qu'autorité de surveillance du marché dans le cas des modèles d'IA à usage général (General Purpose AI models), et le Contrôleur européen de la protection des données assure la surveillance du marché pour ce qui concerne les institutions, organes ou agences de l'Union européenne soumis à l'AI Act. La surveillance du marché au niveau national exige la désignation ou l'établissement d'autorités nationales compétentes. Par définition, ces autorités nationales compétentes se composent d'au moins une autorité de surveillance du marché et d'au moins une autorité notifiante. L'AI Act exige que ces autorités nationales compétentes exercent leurs pouvoirs de manière indépendante, impartiale et sans parti pris. Les autorités notifiantes sont responsables des procédures ex ante: elles évaluent les organismes d'évaluation de la conformité et les notifient. Après cette notification, les organismes d'évaluation de la conformité sont appelés "organismes notifiés". Les organismes notifiés sont des organismes tiers qui procèdent à l'évaluation de la conformité des systèmes d'IA dits à haut risque. Un système d'IA conforme portera alors le marquage CE. Des autorités nationales seront également chargées de la surveillance ex post du marché, une fois que les systèmes d'IA (à haut risque) seront autorisés à circuler sur le marché européen. Il s'agit des autorités de surveillance du marché. En ce qui concerne spécifiquement les audits algorithmiques, il existe un lien avec le Digital Services Act (DSA). La conception des systèmes de recommandation ou tout autre système algorithmique fait partie des facteurs qui influencent les risques systémiques. À ce titre et en application du DSA, ils doivent être examinés dans le cadre d'une analyse de risques annuelle à laquelle les Très Grandes Plateformes en Ligne (VLOPs) sont tenues. À la suite de cette analyse, des mesures d'atténuation des risques identifiés doivent être mises en place, notamment via l'adaptation de leurs systèmes algorithmiques. L'analyse de risques et les mesures prises doivent faire l'objet d'un audit indépendant. Les VLOPs ont par ailleurs l'obligation de publier les rapports résultant des évaluations des risques et des audits. La surveillance de ces obligations par les VLOPs relève de la compétence de la Commission européenne. 4. Au niveau national, il existe le Comité Consultatif d'Éthique des Données et de l'Intelligence Artificielle de l'administration fédérale Au niveau européen, la stratégie européenne en matière d'intelligence artificielle vise à faire de l'Union européenne une plaque tournante de classe mondiale pour l'IA de sorte que l'IA soit centrée sur l'humain et digne de confiance. Par ailleurs, des lignes directrices en matière d'éthique pour une IA digne de confiance existent depuis quelques années. 5. Lors des négociations de l'AI Act au niveau européen, la Belgique s'est en effet prononcée en faveur d'obligations strictes en matière de transparence. L'AI Act a été adopté et est entré en vigueur. Grâce à l'AI Act, il existe désormais un cadre réglementaire européen solide pour l'utilisation de systèmes et de modèles d'IA à usage général qui promouvra l'adoption de l'IA axée sur l'humain et digne de confiance, tout en garantissant un niveau élevé de protection de la santé, de la sécurité et des droits fondamentaux dans l'Union européenne. Une mise en oeuvre efficace et correcte de l'AI Act, ainsi que du DSA, sera essentielle afin de récolter les avantages de ce nouveau cadre réglementaire solide. Nous suivons donc attentivement cette question. À cet égard, il est essentiel de mettre en place le cadre de gouvernance et de prévoir des sanctions. Ce processus est en cours en Belgique. Le SPF Économie a élaboré une proposition aussi complète que possible pour la structure de gouvernance fédérale, en étroite concertation avec les autorités notifiantes et les autorités de surveillance du marché déjà existantes. Sur la base de ces travaux et de consultations, j'ai opéré un certain nombre de choix stratégiques afin d'assurer la cohérence et l'efficacité du dispositif envisagé. Conjointement avec le ministre Clarinval, j'ai donné instruction au SPF Économie de lancer les travaux législatifs. Je présenterai prochainement ce cadre de surveillance au gouvernement fédéral, avant d'engager des discussions avec les entités fédérées.