B032
Un article critique est paru récemment dans la presse au sujet de Palantir Technologies, une société américaine spécialisée dans les technologies d'analyse de données fondée par Peter Thiel et Alex Karp. Palantir fournit d'importants contrats au Pentagone, à l'OTAN et à l'armée israélienne, entre autres, et joue un rôle dans la politique d'expulsion menée par Trump. La florescence des applications de défense et de sécurité est remarquable. Cela soulève des questions sur l'utilisation, le contrôle et les implications éthiques de telles technologies au sein des services de défense et de sécurité belges. 1. La Défense belge est-elle actuellement impliquée (directement ou indirectement) dans des projets ou des projets pilotes utilisant le logiciel Palantir? Si oui, pouvez-vous préciser dans quels dossiers (p. ex., cybersécurité, planification militaire, predictive policing), quels modules logiciels sont utilisés et s'il existe des contrats ou des projets pilotes en cours avec Palantir ou ses partenaires? 2. Quelles garanties existent pour que, lorsque la technologie Palantir est utilisée au sein des services publics belges, la fourniture et le traitement des données soient conformes au Règlement général sur la protection des données et à la législation belge en matière de protection de la vie privée? Les risques potentiels, tels que les biais, les préjugés algorithmiques ou l'absence d'intervention humaine dans les décisions critiques, ont-ils été évalués? 3. Quels mesures ou directives existent-elles pour éviter que les systèmes de défense ou de sécurité sélectionnent des cibles de manière autonome (sans contrôle humain)? 4. Quelles mesures la Belgique prend-elle au niveau européen pour développer des normes éthiques, juridiques et opérationnelles critiques et maintenir une surveillance dans le cadre d'un débat sur les technologies stratégiques d'IA, telles que celles de Palantir?
B035
1. La Défense confirme avoir des échanges avec Palantir Technologies; toutefois, aucun engagement contractuel spécifique à la Défense belge n'est actuellement en vigueur. Il est néanmoins question d'une coopération exploratoire visant à renforcer l'interopérabilité dans le cadre des opérations de l'OTAN, conformément aux pratiques observées auprès d'autres partenaires de l'OTAN. Dans ce contexte, il est donc possible que la Défense soit indirectement confrontée à ce type de logiciels dans le cadre d'opérations ou d'exercices conjoints de l'OTAN. 2. Toutes les applications au sein de la Défense sont soumises à des protocoles de sécurité stricts, incluant le respect du Règlement général sur la protection des données européen ainsi que de la réglementation nationale. Les contrôles relatifs à l'application de ces dispositions, ainsi qu'aux risques tels que les biais, les préjugés algorithmiques et l'absence d'intervention humaine dans les décisions critiques fondées sur des données personnelles, sont évalués en collaboration avec le délégué à la protection des données (Data Protection Officer) et, prochainement, avec le Digital Compliance Officer nommé au sein du Chief Information Office. 3. a) Bien que la Défense ne dispose actuellement d'aucun système capable de sélectionner des cibles de manière autonome, sans contrôle humain, elle s'engage à soutenir le développement des règles de droit international en la matière. La Vision Stratégique 2025 stipule à cet égard: "En ce qui concerne les systèmes d'armement létaux autonomes (lethal autonomous weapon systems), la Défense contribuera à la clarification des règles du droit international, afin d'en garantir le respect dans le cadre de leur éventuel déploiement futur. À ce stade, la Défense ne dispose pas de tels systèmes autonomes. b) La Défense dispose d'une Commission pour l'Évaluation Juridique des nouvelles armes, moyens ou méthodes de guerre. Cette commission met en oeuvre l'article 36 du Premier Protocole additionnel de 1977 aux Conventions de Genève. Parallèlement, la Belgique participe activement aux discussions internationales dans le cadre de la Convention sur Certaines Armes Classiques, où l'objectif est d'aboutir à un instrument juridiquement contraignant concernant les armes autonomes. La Belgique défend à cet égard le principe de meaningful human control en tant que norme éthique et opérationnelle. La position belge est que le maintien d'un contrôle humain significatif sur les fonctions critiques des systèmes d'armes demeure essentiel lors de l'emploi de systèmes d'armes autonomes. Il reste toutefois nécessaire d'attendre l'établissement d'un cadre juridique international avant de pouvoir élaborer des directives ciblées au niveau national. c) Le Chief Information Office travaille actuellement à l'élaboration d'une politique interne relative à l'intelligence artificielle (IA). Cette politique prendra en compte tant les facteurs classiques d'évaluation des risques que le cadre éthique y afférant, et s'appuiera sur les principes d'utilisation responsable tels que définis dans la stratégie révisée de l'OTAN en matière d'IA (cf. Sommet de Washington, juillet 2024): légalité, responsabilité, intelligibilité et traçabilité, fiabilité, gouvernabilité et atténuation des biais. 4. La Défense, en collaboration avec le SPF des Affaires étrangères, a établi des lignes directrices dans le document national intitulé Guidelines for Belgian delegations involved in the discussions on Autonomous Weapons Systems. Ces lignes directrices reposent sur une approche à deux volets: - l'interdiction des systèmes d'armes entièrement autonomes dépourvus de contrôle humain et ne pouvant être utilisés conformément au Droit International Humanitaire; - la régulation des systèmes partiellement autonomes au moyen de garanties techniques, éthiques et juridiques relatives à la traçabilité, à la supervision humaine et à la responsabilité. Au niveau européen, le Comité Politique et de Sécurité a demandé au Service européen pour l'action extérieure d'élaborer une feuille de route pour la mise en oeuvre de l'IA dans le cadre de la politique étrangère et de sécurité commune (PESC) et de la politique de sécurité et de défense commune (PSDC). Cette feuille de route comprend une vision, des objectifs clés, des orientations stratégiques ainsi qu'un cadre d'actions prioritaires coordonnées et des recommandations concernant l'IA dans la politique étrangère, la sécurité et la défense. Elle met en évidence l'impact critique des développements liés à l'IA sur la géopolitique, la sécurité et la défense, et propose un cadre coordonné pour des évaluations régulières des effets géopolitiques, des menaces, des défis et des opportunités liés à l'IA. L'objectif est d'accélérer l'utilisation sûre et efficace de l'IA dans le cadre de la PESC et de la PSDC, tout en participant activement aux initiatives mondiales et aux partenariats harmonisés autour de l'IA - en parfaite conformité avec les objectifs stratégiques et les valeurs de l'Union européenne, selon une approche centrée sur l'humain et dans le respect du droit international, en particulier du droit international humanitaire et des droits de l'homme, ainsi que des valeurs de démocratie, d'État de droit et de droits fondamentaux.