L'essor de l'intelligence artificielle (IA) ne nous est plus étranger. L'IA offre des avantages économiques et sociaux, mais elle présente également des inconvénients en ce qu'elle représente un défi croissant pour notre sécurité (intérieure) et l'intégrité de l'information. Des exemples récents montrent comment l'on recourt à des outils d'IA permettant de créer des images et des vidéos trompeuses qui manipulent l'opinion publique, sapent la confiance dans les médias et les institutions politiques et peuvent même influencer potentiellement des élections. Des informations faisant état de l'utilisation abusive de l'IA et de la technologie deepfake sont récemment parues dans la presse: le présentateur du journal télévisé de la VRT Wim De Vilder qui fait la promotion d'une plateforme d'investissement secrète, le président ukrainien Zelensky qui aurait acheté un appartement de luxe pour sa mère, un convoi de la marche en route vers Gaza et même vous, notre premier ministre, que l'on peut voir dans de fausses publicités faisant la promotion de diverses plateformes d'investissement sur les réseaux sociaux. Ce ne sont là que quelques exemples, mais toutes ces informations sont parues dans un laps de temps de moins de deux mois. Ces exemples ont ou peuvent avoir de sérieuses conséquences collectives et individuelles. 1. Le SPF Intérieur, le Centre pour la Cybersécurité Belgique ou la Sûreté de l'État recueillent-ils systématiquement des données relatives à de tels incidents impliquant des deepfakes et de la désinformation générée par l'IA en Belgique? Pouvez-vous fournir un relevé du nombre d'incidents recensés depuis 2019? 2. A-t-on une idée de la provenance de ces vidéos hypertruquées et de cette désinformation générée par l'IA? Examine-t-on par exemple dans quelle mesure ces vidéos et cette désinformation sont liées à des activités étrangères, à des réseaux criminels organisés, etc.? 3. Les diffuseurs ou les créateurs d'une telle désinformation peuvent-ils faire l'objet de poursuites judiciaires? 4. Quelles mesures prend-on pour assurer la résilience de la population face à cette nouvelle forme de désinformation numérique? La distinction n'est plus toujours aussi claire, comment notre société va-t-elle faire face à cette situation? 5. Comment évaluez-vous l'incidence de telles vidéos hypertruquées et d'une telle désinformation générée par l'IA sur nos élections? 6. Pouvez-vous fournir un relevé du nombre de faits de hameçonnage enregistrés causés par de telles vidéos hypertruquées et par une telle désinformation générée par l'IA? Pourriez-vous fournir un relevé présentant une ventilation par province, par année et par tranche d'âge? Pour la Flandre occidentale, pourriez-vous fournir un relevé par zone de police?
B026
Le Centre pour la Cybersecurité Belgique (CCB) a coordonné les réponses suivantes avec le Centre de crise National (NCCN), la Sûreté de l'État (VSSE), le Service général du Renseignement et de la Sécurité (SGRS) et la police fédérale, compte tenu des différentes compétences concernées. 1. Le CCB ne collecte pas de données sur les incidents liés aux deepfakes et à la désinformation générée par l'intelligence artificielle (IA) en Belgique. La police fédérale mentionne deux approches à prendre en considération en ce qui concerne les deepfakes et l'IA. La première approche concerne les "menaces hybrides": la diffusion de fausses informations afin d'influencer l'opinion publique, de semer le doute et la confusion dans l'esprit du grand public et de brouiller ainsi la distinction entre la vérité et le mensonge. En fin de compte, l'objectif est politique. Plusieurs rapports étrangers font état d'acteurs étatiques opérant dans l'ombre: la Russie, la Chine, la Corée du Nord, etc. En ce qui concerne la désinformation et l'ingérence étrangère utilisant l'IA et les deepfakes pour déstabiliser notre société, la police fédérale n'est actuellement pas habilitée à enquêter sur l'origine de ces phénomènes ni à lutter contre ceux-ci. Cette compétence est réservée aux services de renseignements civils et militaires, ainsi qu'à l'Organe de Coordination pour l'Analyse de la Menace (OCAM) et au NCCN. La police fédérale collabore avec ces services dans le cadre de la lutte contre les "menaces hybrides" dont les tentatives d'ingérence et de désinformation visant à déstabiliser notre société, soutenues par l'IA et les deepfakes, font partie intégrante. Lorsque certaines informations relatives à ce type de dossiers sont adressées au National Intelligence Center (NIC) de la Direction centrale de la lutte contre la criminalité grave et organisée de la police judiciaire fédérale (DJ SOC), elles sont immédiatement transférées aux services partenaires concernés (chargés d'enquêter sur ces activités) et utilisées, en respectant la confidentialité, dans le cadre de l'image permanente. En effet, toutes les informations relatives à ce sujet sont importantes pour le NIC afin d'avoir une vue la plus complète possible du phénomène des "menaces hybrides" au sens le plus large du terme (y compris l'utilisation des deepfakes pour déstabiliser la société), au profit de nos autorités publiques. Dans le contexte de la criminalité informatique et/ou de la fraude internet, les deepfakes et l'IA sont généralement utilisés pour tromper la victime en améliorant la structure, la plausibilité et la crédibilité des messages frauduleux. L'objectif est d'obtenir un avantage financier. Dans le cadre de cette problématique, Europol ou le réseau SIIMI peuvent être consultés pour obtenir de l'aide examiner les différentes possibilités. La Banque de données nationale générale (BNG) est une base de données policières dans laquelle sont enregistrés les faits sur la base de procès-verbaux résultant des missions de police judiciaire et administrative. Elle permet de réaliser des comptages sur différentes variables statistiques telles que le nombre de faits enregistrés, les modus operandi, les objets liés à l'infraction, les moyens de transport utilisés, les destinations de lieu, etc. Sur la base des informations disponibles dans la BNG, il n'est pas possible d'extraire de la base de données les faits pour lesquels des deepfakes ont été utilisés. La VSSE n'a pas vocation à dénombrer les éventuels incidents liés à ces techniques. Par contre, la VSSE dans le cadre de ses missions attribuées par la loi organique des services de renseignement et de sécurité se doit de lutter contre les actions d'espionnage et d'ingérence à l'encontre des intérêts de la Belgique. Dans ce cadre, des coordinations nationales existent sous le CCRS pour échanger sur le phénomène de la désinformation afin que chaque partenaire puisse, selon son expertise, apporter sa contribution à une compréhension de ce phénomène de désinformation et agir en fonction de ses compétences. 2. La désinformation et les deepfakes peuvent être générés par l'ensemble des acteurs ayant un accès à cette technologie et l'intention de s'en servir. Cela peut aller de l'acteur individuel jusqu'à des structures (para-)étatiques. Dans le cadre des missions de la VSSE en lien avec la loi organique des services de renseignement et de sécurité, ce phénomène est transversal et peut provenir d'organisations terroristes exogènes au territoire belge, des groupements ou des mouvances représentant des menaces en termes d'extrémisme mais aussi d'acteurs étatiques hostiles. L'utilisation de ces techniques ne se limite évidemment pas à ces menaces citées dans la loi organique des services de renseignement et de sécurité. Ces techniques sont largement utilisées pour toutes sortes de finalités. L'accessibilité et la convivialité des outils d'IA ont donné lieu à une augmentation du nombre de vidéos deepfakes et de fausses informations générées par l'IA. Vu que ces produits peuvent être facilement fabriqués, nous constatons que des particuliers, ainsi que des acteurs étatiques, sans lien officiel avec un État, les diffusent. Cependant, en raison de leur méthode de travail (via des tiers ou par anonymisation), l'origine de ces vidéos et fausses informations est difficile à déterminer ou à tracer. 3. Pour ce point, je vous renvoie à la ministre de la Justice. 4. Rendre la population résiliente face à la désinformation numérique est un défi, d'autant plus que l'IA générative redonne vie à d'anciennes techniques d'attaque telles que l'ingénierie sociale et le phishing. Ces technologies offrent aux hackers des possibilités inédites de dissimuler leur identité. Pour y répondre, la nouvelle stratégie de cybersécurité accordera une attention particulière aux identités numériques. Le CCB a élaboré, avec 40 partenaires, une nouvelle Stratégie Nationale de Cybersécurité 3.0. Par ailleurs, dans le cadre des élections de 2024, le CCB, la VSSE et le SGRS ont publié conjointement la brochure Surfer en toute sécurité, qui explique les menaces actuelles et fournit des conseils pratiques pour reconnaître la désinformation et les deepfakes. Des plateformes telles que safeonweb.be informent les citoyens sur la manière dont ils peuvent détecter les fausses informations et s'en protéger (p. ex. Les Deepfakes: comment les reconnaître et s'en protéger?, Apprenez à reconnaître la désinformation). De cette manière, le CCB met l'accent sur l'éducation aux médias, la réflexion critique et la reconnaissance des sources d'information fiables, afin que les citoyens soient mieux armés contre la désinformation numérique. 5. Afin de connaître la situation de la Belgique en matière de risques, le NCCN coordonne périodiquement une évaluation des risques, à laquelle le CCB participe en tant qu'expert. Dans cette évaluation belge des risques nationaux (le Belgian National Risk Assessment - BNRA), établie périodiquement, la désinformation générée par l'IA et les deepfakes sont considérés comme relevant du risque des "opérations d'information". Le BNRA définit ce risque comme suit: "des actions visant à influencer l'information et/ou les systèmes d'information afin de parvenir à modifier 1) la capacité d'action, 2) la compréhension de la situation et 3) la capacité de réaction de l'adversaire (potentiel). Une modification de l'un de ces trois facteurs suffit à perturber les capacités de l'adversaire". Cette évaluation des risques nationaux considère l'intelligence artificielle comme un risque émergent susceptible d'avoir un effet catalyseur sur d'autres risques. Elle pourrait notamment renforcer la désinformation. Dans le cadre des élections fédérales, régionales et européennes du 9 juin 2024, le NCCN et la Direction générale Identité et Affaires citoyennes (DGIAC) ont réalisé une analyse de risques spécifique, dans laquelle différents risques, dont la désinformation relative aux élections, ont été évalués par des experts de services partenaires, dont le CCB, sur la base de leur probabilité et de leur impact. Le risque de désinformation a été jugé élevé dans le scénario où un acteur hostile tente d'atteindre ses objectifs stratégiques en menant une campagne d'influence coordonnée pendant la période électorale. Celle-ci pourrait viser à influencer les résultats des élections avant le scrutin ou à miner la confiance dans les résultats après le scrutin. Au cours des différentes élections de 2024, aucune augmentation du recours à la désinformation générée par l'IA n'a été détectée. Celle-ci n'a probablement pas eu d'impact significatif. Vu les évolutions technologiques, notamment en termes d'IA, couplées à l'instabilité importante de la situation géopolitique internationale, l'utilisation de la désinformation par des acteurs étatiques étrangers reste un sujet d'attention pour les partenaires du Comité de coordination du renseignement et de la sécurité. 6. Sur la base des informations disponibles dans la BNG, il n'est pas possible d'extraire de la base de données les faits pour lesquels des deepfakes ont été utilisés.