Des articles récents publiés dans la presse internationale ont mis en évidence le fait que les plateformes d'IA sont de plus en plus confrontées à des situations où des utilisateurs expriment des intentions potentiellement violentes. Cette évolution met en lumière une tension fondamentale entre, d'une part, la protection de la vie privée et, d'autre part, les impératifs de sécurité et de prévention. Parallèlement, on a de plus en plus le sentiment que les entreprises d'IA ne sont plus de simples fournisseurs de technologies, mais deviennent progressivement des acteurs jouant un rôle dans le paysage sécuritaire au sens large, ce qui soulève d'importantes questions juridiques et démocratiques. 1. a) Comment évaluez-vous cette tension entre vie privée et sécurité lorsque des entreprises d'IA détectent des signaux potentiellement inquiétants chez leurs utilisateurs? b) Existe-t-il, en Belgique ou à l'échelon européen, des lignes directrices ou des procédures claires à ce sujet? 2. La Belgique a-t-elle déjà connu des cas où des entreprises d'IA ou des plateformes numériques ont contacté les services de police à la suite de menaces potentielles ou d'intentions violentes détectées par des systèmes d'IA? Dans l'affirmative, combien de cas ont été recensés depuis 2020, et sur quelle base juridique ces signalements ont-ils été effectués? 3. a) Quelle procédure s'applique actuellement en Belgique ou au sein de l'Union européenne pour déterminer dans quelles circonstances une entreprise d'IA peut - ou doit - contacter les autorités? b) Qui décide en pratique en cas d'escalade: des systèmes automatisés, des modérateurs humains ou la direction de l'entreprise concernée? c) Existe-t-il des accords ou des protocoles formels avec les services de sécurité belges à ce sujet? 4. a) Le gouvernement fédéral ou les institutions européennes envisagent-ils d'imposer aux entreprises d'IA une forme d'obligation de signalement en cas de menaces potentielles? b) Comment éviter que de telles obligations ne portent atteinte de manière disproportionnée à la vie privée ou n'entraînent des risques de profilage automatisé? 5. a) Comment percevez-vous l'évolution selon laquelle les plateformes d'IA sont de plus en plus considérées comme des sortes de "gardes-barrière" dans le cadre des politiques de sécurité? b) Cette évolution vous semble-t-elle souhaitable d'un point de vue démocratique et juridique? 6. Enfin, comment éviter qu'une réglementation adoptée en réaction à des incidents isolés ne conduise à une surréglementation, avec des effets secondaires potentiels tels que des attentes dignes d'un État de surveillance ou un seuil de signalement trop bas qui mettrait la liberté d'expression sous pression?
B048
Je tiens à rappeler que toute utilisation de technologies d'intelligence artificielle impliquant le traitement de données à caractère personnel doit, en toutes circonstances, respecter strictement les principes de protection de la vie privée, ainsi que les exigences de légalité, de nécessité et de proportionnalité, propres à une société démocratique. La détection de signaux tels que des risques de violence, de suicide ou d'activités criminelles, implique une mise en balance délicate entre deux impératifs fondamentaux, à savoir le respect de la vie privée, consacré par de nombreux instruments juridiques nationaux et internationaux et la protection de la sécurité publique et des personnes. Toute ingérence dans la vie privée ne peut se justifier que si elle est strictement encadrée, transparente et proportionnée. À cet égard, une surveillance généralisée des comportements présente des risques importants, notamment en termes de faux positifs, de biais algorithmiques et d'atteinte à la liberté d'expression, tandis qu'une absence totale d'intervention pourrait également engendrer des risques significatifs pour la sécurité. À ce jour, il n'existe pas de cadre spécifique, en Belgique ou au niveau européen, définissant des protocoles opérationnels précis pour la détection et la remontée de tels signaux par des entreprises d'intelligence artificielle. Néanmoins, plusieurs instruments juridiques apportent des balises importantes. Le règlement européen sur l'intelligence artificielle (AI Act) adopte une approche préventive fondée sur l'analyse et la limitation des risques, notamment par des obligations d'évaluation et d'atténuation. Par ailleurs, le Digital Services Act prévoit que les grandes plateformes doivent informer les autorités répressives lorsqu'elles ont connaissance d'informations laissant soupçonner une infraction pénale grave impliquant une menace pour la vie ou la sécurité des personnes, sans pour autant imposer une obligation générale de surveillance ou de recherche active de telles infractions. En ce qui concerne les cas concrets en Belgique où des entreprises d'intelligence artificielle ou des plateformes numériques auraient contacté les services de police, les informations disponibles relèvent des compétences de mon collègue, le ministre de l'Intérieur. Je vous invite dès lors à lui adresser cette partie de la question. De même, les éventuels accords formels ou protocoles avec les services de sécurité ou de renseignement relèvent de la compétence de ma collègue, la ministre de la Justice. En pratique, l'éventuelle remontée d'informations repose aujourd'hui principalement sur les politiques internes des entreprises concernées, combinant généralement des systèmes automatisés de détection et une intervention humaine pour l'évaluation et la décision d'escalade. Aucun cadre harmonisé ne définit à ce stade une procédure uniforme applicable à l'ensemble des acteurs. S'agissant de l'éventualité d'une obligation de signalement, les réflexions en cours, tant au niveau national qu'européen, s'inscrivent dans la recherche d'un équilibre entre efficacité en matière de prévention et respect des droits fondamentaux. Plus largement, l'évolution qui tend à considérer certaines plateformes comme des acteurs jouant un rôle accru dans le paysage sécuritaire doit rester prudente. Si ces entreprises exercent une responsabilité sociétale croissante en raison de leur rôle dans l'accès à l'information et la diffusion des contenus, elles ne peuvent en aucun cas se substituer aux autorités publiques ni aux institutions démocratiquement légitimées pour l'appréciation de la légalité des contenus. Enfin, je souligne qu'il est essentiel d'éviter toute réglementation fondée sur des incidents isolés. L'action publique doit rester guidée par une approche proportionnée, fondée sur les risques, et respectueuse des libertés fondamentales, afin de prévenir toute dérive vers des mécanismes assimilables à une surveillance généralisée ou à une restriction excessive de la liberté d'expression.