Un monde de tech

• Reconnaissance faciale: 300 000 sportifs en France scannés à leur insu

  Depuis au moins un an, plusieurs centaines de milliers de Français ont été scannés, à leur insu, par un système de reconnaissance faciale. Ce dispositif a été déployé à l'occasion de courses à pied dans l'espace public réunissant des milliers de sportifs amateurs et de spectateurs. Mais petit problème, la collecte de données biométriques par un système d'intelligence artificielle est une pratique totalement interdite dans l'Union européenne. La jeune pousse PhotoRunning est l'une des principales entreprises du secteur de la reconnaissance faciale en France. La société propose aux participants d'un événement sportif, principalement des courses à pied amateurs, de retrouver sur le site de l'entreprise toutes les images de leurs exploits. Jusqu'ici, pas de problème sur les intentions louables de ce service en ligne.Mais voilà : afin que le programme d'intelligence artificielle (IA) soit efficace et délivre les clichés aux intéressés, tous les visages, des coureurs aux spectateurs jusqu'aux simples passants, ont été préalablement analysés par le système de reconnaissance faciale de l'entreprise. Ce recueil de données biométriques a été appliqué lors de 48 courses au cours des 12 derniers mois.Environ 320 000 visages de personnes ont ainsi été enregistrés dans les bases de données sur les serveurs de PhotoRunning. Certaines courses couvertes par le dispositif de l'entreprise concernaient des épreuves réservées spécifiquement aux mineurs. Les données biométriques d'au moins 3 000 jeunes participants ont été ainsi collectées par le programme IA.La banalisation de la vidéosurveillance pilotée par IADepuis les JO de Paris, le sport est devenu le terrain expérimental préféré des technologies de vidéosurveillance pilotées par IA, mais avec une nuance de taille : le traitement informatique des images vidéo utilisé pendant les JO permettait d'identifier automatiquement des « événements » qualifiés d'anormaux, comme des mouvements de panique dans une foule, ou de pouvoir suivre les déplacements d'individus suspects.La vidéosurveillance par IA des JO n'utilisait pas la reconnaissance faciale, nous rappelle Philippe Blanc, responsable des analyses vidéo chez Eviden, une société de cybersécurité : « La différence fondamentale entre la reconnaissance faciale et la reconnaissance comportementale, qui est pilotée par IA, est que dans un cas, le dispositif de vidéosurveillance identifie des personnes par rapport à leur visage et par rapport à une liste de référence. Dans l'autre cas, les systèmes se concentrent plutôt sur des analyses de mouvements de personnes. Par exemple, pour repérer des chutes dans une foule ou pour localiser des comportements anormaux de type violence qui seraient perpétrés par des groupes d'individus. En revanche, les technologies de reconnaissance faciale qui sont basées sur l'analyse des visages permettant de constituer une base de données biométriques sont aujourd'hui interdites en France et dans tous les pays de l'Union européenne. »Le RGPD interdit l'utilisation de la reconnaissance faciale dans l'espace publicLes organisateurs des manifestations sportives qui ont employé le système PhotoRunning affirment qu'ils ignoraient que ce dispositif de reconnaissance faciale collectait les données biométriques de tout le monde. Mais cet argument ne tient pas. Que ce soit du côté des organisateurs ou celui de l'entreprise française, nul n'est censé ignorer le règlement général sur la protection des données en vigueur depuis 2018 dans tous les pays de l'UE. Le RGPD interdit formellement l'utilisation de la reconnaissance faciale dans l'espace public, sauf exception, pour des raisons de sécurité. Cette autorisation est fortement encadrée et soumise aux autorités compétentes.Par ailleurs, ces mesures exceptionnelles exigent d'obtenir le consentement explicite et non contraint des personnes scannées par ce type de dispositif. Et c'est bien là le problème : à force de toujours minimiser, pour des raisons de facilité d'usage, la reconnaissance faciale dans l'espace public, la surveillance de masse par IA deviendra bientôt la norme dans nos sociétés. Avec ce risque certain que la vie privée des citoyens, en dehors du regard analytique des caméras pilotées par IA au quotidien, ne devienne un jour prochain une infraction, qu'il conviendrait peut-être de sanctionner. Et que nos parcours santé soient systématiquement surveillés.

  --------  
• Comment la Russie a «infecté» les programmes d'intelligence artificielle d'Occident

  Alors que campagnes russes visant les réseaux sociaux et les médias traditionnels sont désormais bien documentées, le Kremlin a développé un système de propagande plus subtil. Il consiste à influencer les réponses que délivrent les programmes d'intelligence artificielle (IA) dite générative. La plupart des IA occidentales seraient ainsi contaminées par les infox de Moscou, révèle une étude menée par la plateforme web NewsGuard, spécialisée dans l'analyse de la fiabilité des sites d'information. Jusqu'à présent, les trolls à la solde de Moscou employaient des programmes IA pour les aider à diffuser en masse leurs messages de propagande sur les réseaux sociaux. Mais une nouvelle méthode pour effectuer plus discrètement ce trafic d'influence a été révélée par la plateforme américaine NewsGuard. La technique consiste à s'attaquer directement aux agents conversationnels IA que nous utilisons quotidiennement.Pour réaliser ce type d'intrusion, la Russie a créé une organisation portant le nom de Pravda. Le terme russe, qui signifie « vérité », désigne un immense réseau de désinformation, qui a été lancé en avril 2022. L'organisation est entièrement gérée depuis Moscou. Son objectif n'est plus seulement d'influencer directement les internautes sur les réseaux sociaux ou de publier des faux articles sur les sites web, mais de bien manipuler les modèles de langage des programmes d'intelligence artificielle.Une dizaine d'IA passées au crible par NewsGuardNewsGuard a mené son enquête en testant méthodiquement les dix principaux dispositifs conversationnels par IA utilisés actuellement. L'examen approfondi des informations délivrées par ChatGPT d'OpenAI, Claude d'Anthropic, Grok d'Elon Musk, Chat de Mistral, Gemini de Google ou encore Copilot de Microsoft, a révélé le pot aux roses. Toutes ces IA seraient désormais sous influence russe, indique NewsGuard et d'autres ONG. Concrètement, pour réussir à manipuler les modèles d'apprentissages des IA génératives, les hackers du groupe Pravda ont eu recours à une technique dénommée le « LLM Grooming ».Le procédé consiste à saturer les jeux de données d'entraînement des IA avec des informations biaisées en publiant massivement des messages truqués en ligne. Par exemple, en soumettant 10 milliards de fois le message à une IA que l'image du drapeau russe figure sur tous les pelages des chats dans le monde, le programme finira par transmettre cette affirmation mensongère à ses utilisateurs. Évidemment, les trolls du groupe Pravda, qui ont bien d'autres chats à fouetter, cherchent plutôt à ce que les IA diffusent des contre-vérités en reprenant les narratifs prorusses à grande échelle.Les menaces de la Russie sur les IA sont problématiques, estime l'UECe phénomène de contamination des IA est d'autant plus inquiétant que les États-Unis ont indiqué vouloir mettre en pause leurs opérations de cybersécurité à l'encontre de la Russie.En revanche, l'Union européenne (UE) a précisé mardi 18 mars que la Chine et la Russie ont recours à un « arsenal numérique massif » de plus en plus sophistiqué pour s'ingérer et manipuler les démocraties occidentales. Cette déclaration a été formulée juste avant les tractations par téléphone entre les présidents Donald Trump et Vladimir Poutine. Si elles ont abouti à l'éventualité d'un cessez-le-feu de 30 jours, cette trêve est d'une portée très limitée, ne concernant, par exemple, que la suspension des frappes sur les sites énergétiques de l'Ukraine.

  --------  
• Les géants européens de la tech lancent un appel urgent pour un fonds souverain

  Que ce soit dans les domaines industriels, militaires ou ceux des services en ligne, l'Europe est fortement dépendante des technologies chinoises et étasuniennes. C'est la raison pour laquelle Airbus, Dassault Systèmes et plus de 90 entreprises des pays de l'Union européenne exhortent la Commission européenne à créer un fonds d'infrastructure souverain. Cette lettre ouverte a été envoyée à la patronne de la Commission européenne, Ursula von der Leyen, vendredi 14 mars 2025, avant d'être révélée par l'agence de presse Reuters lundi 17 mars. Les signataires soulignent l'urgence pour Bruxelles de prendre des mesures drastiques afin de maintenir l'autonomie stratégique de l'Union européenne (UE) dans les secteurs clés de la tech. Un appel qui intervient alors que les tractations entre la Russie et les États-Unis sur le conflit ukrainien entrent en zone de turbulences.Dans le secteur des technologies de défense, l'Europe dépend fortement du système militaire américain. Des avions de chasse aux satellites en passant par l'artillerie, les munitions et les télécommunications, la plupart de ces dispositifs sont soumis aux contrôles stricts des États-Unis. Cette domination serait à ce titre plus que criante dans le secteur de l'aviation de chasse, avec pas moins de 13 pays de l'UE déjà engagés dans l'acquisition de F-35. Mais petit problème : l'efficacité de cet avion furtif repose sur la gestion de très nombreuses données tactiques qui sont hébergées dans des centres spécifiques aux États-Unis.Les dépendances technologiques américaines ou chinoises grèvent l'économie européenne« L'Europe doit reprendre l'initiative sur le plan technologique à tous les niveaux de son infrastructure numérique essentielle », estiment les signataires dans leur lettre ouverte. Ils pointent les faiblesses de l'UE dans le domaine des logiciels, des applications pour mobiles, des plateformes dites de services numériques, dont la plupart hébergent, voire financent des médias sur le sol européen.Un marché de la tech qui conditionne aussi la distribution des programmes de l'intelligence artificielle. Du côté des productions matérielles, ce n'est guère mieux. La fabrication de semi-conducteurs, de processeurs de calcul haute capacité, d'unités de stockage des données et de matériel de connectivité ultrarapide servant, par exemple, au secteur bancaire, sont opérés en dehors du territoire européen. En conséquence, les industriels de la tech dans l'UE doutent de nos réelles possibilités à développer des technologies souveraines et innovantes.La concurrence acharnée de la Chine dans les domaines des hautes technologies, mais également dans les secteurs des réseaux énergétiques et des médicaments essentiels, assombrissent ce tableau peu reluisant de la compétitivité européenne dans les domaines du numérique.La souveraineté numérique impose d'acheter européenLes géants européens de la tech réclament que les gouvernements de l'UE adoptent une politique de préférence nationale dans leur investissement public. Mais force est de constater que les commandes de chasseurs américains effectuées par certains pays de l'UE se situent aux antipodes du plan de souveraineté numérique qu'ils préconisent.Toutefois, les signataires ont bien précisé à Bruxelles que l'objectif de cette missive n'est pas d'exclure des acteurs non-européens. Ils prônent plutôt de créer un espace dans la zone euro dans lequel les entreprises de l'UE des hautes technologies peuvent plus facilement concurrencer leurs homologues internationaux. Les signataires de la lettre concluent que, sans un fonds d'infrastructure souverain, c'est la croissance économique de la zone euro qui risque de s'affaiblir.

  --------  
• Dans les pays baltes, vers une interdiction totale de TikTok?

  Les services de renseignement des pays baltes l'ont tous souligné dans leurs derniers rapports, l'influence chinoise est très préoccupante. Raison pour laquelle ils envisagent de plus en plus d'interdire le réseau chinois TikTok. Si TikTok est de moins en moins accessible, ils visent une interdiction large. De notre correspondante dans les pays baltes, En 2023, le ministère letton des Affaires étrangères a décidé d’interdire l’installation de l'application TikTok sur les téléphones professionnels de ses employés. Une initiative prise suite à une décision similaire de la Commission européenne. L’Estonie a suivi le mouvement, interdisant l’application pour tous les fonctionnaires.En Lituanie, aucune interdiction, mais une forte recommandation de la part des autorités de ne pas utiliser ce réseau qui vient de Chine, notamment parce que les éléments publiés sur le réseau peuvent se retrouver entre les mains de services de renseignements chinois.À lire aussiLa Commission européenne demande à ses employés de désinstaller TikTok de leurs téléphonesInterdire le réseau pour tout le monde ?L’été dernier, une pétition a été lancée sur le site letton Mana balss, ce qui veut dire « Ma voix ». Si la pétition recueille plus de 10 000 voix, le Parlement letton sera dans l’obligation de l’étudier. En un peu plus de six mois, la moitié des signatures nécessaires a été collectée. La raison de cette initiative :  la propagande russe se sert du réseau TikTok pour glorifier la guerre en Ukraine et diffuser sa désinformation.Mi-janvier, c’est le ministre des Affaires étrangères estonien qui a appelé à une interdiction générale pour les mêmes raisons : TikTok est l’un des vecteurs de la désinformation venue de Russie. On a vu lors des précédentes élections en Roumanie que la Russie s’était servie de ce réseau pour s’immiscer dans la campagne et favoriser son candidat. Dans cette région limitrophe de la Russie, cela inquiète.À écouter dans Les dessous de l'infoxRoumanie: Tik Tok et Meta sur la sellette, après l'annulation de la présidentielleLa désinformation, l’une des menaces pointées par les autoritésLe début de l’année dans les pays baltes, c’est la saison de la publication des rapports des services de renseignement. Par exemple, dans le rapport letton, un chapitre entier est consacré à ce sujet : les autorités lettones relèvent que le réseau TikTok est devenu un lieu où se déversent la propagande russe contre les Baltes et les Ukrainiens et la propagande pro-guerre. Autre fait inquiétant : les autorités constatent que le niveau d’agressivité verbale est plus élevé que sur le réseau Facebook. Quant à la Chine, elle utilise aussi la plateforme TikTok dans les pays baltes, principalement pour redorer son image auprès de la population lettone, et surtout des jeunes, puisque la Chine soutient la Russie dans sa guerre contre l’Ukraine. Ce que le pays cherche, selon les autorités lettones, est de façonner un public bienveillant pour mettre en œuvre ses objectifs de politique étrangère pour affaiblir les liens de la Lettonie avec l’Union européenne et les États-Unis.À écouter dans 8 milliards de voisinsFaut-il interdire TikTok ?

  --------  
• IA, la singularité technologique se rapproche (dangereusement)

  Les évolutions des programmes d'intelligence artificielle (IA) comme ChatGPT d’OpenIA, Gemini de Google ou encore Grok, lancé par Elon Musk, nous démontrent que dans certains cas, encore limités, ces systèmes informatiques sont plus perspicaces que les humains. D’où une question existentielle, sommes-nous à la veille de la « singularité » technologique ? Ce concept désigne ce moment de bascule quand les machines pourront faire jeu égal avec l’esprit humain. Alors que des algorithmes aux fonctions basiques dans les centres de données dominaient déjà le monde par réseau interposé, les nouveaux programmes IA sont parvenus à doter nos ordinateurs et nos mobiles d’un embryon d’intelligence. Des IA à tout faire en quelque sorte, mais omniprésentes, qui sont pilotées par les internautes à distance en empruntant toujours les chemins de l’Internet. Toutefois, les évolutions rapides de l’IA inquiètent de nombreux scientifiques et personnalités du monde de la high-tech. Ils estiment que « le déploiement hors contrôle de ces programmes, conduirait à l'extinction de l’Humanité ». Mais même pas peur !  Car le concept de la « singularité » technologique, prévoyant que l’intelligence des machines dépassera celle des humains, varie énormément dans l’esprit des chercheurs et des concepteurs des programmes IA.Certains d’entre eux spéculent que ce point de rupture entre nous et les machines pourrait apparaître dès l’année prochaine, d’autres estiment qu’il ne surviendrait pas avant 2040 ou bien plus tard.Remarquons cependant que tous s’accordent pour signaler que ce moment arrivera forcément un jour ou l’autre, au simple constat des progrès phénoménaux des technologies IA.La création d’une IA dite générale, plus rapide que prévuEt là, fini de rire !, car ces programmes seraient capables d’accomplir toutes les tâches humaines avec une intelligence comparable à la nôtre. Pire, elles seraient en mesure de s’améliorer d’elles-mêmes à un rythme exponentiel. Et une fois la mise en fonction d’une intelligence artificielle générale, siglée AGI, ces programmes auront la capacité de concevoir des versions encore plus puissantes d’elles-mêmes. « Cette évolution sera plus rapide que prévu », estimait lors d’une conférence organisée par la société américaine de fonds d'investissement alternatif Citadel, Eric Schmidt, l’ancien PDG de Google : « La prochaine phase de développement des IA concerne les agents intelligents. Actuellement, il semble que ces systèmes soient capables de faire de la physique, de la chimie et ainsi de suite, au niveau de 80 à 90 % d'un doctorant dans ces domaines, ce qui est considérable. À ce stade, il est relativement simple d'imaginer que ce type de modèles IA pourrait devenir capable de prendre ses propres décisions et de tracer sa propre voie sans intervention humaine. Tout cela se produira dans les 5 à 6 ans et c’est fascinant. Toutefois, nous pouvons envisager ce scénario possible dans lequel ce genre de programme serait interdit de déploiement, car considéré comme trop dangereux pour nos sociétés. »Des dispositifs de sécurité pour débrancher les IA nuisibles aux humainsLes dernières évolutions des programmes IA soulèvent des inquiétudes dans la communauté scientifique. Comment garantir que ces systèmes restent bénéfiques et sous contrôle humain ? Telle est la question ! Question à laquelle ont tenté de répondre 2 700 chercheurs dans une étude prédisant que l’IA générale n’apparaîtrait pas avant 2060. Mais ils insistent aussi sur les risques existentiels que font courir ces programmes super-intelligents à la civilisation humaine. Les plus pessimistes d’entre eux estimant que l’humanité doit réfléchir dès maintenant aux dispositifs de sécurité qui permettraient de les débrancher si ces IA échappaient à notre contrôle.À lire aussiLe site des alternatives européennes au numérique américain

  --------  

About Un monde de tech