Un monde de tech

• L'utilisation de l'IA dans l'administration a de graves conséquences sur le respect des droits

  L’intelligence artificielle (IA), utilisée pour rendre plus efficace le fonctionnement du secteur public, faire des économies ou encore simplifier la tâche des usagers, a de fortes conséquences sur nos vies et celle de l’administration. Ainsi, de nombreux outils faisant appel à des algorithmes sont employés dans l’administration. Et si cette révolution n’en est qu’à ses débuts, elle suscite déjà des réserves. En France, c’est la défenseure des droits, Claire Hédon, qui exprime son inquiétude dans son rapport annuel d’activité pour 2024. La défenseure des droits, qui s’applique à protéger les droits de chacun, s’inquiète notamment de « la dématérialisation à marche forcée des services publics » et réclame plus de transparence sur l’utilisation de l’IA par l’administration. Selon le rapport, il faut donner aux usagers « la possibilité d’interagir avec l’administration par plusieurs canaux et pas seulement via le numérique. »Le cas symptomatique de l’Anef Pour aider un demandeur d’emploi à rédiger un CV, à mieux cibler un poste, à effectuer des démarches, l’IA peut être utile. Du côté de l’administration, elle peut aider à déterminer plus facilement qui a droit à une allocation ou à répondre en ligne plus efficacement aux demandes du public. Mais assez fréquemment, l’automatisation et la dématérialisation débouchent sur des dysfonctionnements, voire des impasses. L’Administration numérique pour les étrangers en France, l’Anef, est un cas symptomatique.Si le problème est désormais connu, la défenseure en détaille les conséquences : « Les ressortissants étrangers rencontrent des difficultés pour demander le renouvellement de leurs titres de séjour, à cause de nombreuses défaillances du portail par lequel ces personnes sont obligées de passer. » Le système bugge, ils ne « peuvent joindre personne », ce qui engendre des difficultés et met en péril leur intégration : la plateforme ne va pas leur sortir la preuve de leur droit au séjour. Les conséquences sont terribles : ils n’ont pas le droit de travailler, ils peuvent perdre leur emploi, leur logement, voir leurs prestations sociales suspendues ou encore avoir des difficultés d’accès aux soins. L’utilisation de l’IA, une tendance forte en EuropeL’IA est de plus en plus utilisée pour améliorer le service au citoyen, mais aussi et surtout pour faire des économies ! En Grande-Bretagne, le Premier ministre Keir Starmer a fait ses comptes : « les outils », qu’il qualifie d’archaïques, de l’administration anglaise, lui font perdre chaque année  53 milliards d’euros. Il veut donc déployer l’IA partout, en attirant les entreprises du secteur et en leur laissant tester en Angleterre leurs innovations avant toute régulation.L’Union européenne, elle, essaye précisément de mettre en place des garde-fous compte tenu des risques majeurs sur les droits et libertés individuelles que peut faire peser l’IA via la collecte et l’utilisation massives des données personnelles.À lire aussiLa course à l’intelligence artificielle, nouvel instrument de domination mondiale

  --------  
• La Chine dévoile son robot coupeur de câbles sous-marins

  La Chine a révélé qu'elle disposait désormais d'un robot capable de sectionner des câbles sous-marins dans les hauts-fonds. Selon le South China Morning Post, ce submersible « compact » peut couper les câbles les plus solides, qu'il s'agisse de liaisons électriques ou de communication, jusqu'à 4 000 mètres de profondeur. Nous pensons à tort que nos smartphones, ordinateurs et autres machines informatiques connectées sont reliés les uns aux autres en passant par des connexions satellitaires, par des ondes hertziennes, ou encore par du wifi. Mais qu’elles soient du domaine grand public ou pour assurer les activités de n’importe quelle entreprise dans le monde, la quasi-totalité de nos communications électroniques dépendent à plus de 95 % des câbles sous-marins. L’invasion de l’Ukraine par la Russie nous a déjà révélé l’importance stratégique que revêtent les faisceaux optiques en mer Baltique avec la multiplication des tentatives de leurs destructions qui seraient imputables à Moscou.La guerre des câbles fait rage entre les États-Unis, la Russie et la ChineNotons que la suprématie opérationnelle dans cette guerre des câbles sous-marins est détenue pour l’instant par les États-Unis, la Russie et la Chine. Cette compétition est, par ailleurs, l’objet d’une véritable course technologique entre ces trois puissances mondiales. Et, notamment, dans un contexte de tension géopolitique exacerbée autour des îles de Taïwan qui sont depuis des années revendiquées par la Chine. Le South China Morning Post, quotidien de Hong Kong, vient de révéler à ce titre que des ingénieurs du Centre chinois de recherche naval sont parvenus à concevoir un robot subaquatique capable de mettre hors service des câbles sous-marins.Ce submersible de petite taille est conçu en alliage de titane. Il ressemble, selon les schémas exposés dans le journal, à une scie circulaire qui a été fixée à un bras articulé. L’ensemble du dispositif résiste aux pressions des fonds marins jusqu'à 4 000 mètres, soit une immersion qui est deux fois plus profonde que celle à laquelle sont habituellement ancrés les câbles maritimes. Mais son rayon d’action pourrait atteindre les 10 km de profondeur une fois accroché aux bathyscaphes de la marine chinoise. Le disque diamant de 15 cm de diamètre au bout du bras articulé de l’engin est capable de découper en tranches les épaisses gaines en acier, caoutchouc et polymères protégeant la majorité des câbles véhiculant les flux de données numériques.Un robot coupe-câble stratégiqueCe serait la première fois qu'un pays signale disposer d'un tel engin, selon le quotidien hongkongais. Et on peut se demander pourquoi la Chine, d’habitude si discrète sur ses capacités de guerre hybride, a choisi de révéler publiquement détenir un tel dispositif de sabotage de câble. Le quotidien de Hong Kong propose un début de réponse en rappelant que Pékin dispose de la flotte de submersibles la plus importante du monde, avec une armada d’engins robotisés. Avec ce type d’appareil, la Chine pourrait opérer sans faire surface sur l’un des « nœuds stratégiques » d’interconnexion maritime qui est situé au large de l’île américaine de Guam, dans le Pacifique. Une région océanique dans laquelle se concentrent une douzaine de câbles sous-marins utilisés autant par les forces militaires des États-Unis que par des organismes privés comme Google ou encore Meta.À lire aussiDans les pays baltes, vers une interdiction totale de TikTok?

  --------  
• Le robot conversationnel Meta AI se déploie en Europe

  Dévoilé aux États-Unis en septembre 2023 puis généralisé en avril 2024 sur l'ensemble des applications comme Facebook, Instagram, WhatsApp, propriétés du groupe de Mark Zuckerberg, Meta AI débarque en Europe. L'interface d'intelligence artificielle est centrée sur la génération de texte. En revanche, la possibilité de créer des images a été retirée de la version européenne, contrairement à celle qui est disponible aux États-Unis, et dans les pays situés en dehors de la zone euro. Disponible dans six langues, la firme américaine Meta annonce déployer son assistant IA dans 41 pays de l'Union européenne (UE), en commençant par la France et l'Allemagne, ainsi que dans 21 territoires d'outre-mer liés à l'UE. Un déploiement qui sera réalisé de façon progressive au cours des prochaines semaines, prévient toutefois l'entreprise dans son communiqué. Concrètement, ce robot conversationnel de type génératif est capable de répondre aux questions des utilisateurs en générant des textes comme le fait son concurrent ChatGPT d'OpenAI. Le programme a, par ailleurs, accès aux moteurs de recherche sur internet pour actualiser ses réponses.Pour activer ce service d'intelligence artificielle (IA), aucune manipulation n'est nécessaire : son installation est automatique. L'utilisateur devra ensuite cliquer sur une icône représentant un cercle bleu quand elle apparaîtra sur Messenger, Instagram, Facebook et sur WhatsApp. Et pour utiliser le programme, vous devrez écrire « @MetaAI » avant de formuler votre requête.La firme américaine avait jusqu'ici suspendu le déploiement de son IA dans l'UE, en invoquant le manque de visibilité sur les règlements qui encadrent le numérique en Europe. Des législations que le patron de Meta jugeait comme « fragmentées », aux « mises en œuvre incohérentes » et qui « freinaient l'innovation ». Mais finalement, après mûre réflexion et, sans doute, des tractations avec les régulateurs, Meta AI débarque en Europe.Un écosystème entièrement dédié à l'IASelon le patron de Meta, ce robot conversationnel n'est pas qu'une IA générative de plus. L'objectif poursuivi par l'entreprise est de lancer, à terme, un écosystème numérique complet et ouvert à tous pour concevoir des agents intelligents. Les entreprises, les créateurs de contenus, les chercheurs ou les particuliers pourront ainsi configurer et adapter les propres robots IA, expliquait récemment, par visioconférence, Mark Zuckerberg.« Finalement, ce n'est pas juste une technologie, c'est un écosystème complet que vous développez avec la prochaine génération des technologies dédiées à l'intelligence artificielle. La question principale pour Meta est de savoir comment créons-nous, non seulement, un ensemble florissant de produits et de gains de productivité économique, mais aussi comment avoir une meilleure économie politique, plus durable autour de l'IA ? Et vous savez, je pense que nous l'avons déjà fait, et raisonnablement bien, avec nos réseaux sociaux. Je pense qu'il sera important de faire encore mieux avec l'intelligence artificielle. Notamment, pour atténuer certaines des préoccupations que les internautes auront en utilisant ces IA, au sujet de leurs moyens de subsistance, de leurs emplois et même de leur vie », détaillait alors le PDG de Meta.Meta mise sur une large adoption de l'IA sur ses réseaux sociauxMeta prévoit d'investir entre 60 et 65 milliards de dollars dès cette année pour développer principalement des centres de données, des serveurs informatiques et les infrastructures réseaux qui sont essentiels à l'essor de sa technologie. Meta a fait de l'IA sa priorité.Le groupe estime pouvoir réussir cette transition numérique, si les milliards d'abonnés qui utiliseront ses programmes intelligents restent captifs de leurs applications et leurs réseaux sociaux préférés.À lire aussiIntelligence artificielle: Meta poursuivi en France pour violation des droits d'auteur

  --------  
• Reconnaissance faciale: 300 000 sportifs en France scannés à leur insu

  Depuis au moins un an, plusieurs centaines de milliers de Français ont été scannés, à leur insu, par un système de reconnaissance faciale. Ce dispositif a été déployé à l'occasion de courses à pied dans l'espace public réunissant des milliers de sportifs amateurs et de spectateurs. Mais petit problème, la collecte de données biométriques par un système d'intelligence artificielle est une pratique totalement interdite dans l'Union européenne. La jeune pousse PhotoRunning est l'une des principales entreprises du secteur de la reconnaissance faciale en France. La société propose aux participants d'un événement sportif, principalement des courses à pied amateurs, de retrouver sur le site de l'entreprise toutes les images de leurs exploits. Jusqu'ici, pas de problème sur les intentions louables de ce service en ligne.Mais voilà : afin que le programme d'intelligence artificielle (IA) soit efficace et délivre les clichés aux intéressés, tous les visages, des coureurs aux spectateurs jusqu'aux simples passants, ont été préalablement analysés par le système de reconnaissance faciale de l'entreprise. Ce recueil de données biométriques a été appliqué lors de 48 courses au cours des 12 derniers mois.Environ 320 000 visages de personnes ont ainsi été enregistrés dans les bases de données sur les serveurs de PhotoRunning. Certaines courses couvertes par le dispositif de l'entreprise concernaient des épreuves réservées spécifiquement aux mineurs. Les données biométriques d'au moins 3 000 jeunes participants ont été ainsi collectées par le programme IA.La banalisation de la vidéosurveillance pilotée par IADepuis les JO de Paris, le sport est devenu le terrain expérimental préféré des technologies de vidéosurveillance pilotées par IA, mais avec une nuance de taille : le traitement informatique des images vidéo utilisé pendant les JO permettait d'identifier automatiquement des « événements » qualifiés d'anormaux, comme des mouvements de panique dans une foule, ou de pouvoir suivre les déplacements d'individus suspects.La vidéosurveillance par IA des JO n'utilisait pas la reconnaissance faciale, nous rappelle Philippe Blanc, responsable des analyses vidéo chez Eviden, une société de cybersécurité : « La différence fondamentale entre la reconnaissance faciale et la reconnaissance comportementale, qui est pilotée par IA, est que dans un cas, le dispositif de vidéosurveillance identifie des personnes par rapport à leur visage et par rapport à une liste de référence. Dans l'autre cas, les systèmes se concentrent plutôt sur des analyses de mouvements de personnes. Par exemple, pour repérer des chutes dans une foule ou pour localiser des comportements anormaux de type violence qui seraient perpétrés par des groupes d'individus. En revanche, les technologies de reconnaissance faciale qui sont basées sur l'analyse des visages permettant de constituer une base de données biométriques sont aujourd'hui interdites en France et dans tous les pays de l'Union européenne. »Le RGPD interdit l'utilisation de la reconnaissance faciale dans l'espace publicLes organisateurs des manifestations sportives qui ont employé le système PhotoRunning affirment qu'ils ignoraient que ce dispositif de reconnaissance faciale collectait les données biométriques de tout le monde. Mais cet argument ne tient pas. Que ce soit du côté des organisateurs ou celui de l'entreprise française, nul n'est censé ignorer le règlement général sur la protection des données en vigueur depuis 2018 dans tous les pays de l'UE. Le RGPD interdit formellement l'utilisation de la reconnaissance faciale dans l'espace public, sauf exception, pour des raisons de sécurité. Cette autorisation est fortement encadrée et soumise aux autorités compétentes.Par ailleurs, ces mesures exceptionnelles exigent d'obtenir le consentement explicite et non contraint des personnes scannées par ce type de dispositif. Et c'est bien là le problème : à force de toujours minimiser, pour des raisons de facilité d'usage, la reconnaissance faciale dans l'espace public, la surveillance de masse par IA deviendra bientôt la norme dans nos sociétés. Avec ce risque certain que la vie privée des citoyens, en dehors du regard analytique des caméras pilotées par IA au quotidien, ne devienne un jour prochain une infraction, qu'il conviendrait peut-être de sanctionner. Et que nos parcours santé soient systématiquement surveillés.

  --------  
• Comment la Russie a «infecté» les programmes d'intelligence artificielle d'Occident

  Alors que campagnes russes visant les réseaux sociaux et les médias traditionnels sont désormais bien documentées, le Kremlin a développé un système de propagande plus subtil. Il consiste à influencer les réponses que délivrent les programmes d'intelligence artificielle (IA) dite générative. La plupart des IA occidentales seraient ainsi contaminées par les infox de Moscou, révèle une étude menée par la plateforme web NewsGuard, spécialisée dans l'analyse de la fiabilité des sites d'information. Jusqu'à présent, les trolls à la solde de Moscou employaient des programmes IA pour les aider à diffuser en masse leurs messages de propagande sur les réseaux sociaux. Mais une nouvelle méthode pour effectuer plus discrètement ce trafic d'influence a été révélée par la plateforme américaine NewsGuard. La technique consiste à s'attaquer directement aux agents conversationnels IA que nous utilisons quotidiennement.Pour réaliser ce type d'intrusion, la Russie a créé une organisation portant le nom de Pravda. Le terme russe, qui signifie « vérité », désigne un immense réseau de désinformation, qui a été lancé en avril 2022. L'organisation est entièrement gérée depuis Moscou. Son objectif n'est plus seulement d'influencer directement les internautes sur les réseaux sociaux ou de publier des faux articles sur les sites web, mais de bien manipuler les modèles de langage des programmes d'intelligence artificielle.Une dizaine d'IA passées au crible par NewsGuardNewsGuard a mené son enquête en testant méthodiquement les dix principaux dispositifs conversationnels par IA utilisés actuellement. L'examen approfondi des informations délivrées par ChatGPT d'OpenAI, Claude d'Anthropic, Grok d'Elon Musk, Chat de Mistral, Gemini de Google ou encore Copilot de Microsoft, a révélé le pot aux roses. Toutes ces IA seraient désormais sous influence russe, indique NewsGuard et d'autres ONG. Concrètement, pour réussir à manipuler les modèles d'apprentissages des IA génératives, les hackers du groupe Pravda ont eu recours à une technique dénommée le « LLM Grooming ».Le procédé consiste à saturer les jeux de données d'entraînement des IA avec des informations biaisées en publiant massivement des messages truqués en ligne. Par exemple, en soumettant 10 milliards de fois le message à une IA que l'image du drapeau russe figure sur tous les pelages des chats dans le monde, le programme finira par transmettre cette affirmation mensongère à ses utilisateurs. Évidemment, les trolls du groupe Pravda, qui ont bien d'autres chats à fouetter, cherchent plutôt à ce que les IA diffusent des contre-vérités en reprenant les narratifs prorusses à grande échelle.Les menaces de la Russie sur les IA sont problématiques, estime l'UECe phénomène de contamination des IA est d'autant plus inquiétant que les États-Unis ont indiqué vouloir mettre en pause leurs opérations de cybersécurité à l'encontre de la Russie.En revanche, l'Union européenne (UE) a précisé mardi 18 mars que la Chine et la Russie ont recours à un « arsenal numérique massif » de plus en plus sophistiqué pour s'ingérer et manipuler les démocraties occidentales. Cette déclaration a été formulée juste avant les tractations par téléphone entre les présidents Donald Trump et Vladimir Poutine. Si elles ont abouti à l'éventualité d'un cessez-le-feu de 30 jours, cette trêve est d'une portée très limitée, ne concernant, par exemple, que la suspension des frappes sur les sites énergétiques de l'Ukraine.

  --------  

About Un monde de tech