Les progrès informatiques ont depuis longtemps des applications très pratiques. Certaines positives, d’autres qui font craindre pour le respect des libertés individuelles. Exemples.

Par Caroline Vinet
Publié le 15/05/2023
https://www.lavie.fr

Détecter les cancers d’origine primitive inconnue

La recherche médicale sur la détection des cancers a fait un bond numérique de géant. En toute discrétion. L’histoire commence en 2019 : Sarah Watson, de l’Institut Curie, oncologue et biologiste reconnue, et son équipe s’intéressent aux cancers d’origine primitive inconnue – 2 à 3 % des cancers en France –, c’est-à-dire qui ont métastasé sans que l’on parvienne à déterminer le premier organe touché. Souvent diagnostiqués sur le tard, les malades ont alors moins d’un an d’espérance de vie. Or, pour être pleinement efficace, le traitement doit être adapté à l’organe où s’est développée initialement la maladie.

L’idée émerge d’utiliser l’intelligence artificielle (IA) pour analyser les données et identifier l’origine de la tumeur. « Les caractéristiques biologiques des métastases sont les mêmes que le tissu d’origine, explique Sarah Watson. Nous nous sommes dit que si nous étions capables d’apprendre à la machine la différence entre un cancer du côlon, du sein ou du rein, elle serait peut-être capable de dire d’où vient la tumeur. » Les scientifiques ont donné à l’ordinateur 20 000 profils moléculaires de tumeurs, dont l’origine était déjà connue, à analyser. Puis des profils moléculaires de 48 cancers d’origine primitive inconnue : l’algorithme a été capable d’identifier 79 % des tissus d’origine. Depuis, 150 patients ont pu bénéficier de ce protocole, 60 % d’entre eux ont pu voir l’origine de leur cancer diagnostiquée, la variation des résultats dépendant de la qualité du prélèvement tumoral comme de sa conservation.

Un succès technique et médical que Sarah Watson espère démocratiser pour aider les quelque 7 000 patients atteints chaque année de ce type de cancer. Coordonnées par l’Institut Curie, les analyses devraient être intégrées sous peu au plan France Médecine génomique 2025 pour donner accès à chacun à ces nouvelles technologies. Entraînés sur les cancers les plus fréquents, les algorithmes seront nourris au fur et à mesure de données concernant des pathologies plus rares, afin d’affiner le spectre des recherches. « L’IA ne travaille pas toute seule ; les ordinateurs ne vont pas remplacer les médecins », rassure toutefois la chercheuse. Les algorithmes fournissent des statistiques de probabilité de l’origine de la maladie. Charge reste toujours aux scientifiques humains de les mettre en corrélation avec l’ensemble du dossier du patient et d’en livrer l’interprétation la plus juste.

Des robots capables de tuer en toute autonomie ?

Le spectre d’un Terminator, c’est-à-dire d’un robot capable de tuer en toute autonomie, a resurgi en 2021. Un rapport d’expertise de l’ONU a en effet affirmé que des drones turcs avaient attaqué des cibles en Libye de manière autonome. « Les systèmes d’armes létaux autonomes avaient été programmés pour attaquer des cibles, sans qu’il soit besoin d’établir une connexion des données entre l’opérateur et la munition, et étaient donc réellement en mode d’autoguidage automatique », peut-on y lire.

La guerre serait-elle en passe d’échapper au contrôle humain ? Pas vraiment. Le document a soulevé une vague de critiques d’experts, sceptiques quant au véritable degré d’autonomie de ces armes. « Pour l’instant, si l’on s’en tient à la définition de l’Onu – un système capable d’identifier et d’ouvrir le feu sur une cible sans l’intervention d’un opérateur humain et dans un environnement changeant –, ce type d’arme n’existe pas », précise Laure de Roucy-Rochegonde, chercheuse au Centre des études de sécurité de l’Institut français des relations internationales (Ifri).

L’intelligence artificielle occupe déjà une place importante dans les systèmes d’armement. Face au risque d’un développement hors de contrôle, plus de 200 organisations internationales ont lancé en 2013 la campagne Stop Killer Robots, pour appeler à une nouvelle loi internationale sur l’autonomie des systèmes d’armes. « Un outil législatif robuste est le seul moyen à même de gérer les problèmes liés à l’utilisation de l’intelligence artificielle dans les systèmes d’armement, défend Verity Coyle, conseillère senior sur les questions d’équipements militaires, de sécurité et de police, d’Amnesty International. Il doit inclure une obligation de maintenir un contrôle humain significatif de l’usage de la force et bannir les systèmes qui ne peuvent être utilisés sans ce contrôle ou qui prennent des humains pour cible. »

Les discussions onusiennes sont ouvertes depuis 2014 pour tenter de réglementer le sujet. Elles n’ont pour l’instant rien donné de concluant. En 2021, la volonté de la majorité des 125 membres de la Convention sur certaines armes classiques de l’Onu d’avancer sur le sujet s’est heurtée au refus de pays qui développent ce type d’armes, tels que la Russie ou les États-Unis.

La reconnaissance faciale et l’amplification des discriminations

Les milliers de personnes sorties manifester avec le mouvement Black Lives Matter en 2020 à New York savaient-elles qu’elles étaient surveillées ? Amnesty International est formel : « Un manifestant marchant sur Washington Square Park à Manhattan a eu 100 % de risques d’être surveillé par la reconnaissance faciale sur son chemin. » D’après une analyse menée avec le concours de milliers de bénévoles dans le cadre de la campagne Ban the Scan, l’ONG est parvenue à déterminer la présence de plus de 25 000 caméras de vidéosurveillance dans la ville.

« En croisant nos informations avec d’autres données, nous nous sommes aperçus que plus la proportion d’habitants non blancs était importante (dans un quartier), plus la concentration de caméras compatibles avec les systèmes de reconnaissance faciale était élevée, explique Katia Roux, chargée de plaidoyer à Amnesty International France. Notre analyse a montré que l’utilisation de technologie de reconnaissance faciale contribue à amplifier les discriminations à l’égard de minorités lors d’opérations de maintien de l’ordre à New York. » Entre 2016 et 2019, la police de New York aurait eu recours à ces technologies dans au moins 22 000 cas.

Dans un autre rapport, l’ONG a également épinglé Israël pour son utilisation de la reconnaissance faciale « pour renforcer l’apartheid ». Elle dénonce l’utilisation du système Red Wolf aux points de contrôle de la ville de Hébron, lequel « scanne les visages des Palestiniens et les ajoute dans de vastes bases de données de surveillance, sans le consentement des intéressés ». L’affaire s’ajoute à la longue liste des atteintes aux droits humains provoquées par l’utilisation de la reconnaissance faciale dans le cadre d’un État répressif.

En France, la défenseure des droits, Claire Hédon, s’est élevée en 2021 contre le « potentiel inégalé d’amplification et d’automatisation des discriminations » de ce type de technologie. La question de la reconnaissance faciale a fait débat dans le cadre de l’examen de projet de loi relatif aux Jeux olympiques et paralympiques de 2024. Si elle a été écartée par le gouvernement, le Parlement a tout de même adopté la vidéosurveillance « intelligente », faisant de la France le premier pays européen à légaliser la surveillance biométrique. Au moins jusqu’en décembre 2024.