J’avais, il y a quelques années (bientôt 5 ans, comme le temps passe !) raconté l’histoire (totalement fictive) de Natalya Anissimova, experte en sécurité des systèmes informatiques. Pour rappeler brièvement l’histoire, Natalya avait inventé une méthode pour découvrir de manière semi-automatique les failles dans un programme informatique; et elle se rendait compte un peu tardivement des conséquences tragiques que pouvait avoir une telle invention qui permettait à des individus malveillants de trouver facilement lesdites failles et de les exploiter avant qu’il soit possible de les corriger. Je concluais l’histoire en précisant qu’à ma connaissance, il n’existait pas encore de méthode permettant de détecter lesdites failles de manière automatique, ce qui constituait somme toute une nouvelle rassurante.

Il y a peu, la société Anthropic annonçait que son instance d’intelligence artificielle (IA) Claude Mythos était en mesure de détecter toutes les failles d’un programme informatique en quelques minutes de manière complètement automatique.

Jugée trop dangereuse pour être publiée, cette IA est actuellement mise en « quarantaine » par la société Anthropic. Les responsables de la société ont correctement évalué les risques que faisait courir un tel outil dans un monde où des logiciels pourris de failles informatiques sont utilisés de manière incontrôlée par tout un chacun. Ils ont anticipé la fin de l’histoire de Natalya, en quelque sorte. Mais on ne sait absolument rien de ce qu’ils entendent faire pour éviter ces dangers qu’ils pourraient faire courir à la société. On ne sait pas non plus quelles sont les évolutions des IA concurrentes (en particulier non-américaines) dans ce domaine.

Anthropic a convoqué divers acteurs du domaine de l’IA pour discuter de la manière de gérer des intelligences artificielles dont on soupçonne qu’elles pourraient représenter un réel danger pour les utilisateurs. C’est d’ailleurs cette même société qui a récemment refusé l’utilisation de son modèle d’IA, Claude, par l’armée américaine dans le cadre de l’emgagement au Moyen Orient. Il est intéressant (décevant ?) de constater que les personnes participant au colloque organisé par cette société sont tous issus de la société privée (Meta, Google, Microsoft, etc…), acteurs de technologies liées à l’IA, et ne comprennent aucun élément européen. Il n’y a pas non plus de participants venant du monde de la sociologie ou de la philosophie (par exemple) prévus dans ces réunions.

Une indication supplémentaire de l’arrogance de plus en plus assumée des grands noms de la tech américaine vis-à-vis de tout ce qui n’est pas leur petit terrain de jeu privé…

Il faut préciser que cette capacité de détecter automatiquement toutes les failles informatiques n’est qu’un aspect marginal de cette intelligence artificielle. Ses capacités dans la génération de code informatique (pour ne prendre que cet exemple) renvoie environ 90% des programmeurs à l’agence pour l’emploi la plus proche. Ne parlons pas des tâches de traitement d’images ou de textes : les prochains discours politiques que nous devrons subir bénéficieront d’un prète-plume (celui que l’on qualifiait de nègre à une époque où ce terme n’avait pas encore acquis le sens péjoratif qu’il a actuellement) très compétent et parfaitement en accord avec les « idées » promues par l’orateur (pour autant que ce dernier aie encore des idées, bien sûr).

Récemment, un semi-marathon a eu lieu en Chine, où le record du monde a été battu par un robot autonome « humanoïde ». Hormis l’exploit technologique que constitue le développement d’un « machin » à deux jambes et deux bras métalliques capable de se déplacer rapidement sur 21 kilomètres à la vitesse de 25 km/h, cela ne fait guère avancer les connaissances scientifiques de l’humanité. Seul un gouvernement un peu paranoïaque, avide d’étaler devant un monde ébahi sa supériorité peut assumer et financer un tel développement. Il n’en reste pas moins qu’aucun humain n’a jamais couru aussi vite le semi-marathon, et que ce genre de record ne sera jamais plus battu par un humain « biologique ». On se réjouit (?) déjà de voir Carlos Alcaraz affronter un androïde en finale du tournoi ATP de Shanghaï en 2028… Je parierai encore sur le jeune humain espagnol cette fois-là, mais au-delà…

Un jour, pas si lointain, nous pourrons, un peu comme Natalya dans ma petite fiction, nous asseoir au bord d’un cours d’eau et nous demander comment nous en sommes arrivé là, alors que nous avions pensé développer quelque chose de bénéfique à l’humanité. Nous ne saurons plus traduire des textes, nous aurons de la peine à effectuer des calculs de tête, nous ne saurons plus bien composer des textes cohérents : à quoi bon, une IA s’en chargera gratuitement et de manière bien plus diligente que tout ce que nous pourrions réaliser. Des corps de métier tout entiers vont devoir se réinventer pour survivre : ainsi, on pense que les bureaux d’avocats pourront déléguer près de 80% de leurs tâches à des IA, qui effectueront les travaux de recherche et d’analyse juridique en quelques minutes au lieu des quelques semaines actuelles. Les administrations auront été remplacées par des IA spécialisées (pensez aux administrations fiscales, par exemple), beaucoup plus efficaces, mais contrôlées par des industries pour lesquelles la démocratie n’est pas forcément un but en tant que tel. Des industries elles aussi contrôlées par des IA obéissant à des règles pas forcément pertinentes dans tous les cas de figure. De facto, la machine aura pris le pas sur l’homme pour des raisons d’efficience, mais surtout avec des objectifs mercantiles ou hégémoniques. L’homme ne sera plus qu’un être assisté, avec de moins en moins d’initiative et de responsabilité. Même les conflits armés seront devenus affaire de machines obéissant certes à des autocrates multi milliardaires en panne de jeux vidéos, mais avec leur propre logique et selon des algorithmes pour le moins opaques.

D’une certaine manière, le vieux mythe de la machine dominant l’homme sera devenu réalité, mais sans qu’il n’y ait quelque malveillance que ce soit à imputer à la machine : l’homme en aura décidé ainsi.

Elon Musk annoncait il y a peu un âge de l’abondance, où travailler ne serait plus nécessaire pour l’humanité, grâce à l’IA. Donald Trump annonçait, au début de son second mandat, un âge d’or pour les Etats-Unis, et que ce serait grâce à sa clairvoyance et à sa politique conservatrice basée sur des « deals ». Quand on constate le résultat dans le second cas de figure, on ne peut s’empêcher d’éprouver un léger doute, qui s’étend implicitement au premier cas de figure…