{"id":11793,"date":"2023-09-22T13:48:37","date_gmt":"2023-09-22T11:48:37","guid":{"rendered":"https:\/\/www.lesmonts.ch\/wp_fr\/?p=11793"},"modified":"2023-09-23T08:43:32","modified_gmt":"2023-09-23T06:43:32","slug":"recherche-susan-desesperement","status":"publish","type":"post","link":"https:\/\/www.lesmonts.ch\/wp_fr\/recherche-susan-desesperement\/","title":{"rendered":"Recherche Susan d\u00e9sesp\u00e9r\u00e9ment"},"content":{"rendered":"\n

Il y a quelque temps, un ing\u00e9nieur de chez Google cr\u00e9ait la pol\u00e9mique en insinuant qu’une intelligence artificielle donnait des signes de conscience<\/a>. Depuis, cet ing\u00e9nieur a \u00e9t\u00e9 vir\u00e9 (on a sous-entendu qu’il fumait un peu trop la moquette), mais de nombreux autres testeurs d’intelligences artificielles avouent parfois un certain malaise lorsqu’ils se confrontent \u00e0 une intelligence artificielle (IA) g\u00e9n\u00e9ratrice comme ChatGPT <\/a>ou le nouveau navigateur de Microsoft<\/a> (qui a d’ailleurs les m\u00eames origines que le logiciel de conversation d’OpenAI<\/a>). Ce sentiment de malaise interpelle, \u00e0 juste titre, le commun des mortels : si les concepteurs d’un logiciel \u00e9prouvent des probl\u00e8mes pour comprendre ce qu’ils ont contribu\u00e9 \u00e0 cr\u00e9er, qu’en sera-t-il des ignares qui devront se contenter de constater, voire de subir, les effets \u00e9ventuels du syst\u00e8me informatique incrimin\u00e9 ? Mais comment peut-on perdre ainsi le contr\u00f4le de ce que l’on a aid\u00e9 \u00e0 mettre sur pied ?<\/p>\n\n\n\n

Alors que les ing\u00e9nieurs informaticiens avaient jusqu’ici coutume de programmer de mani\u00e8re imp\u00e9rative (les instructions que l’on donne \u00e0 l’ordinateur, le \u00ab\u00a0programme\u00a0\u00bb, d\u00e9crivent exactement les op\u00e9rations \u00e0 effectuer), l’intelligence artificielle (du moins celle que l’on nomme g\u00e9n\u00e9rative, comme la technologie \u00e0 la base de ChatGPT) est bas\u00e9e sur l’apprentissage \u00e0 partir des donn\u00e9es \u00e0 disposition. Ceci implique que le m\u00eame programme se comportera de mani\u00e8re diff\u00e9rente selon l’environnement de donn\u00e9es avec lequel il est aliment\u00e9 : malgr\u00e9 une logique identique, il est th\u00e9oriquement possible que deux instances d’un programme donn\u00e9 parviennent \u00e0 des r\u00e9sultats radicalement diff\u00e9rents parce que les donn\u00e9es avec lesquels ils sont \u00ab\u00a0nourris\u00a0\u00bb sont tr\u00e8s diff\u00e9rentes, m\u00eame si les objectifs que l’on a fix\u00e9s sont inchang\u00e9s. Soit dit en passant, c’est pour cette raison que l’on cherche syst\u00e9matiquement \u00e0 disposer du plus grand nombre de donn\u00e9es possible, de mani\u00e8re \u00e0 minimiser les risques de biais que pourrait entra\u00eener un \u00e9chantillon de donn\u00e9es trop sp\u00e9cifique. Le th\u00e9or\u00e8me central limite<\/a>, en statistique, apporte une justification math\u00e9matique \u00e0 cette d\u00e9marche.<\/p>\n\n\n\n

Ceci implique, pour le programmeur, un changement de paradigme assez fondamental; alors que jusqu’ici, il pouvait v\u00e9rifier que son programme fonctionnait correctement pour divers ensembles de donn\u00e9es fournies, parce que le r\u00e9sultat pouvait \u00eatre pr\u00e9dit exactement, ce n’est plus le cas pour un programme qui utilise l’apprentissage profond<\/a> (\u00ab\u00a0deep learning<\/em>\u00ab\u00a0) dans le domaine de l’intelligence artificielle. Tout au plus peut-il v\u00e9rifier la pertinence d’une conclusion du programme en pr\u00e9sence de donn\u00e9es de test soigneusement choisies, mais en situation r\u00e9elle, il est tr\u00e8s malais\u00e9 de comprendre comment un tel programme parvient \u00e0 un r\u00e9sultat apparemment surprenant. <\/p>\n\n\n\n

Actuellement, la situation n’est pas tr\u00e8s pr\u00e9occupante, car les capacit\u00e9s des IA, aussi spectaculaires soient elles, sont assez restreintes. Mais les d\u00e9veloppements dans ce domaine sont fulgurants; ce qui est vrai pour GPT 3 (la version actuelle) ne le sera sans doute plus l’an prochain. M\u00eame les plus experts des d\u00e9veloppeurs actuels dans le domaine de l’IA seraient bien en peine de d\u00e9crire une IA g\u00e9n\u00e9rative (voire ex\u00e9cutive, comme dans le domaine de la conduite autonome de v\u00e9hicules automobiles, nautiques ou a\u00e9riens, ou m\u00eame de mani\u00e8re plus pr\u00e9occupante les armes autonomes) dans quelques ann\u00e9es. Comment diagnostiquer et au besoin corriger un \u00e9ventuel dysfonctionnement dans un syst\u00e8me aussi complexe ? Comment ma\u00eetriser un dispositif capable d’\u00e9volution et d’am\u00e9lioration continue (quelle que soit la d\u00e9finition que l’on peut donner au terme \u00ab\u00a0am\u00e9lioration\u00a0\u00bb) ? Personnellement, je ne connais pas d’informaticien qui se soit pos\u00e9 sinc\u00e8rement la question : qui sera en mesure de diagnostiquer la cause de l’erreur en cas de dysfonctionnement d’une IA dans cinq ans ou -pire- dans dix ans ?<\/p>\n\n\n\n

Le biologiste, vulgarisateur scientifique et auteur de science-fiction Isaac Asimov <\/a>avait imagin\u00e9 des robots humano\u00efdes dont l’intelligence artificielle \u00e9tait abrit\u00e9e dans un \u00ab\u00a0cerveau positronique<\/a>\u00ab\u00a0. A l’\u00e9poque o\u00f9 la nouvelle a \u00e9t\u00e9 \u00e9crite (1950), on ne parlait pas de logiciels, puisque les ordinateurs n’existaient pas; n\u00e9anmoins, il s’agissait bien d’intelligence artificielle pour ces cr\u00e9atures synth\u00e9tiques imagin\u00e9es par Asimov, qui avait eu la sagesse (ce qui n’est pas le cas pour les IA actuelles) de cadrer leurs capacit\u00e9s en leur imposant trois lois<\/a> infrangibles, qui permettaient (ou devaient permettre) de garantir qu’ils ne deviendraient pas dangereux pour la soci\u00e9t\u00e9 qui les avait cr\u00e9es. Il avait eu la pr\u00e9monition que ces cr\u00e9atures deviendraient rapidement impr\u00e9visibles, du moins du point de vue de ceux qui avaient d\u00e9velopp\u00e9 les cerveaux de ces robots. Il avait d\u00e9s lors imagin\u00e9 un nouveau m\u00e9tier qui consistait justement \u00e0 diagnostiquer les failles et les travers d’une intelligence artificielle confront\u00e9e \u00e0 des ensembles de donn\u00e9es et de faits incompatibles avec sa logique et les donn\u00e9es ayant conduit \u00e0 son \u00e9tat actuel. Il avait nomm\u00e9 ce m\u00e9tier \u00ab\u00a0robopsychologue<\/a>\u00ab\u00a0, et le premier de ces robopsychologues \u00e9tait un personnage tr\u00e8s int\u00e9ressant qui est le principal h\u00e9ros de son recueil de nouvelles \u00ab\u00a0I Robot<\/a>\u00ab\u00a0, le docteur Susan Calvin.<\/a><\/p>\n\n\n\n

Tout porte \u00e0 croire que dans un futur peut-\u00eatre plus proche qu’on ne l’imagine, les entreprises travaillant avec les IA auront besoin d’une Susan Calvin; mais o\u00f9 pourront ils la trouver ? O\u00f9 devront ils chercher ? Qui saura la former ?<\/p>\n\n\n\n

\u00ab\u00a0Recherche Susan d\u00e9sesp\u00e9r\u00e9ment<\/a>\u00a0\u00bb est un film de 1985 (Desperately seeking Susan); il n’a pas de rapport avec Susan Calvin, \u00e0 part le pr\u00e9nom d’une personne ardemment recherch\u00e9e…<\/em><\/p>\n","protected":false},"excerpt":{"rendered":"

Il y a quelque temps, un ing\u00e9nieur de chez Google cr\u00e9ait la pol\u00e9mique en insinuant qu’une intelligence artificielle donnait des signes de conscience. Depuis, cet ing\u00e9nieur a \u00e9t\u00e9 vir\u00e9 (on a sous-entendu qu’il fumait un peu trop la moquette), mais de nombreux autres testeurs d’intelligences artificielles avouent parfois un certain malaise lorsqu’ils se confrontent \u00e0 … Continuer la lecture de Recherche Susan d\u00e9sesp\u00e9r\u00e9ment<\/span> →<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"ngg_post_thumbnail":0,"footnotes":""},"categories":[1],"tags":[],"class_list":["post-11793","post","type-post","status-publish","format-standard","hentry","category-non-classe"],"_links":{"self":[{"href":"https:\/\/www.lesmonts.ch\/wp_fr\/wp-json\/wp\/v2\/posts\/11793","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.lesmonts.ch\/wp_fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.lesmonts.ch\/wp_fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.lesmonts.ch\/wp_fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.lesmonts.ch\/wp_fr\/wp-json\/wp\/v2\/comments?post=11793"}],"version-history":[{"count":9,"href":"https:\/\/www.lesmonts.ch\/wp_fr\/wp-json\/wp\/v2\/posts\/11793\/revisions"}],"predecessor-version":[{"id":11804,"href":"https:\/\/www.lesmonts.ch\/wp_fr\/wp-json\/wp\/v2\/posts\/11793\/revisions\/11804"}],"wp:attachment":[{"href":"https:\/\/www.lesmonts.ch\/wp_fr\/wp-json\/wp\/v2\/media?parent=11793"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.lesmonts.ch\/wp_fr\/wp-json\/wp\/v2\/categories?post=11793"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.lesmonts.ch\/wp_fr\/wp-json\/wp\/v2\/tags?post=11793"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}