Bistro Bar Blog

dimanche 5 mars 2017

Intelligence humaine (et animale) vs intelligence artificielle

Attention, cet essai est à lire au deuxième degré. Son auteur est chargé de recherche au Centre Leverhulme pour l'Avenir de l'Intelligence à l'université de Cambridge en Angleterre, dont le but est "d'explorer les opportunités et les défis lancés à l'humanité par le développement de l'intelligence artificielle."

Je l'ai traduit pour sa vision de l'histoire de l'intelligence et non pour son éloge subtil de l'IA, première marche vers le transhumanisme.

Le côté sombre de l'intelligence en tant qu'outil de domination
Histoire de l'intelligence
Oxford 1950. (photo de John Chillingworth)


L'intelligence a toujours été employée comme prétexte pour justifier domination et destruction. Pas étonnant que nous ayons peur des robots intelligents.

Par Stephen Cave
 

Traduit par Hélios
 

Pendant mon enfance en Angleterre dans la dernière moitié du 20ème siècle, l'intelligence en tant que concept occupait une place importante. On y aspirait, on en discutait et – le plus important – on la mesurait. À l'âge de 11 ans, des dizaines de milliers d'enfants à travers tout le pays étaient conduits dans de grandes salles où s'alignaient des pupitres pour passer un test de QI connu sous le nom de 11-Plus. Les résultats de ces quelques courtes heures détermineraient qui irait au lycée pour se préparer à l'université ; qui était destiné au lycée d'enseignement technique et donc à un travail qualifié ; et qui emprunterait les filières du collège d'enseignement technique pour acquérir des rudiments et se lancer ensuite dans la vie comme travailleur manuel.
 
L'idée que l'intelligence pouvait être quantifiée, comme la tension artérielle ou la pointure des chaussures, avait à peine un siècle quand j'ai passé le test qui allait décider de ma place dans le monde. Mais la notion que l'intelligence pouvait déterminer la situation sociale était déjà beaucoup plus ancienne. Elle se déroule comme un fil rouge tout au long de la pensée occidentale, depuis la philosophie de Platon jusqu'aux pratiques du premier ministre britannique, Theresa May. Dire que quelqu'un est ou n'est pas intelligent ne se cantonne jamais à un simple commentaire sur ses facultés intellectuelles. C'est toujours aussi un jugement sur ce qu'il lui est permis de faire. L'intelligence, en d'autres mots, est politique.



 
Ce genre de classement est parfois sensé : nous voulons des médecins, des ingénieurs et des dirigeants qui ne sont pas stupides. Mais il a son mauvais côté. Déterminer ainsi ce qu'une personne peut faire, son intelligence – ou son absence supposée – a servi à décider ce que les autres peuvent en faire. Au cours de l'histoire de l'occident, ceux estimés moins intelligents ont, comme conséquence de ce jugement, été colonisés, mis en esclavage, stérilisés et assassinés (et même mangés, si nous incluons les animaux dans notre décompte).

 
C'est une histoire ancienne, qui remonte même à l'antiquité. Mais le problème a pris une autre tournure intéressante au 21ème siècle avec l'arrivée de l'Intelligence Artificielle (IA). Ces dernières années, le progrès réalisé dans la recherche sur l'IA a fait un bond manifeste et de nombreux experts pensent que ces avancées conduiront sous peu à bien autre chose. Les détracteurs sont tour à tour terrifiés et enthousiastes, arrosant leurs messages Twitter en faisant référence au Terminator. Pour comprendre pourquoi nous nous sentons concernés et ce que nous craignons, nous devons comprendre l'intelligence comme un concept politique – et en particulier sa longue histoire en tant que justification pour dominer.

 
Le terme même d'"intelligence" n'a jamais été populaire parmi les philosophes anglophones. Il n'a pas non plus de traduction directe en allemand ou en grec ancien, deux des autres grands langages de la tradition philosophique occidentale. Mais cela ne veut pas dire que les philosophes ne s'y intéressaient pas. C'était en fait une obsession chez eux, en particulier par l'un de ses éléments : la raison ou le rationnel. Le terme "intelligence" n'a réussi à éclipser son homologue vieillot dans le discours populaire et politique qu'avec l'apparition de la discipline relativement ultra-moderne de la psychologie, qui l'a reconnu à part entière. Bien que de nombreux érudits se fassent aujourd'hui l'avocat d'une acceptation beaucoup plus large de l'intelligence, la raison figure toujours au cœur. Quand je parle donc du rôle qu'a joué l'intelligence sur le plan historique, j'y inclus son prédécesseur. 

 
L'histoire de l'intelligence commence avec Platon. Dans tous ses écrits, il attribue une valeur très élevée à la pensée, déclarant (par la bouche de Socrate) qu'une vie sans examen ne vaut pas la peine d'être vécue. Platon sortait d'un monde imprégné de mythes et de mysticisme et déclarait quelque chose de neuf : que la vérité sur la réalité pouvait être établie grâce à la raison ou ce que nous pourrions considérer aujourd'hui comme une application de l'intelligence. Ce qui l'a conduit à conclure dans La République que le dirigeant idéal est un 'roi philosophe', car seul un philosophe peut découvrir l'ordre correct des choses. Et il a lancé ainsi l'idée que c'est le plus intelligent, à l'exclusion de tous les autres, qui doit régner – une sorte de méritocratie intellectuelle.

 
Cette idée était révolutionnaire à l'époque. Athènes avait déjà expérimenté la démocratie, le gouvernement par le peuple – mais pour faire partie de ces 'gens' il fallait simplement être un citoyen mâle, pas nécessairement intelligent. Ailleurs, les classes gouvernantes étaient constituées d'élites par droit héréditaire (aristocratie) ou de gens croyant avoir reçu un commandement divin (théocratie) ou simplement selon la loi du plus fort (tyrannie).

 
L'idée nouvelle de Platon fut reçue avec passion par les intellectuels, comme pour son élève Aristote. Aristote fut toujours le penseur le plus pragmatique. Il emprunta la notion de la primauté de la raison et s'en servit pour établir ce qu'il pensait être une hiérarchie sociale naturelle. Dans son livre La Politique, il explique : 'Que certains doivent diriger et les autres être gouvernés est une chose pas seulement nécessaire, mais opportune ; depuis leur naissance, certains sont définis pour être des sujets, d'autres pour être des dirigeants'. Ce qui définit le dirigeant est qu'il possède 'l'élément rationnel'. Les hommes éduqués le possèdent au plus haut point et devraient donc naturellement régner sur les femmes – et aussi sur ces hommes 'dont le rôle est de se servir de leur corps' et qui sont ainsi 'par nature des esclaves'. Tout en bas de l'échelle il y a les animaux, qui sont si stupides qu'ils 's'en sortent mieux quand ils sont dirigés par l'homme'.

 
Ainsi quand la philosophie occidentale vit le jour, nous trouvons l'intelligence identifiée au mâle européen éduqué. Elle devient un argument pour son droit à dominer les femmes, les classes inférieures, les gens non civilisés et les animaux. Pendant que Platon discutait de la suprématie de la raison, la situant dans le cadre d'une utopie plutôt maladroite, une génération plus tard seulement, Aristote présente l'homme intelligent qui fait la loi comme évidente et naturelle.

 
Pas besoin de préciser, plus de 2000 ans après, que le train de pensée que ces hommes ont mis en mouvement n'est pas encore prêt à dérailler. Le philosophe australien Val Plumwood a affirmé que les géants de la philosophie grecque ont mis en place une série de dualismes qui continuent de façonner notre pensée. Des catégories opposées comme intelligent/stupide, rationnel/émotionnel et corps/esprit sont reliées, implicitement ou explicitement, à d'autres comme homme/femme, civilisé/primitif et humain/animal. Ces dualismes ne sont pas indépendants d'un système de valeur, mais tombent dans un dualisme plus large, comme le dit clairement Aristote : celui de dominant/subordonné ou maître/esclave. Couplés, ils font apparaître les relations de domination, comme le patriarcat ou l'esclavage, comme faisant partie de l'ordre naturel des choses.

On dit souvent que la philosophie occidentale, sous son aspect moderne, a débuté avec le roi du dualisme, René Descartes. À la différence d'Aristote, il n'accordait aucune intelligence aux animaux. Les facultés intellectuelles, prétendait-il, sont une affaire humaine. Il répercutait plus d'un millénaire de théologie chrétienne, qui faisait de l'intelligence une propriété de l'âme, une étincelle divine réservée seulement à ceux qui avaient assez de chance pour être à l'image de Dieu. Descartes faisait apparaitre la nature comme littéralement stupide et tout à fait dépourvue de valeur intrinsèque – ce qui légitimait ainsi une oppression en toute impunité sur les autres espèces.

 
L'idée que l'intelligence est l'apanage de l'humanité a persisté jusqu'au Siècle des Lumières. Elle a été adoptée avec enthousiasme par Emmanuel Kant, le philosophe de la morale probablement le plus influent depuis les anciens. Pour Kant, seules les créatures douées de raison avaient un statut moral. On nommait les êtres rationnels des 'personnes' et elles étaient 'des fins en soi'. Les êtres non rationnels, d'un autre côté, n'avaient qu'une valeur relative de par leurs facultés et donc on les appelait des choses'. On pouvait en faire ce qu'on voulait.
Selon Kant, l'être qui raisonne – aujourd'hui nous parlerions d'être intelligent – possède une valeur ou une dignité infinies, alors que les êtres irrationnels ou inintelligents n'en ont aucune. Ses arguments sont plus sophistiqués, mais dans l'absolu il arrive à la même conclusion qu'Aristote : il y a des maîtres naturels et des esclaves naturels et l'intelligence est ce qui les distingue.

 
Ce mode de pensée s'est répandu pour devenir un élément fondamental de la logique du colonialisme. L'argumentation était la suivante : les personnes qui ne sont pas de race blanche étaient moins intelligentes ; elles n'avaient donc pas les qualités requises pour se gérer elles-mêmes et gérer leurs terres. Il était alors parfaitement légitime – et même obligatoire, 'le fardeau des blancs' – de détruire leurs cultures et de prendre leurs territoires. De plus, comme l'intelligence définissait l'humanité, avec leur intelligence moindre, ces gens étaient moins qu'humains. Ils ne jouissaient donc pas d'une pleine considération morale – et il était de ce fait parfaitement correct de les tuer ou de les mettre en esclavage. 

 
La même logique s'appliquait aux femmes, qu'on considérait comme trop frivoles et sentimentales pour apprécier les privilèges permis à 'l'homme rationnel'. Dans la Grande-Bretagne du 19ème siècle, les femmes avaient moins de protection légale que les animaux domestiques, comme l'a montré l'historienne Joanna Bourke de l'université de Londres. Il n'est peut-être pas surprenant alors que pendant plusieurs décennies l'avènement des tests officiels d'intelligence avaient tendance à exacerber l'oppression des femmes plutôt qu'à y remédier.
Sir Francis Galton est considéré classiquement comme l'instigateur de la psychométrie, la 'science' qui mesure les facultés intellectuelles. Il s'était inspiré du livre De l'Origine des Espèces (1859) écrit par son cousin Charles Darwin. Ce qui amena Galton à penser que la capacité intellectuelle était héréditaire et qu'on pouvait l'améliorer par une reproduction sélective. Il décida de trouver un moyen pour identifier scientifiquement les membres les plus aptes de la société et les encourager à se reproduire – de manière prolifique et entre eux. On devait décourager la reproduction des moins intellectuellement capables ou même les en empêcher, au nom de l'espèce. Ainsi l'eugénisme et les tests d'intelligence sont nés ensemble. Dans les décennies qui suivirent, un très grand nombre de femmes à travers l'Europe et l'Amérique furent stérilisées de force après de mauvais scores sur ces tests – 20.000 dans la seule Californie.

 
Le niveau d'intelligence a servi à justifier certains actes de barbarisme les plus horribles de l'histoire. Mais la loi de la raison a toujours eu ses opposants. De David Hume à Friedrich Nietzsche et Sigmund Freud avec le postmodernisme, plein de traditions philosophiques ont contesté la notion que nous sommes aussi intelligents que nous aimerions le croire et que l'intelligence est la plus haute vertu.

 
La méritocratie de l'intelligence n'a toujours été qu'une justification de la valeur sociale – bien qu'elle ait été extrêmement influente. L'entrée dans certaines écoles et professions, comme celles du Civil Service [membres de la fonction publique] britannique, est basée sur des tests d'intelligence, mais d'autres domaines mettent l'accent sur des qualités annexes comme la créativité ou l'esprit d'entreprise. Et bien que nous soyons en droit d'espérer que nos fonctionnaires sont intelligents, nous ne choisissons pas toujours d'élire les politiciens qui semblent les plus intelligents. (Il est quand même révélateur qu'un homme politique qui se veut proche du peuple comme Donald Trump a senti le besoin de déclarer, parlant de son administration, 'nous avons de loin le QI le plus élevé de tous les cabinets jamais rassemblés'.)

 
Au lieu de récuser la hiérarchie de l'intelligence en tant que telle, bon nombre de critiques se sont axées sur une attaque du système permettant aux élites masculines de race blanche de s'élever au sommet. L'examen 11-Plus que j'ai passé est un exemple intéressant et profondément ambigu de ce système. Son intention était d'identifier des jeunesses brillantes de toutes classes et croyances. Mais en réalité, ceux qui l'ont réussi venaient de manière disproportionnée sortaient de la classe moyenne de race blanche assez aisée, dont les membres se sont retrouvés ainsi réaffirmés dans leur position et leurs avantages.

 
Si nous réfléchissons sur la manière dont l'idée d'intelligence a été utilisée pour justifier privilège et domination pendant plus de 2000 ans d'histoire, est-il étonnant que la perspective imminente de robots super-intelligents nous remplisse de crainte ?

 
De 2001 L'Odyssée de l'Espace aux films Terminator, les écrivains ont laissé libre cours à leur imagination avec les machines qui se dressent contre nous. Nous pouvons maintenant voir pourquoi. Si nous sommes habitués à croire que les places les plus élevées de la société doivent revenir aux plus intelligents, nous devons alors nous attendre à ce que des robots au cerveau plus développé prennent notre emploi et nous renvoient au bas de l'échelle. Si nous avons intégré l'idée que le plus intelligent peut coloniser par droit le moins intelligent, il est donc naturel que nous ayons peur d'être mis en esclavage par nos créations super-intelligentes. Si nous justifions nos positions de pouvoir et de prospérité en fonction de notre intellect, il est compréhensible que nous considérions l'IA avancée comme une menace existentielle.

 
Cette énumération des privilèges pourrait expliquer pourquoi la peur de cette fichue IA semble prédominante parmi les hommes blancs occidentaux. D'autres groupes ont enduré une longue histoire de domination par des gens qui se sont proclamés supérieurs et combattent encore leurs vrais oppresseurs. Les blancs, par ailleurs, sont habitués à être au sommet de l'ordre hiérarchique. Ils ont plus à perdre si de nouvelles entités arrivent à exceller dans ces mêmes domaines qui ont servi à justifier la supériorité masculine.

 
Je ne suggère pas que toute notre anxiété sur cette indésirable IA soit infondée. Il existe de réels risques associés à l'usage d'une IA avancée (ainsi que d'immenses bienfaits potentiels). Mais subir une oppression par des robots à la manière, disons, dont les peuples aborigènes d'Australie ont été opprimés par les colons européens ne vient pas en tête de liste.

 
Nous ferions mieux de nous inquiéter de ce que les humains pourraient faire avec l'IA, plutôt que ce qu'elle pourrait faire par elle-même. Nous autres humains sommes bien plus susceptibles de déployer des systèmes intelligents les uns contre les autres ou d'en devenir hyper-dépendants. Comme dans la fable de l'apprenti-sorcier, si l'IA cause un préjudice, c'est sûrement parce que nous lui donnons plein de bonnes intentions mais des buts mal pensés – et non parce qu'elle souhaite nous subjuguer. La stupidité naturelle plutôt que l'intelligence artificielle, reste le plus grand risque.

 
Il est intéressant d'imaginer comment nous verrions la montée de l'IA si nous avions une vision différente de l'intelligence. Platon pensait qu'il fallait persuader les philosophes de devenir rois, car ils préfèrent naturellement la contemplation à la maîtrise sur les hommes. D'autres traditions, particulièrement orientales, voient la personne intelligente comme quelqu'un qui méprise les pièges du pouvoir comme étant de la pure vanité et qui s'écarte de lui-même des futilités et tribulations des affaires quotidiennes.

 
Imaginez si de telles visions étaient répandues : si nous pensions tous que les gens les plus intelligents n'étaient pas ceux qui prétendaient régner par droit, mais ceux qui partent méditer dans des lieux écartés pour se libérer des désirs terrestres ; ou si le plus intelligent de tous était celui qui revenait pour répandre paix et inspiration. Craindrions-nous encore des robots plus intelligents que nous ?

2 commentaires:

  1. La stupidité naturelle plutôt que l'intelligence artificielle, reste le plus grand risque.
    Dit l'auteur .
    Je suis bien d'accord avec lui, c'est ce que nous voyons tous les jours !C'est à qui va être le plus stupide dans la campagne électorale en cours ! ! ! que ce soit du côté des futurs électeurs ou des éventuels élus !

    RépondreSupprimer
  2. Platon?!...vous avez surement voulu dire pléton....;-)

    RépondreSupprimer

Les commentaires sont validés après acceptation. Tout commentaire qui se veut une publicité cachée est refusé.