• Catherine

Que doit-on craindre davantage : l'intelligence artificielle ou la bêtise humaine ?

L'intelligence artificielle (IA) a le vent en poupe. À tel point que ses succès, et ses conquêtes, pourraient faire d'elle une grande menace pour l'humanité. L'homme équipé de sa modeste intelligence naturelle doit-il donc avoir peur d'une concurrence (déloyale) de l'IA ?

Se pencher sur cette question expose à quelques surprises.

De l'intelligence artificielle

L'IA a effectué, ces dernières années, de grandes percées. Reconnaissance d'images, aide au diagnostic médical, traduction automatique, lecture sur les lèvres, assistants vocaux, compréhension du langage naturel, véhicules autonomes : nombreux sont les domaines où les progrès sont impressionnants. Ainsi l'IA progresse de façon indéniable dans la maîtrise d'opérations intellectuelles et dans la rationalisation de procédures efficaces. Elle peut effectuer, beaucoup mieux que nous, un grand nombre de tâches. Les réseaux de neurones artificiels sont capables de reconnaître des formes, des caractères manuscrits, d'identifier, de classer.


En quoi, alors, ces progrès sont-ils une menace pour l'homme ?


On imagine le développement de technologies s'incarnant dans des robots capables de penser comme nous, et finalement mieux que nous, qui pourraient nous survivre voir nous remplacer…

On craint le saut qualitatif que constituerait l'émergence d'une IA capable de s'améliorer elle-même, jusqu'à dépasser l'homme.

On craint les possibles actions néfastes de robots dotés d'une autonomie dépassant le seul champ technique, et capables de prendre des décisions d'ordre éthique, alors même qu'ils seraient dépourvus de conscience éthique. Mais l'intelligence se réduit-elle à la capacité de produire des opérations intellectuelles et à la maîtrise de procédures efficaces ?


L'intelligence artificielle est d'ordre technologique. "Ça marche" (pour opérer certains gestes intellectuels, et conduire efficacement certaines actions) est-il le dernier mot en matière d'intelligence ? Dans l'expression "intelligence artificielle", le terme "intelligence" est-il à sa place ? Car, au fond, qu'est-ce que l'intelligence ?

De l'intelligence naturelle

René Zazzo propose de rayer du vocabulaire le terme nu d'intelligence, parce que signifiant trop, il ne signifie rien. Ce qu'on appelle intelligence est pluriel : il faudrait considérer une dizaine d'intelligences différentes. Bien plus, l'intelligence réside dans le bon usage de ses capacités cognitives. Il faut les utiliser à bon escient. Descartes l'avait très bien vu : ce n'est pas assez d'avoir l'esprit bon, mais le principal est de bien l'appliquer.


Cela nous éloigne d'une conception qui réifierait l'intelligence, la transformant en chose que chacun posséderait plus ou moins. On peut en effet concevoir l'intelligence d'au moins trois façons :

- comme une donnée d'ordre biologique (conception héréditaire) ;

- comme le résultat d'une construction concrète et progressive (conception constructiviste) ;

- comme une exigence : exigence de se construire intelligent (conception perfectionniste, fondée sur l'idée rousseauiste de perfectibilité).


Si les deuxième et troisième conceptions sont les plus pertinentes, alors, d'une part, l'intelligence, comme capacité de distanciation et conscience critique, est le résultat d'une conquête de tous les jours. C'est en ce sens qu'Alain disait que "chacun est juste aussi intelligent qu'il veut". Et, d'autre part, elle constitue une réalité paradoxale.


Comme le chante avec à-propos Brassens (Ceux qui ne pensent pas comme nous) :

Entre nous soit dit, bonnes gens, pour reconnaître que l'on n'est pas intelligent, il faudrait l'être.

Ne pas comprendre cela pourrait être un indice de "connerie". Mais alors, qu'est-ce que la connerie ?

De la connerie naturelle

René Zazzo pense que l'on peut être à la fois con et intelligent, et "le contraire de la connerie, ce n'est pas la logique". Ce contraire serait donc une forme d'intelligence différente de l'intelligence logique (celle de l'IA), forme dont la connerie signifierait l'insuffisance, ou l'absence. Intelligence que l'on pourrait définir comme la conscience de ses insuffisances et de ses limites. D'où la clé du paradoxe : pour reconnaître que l'on n'est pas intelligent (que l'on ne met pas suffisamment en jeu cette conscience critique), il faut l'être, c'est-à-dire être capable de conscience critique. Cette autre dimension de l'intelligence, la plus haute, serait en quelque sorte un antidote pour la connerie.


Précisément, le propre d'un con est de ne pas se douter qu'il l'est. Pour le savoir, il lui faudrait se décentrer, se voir avec les yeux d'autrui… Ce qui suppose alors qu'il ne le serait pas. Le drame est que la connerie est hélas très répandue. Dans une recherche portant sur elle, les volontaires pour constituer la population d'expérience, ce n'est pas ça qui manque. Les exemples abondent de connerie à l'état brut, celle qui fait plonger dans une piscine sans eau, courir sur le toit des trains qui vont passer sous des tunnels, ou se mettre à quinze pour tabasser sans raison un lycéen sans défense.


Ainsi, la tension qui oppose l'insuffisance de maîtrise à l'efficacité technique, pour laquelle l'IA serait supérieur, ne se superpose pas avec une autre tension, qui oppose connerie et intelligence critique. Comme elles ne jouent pas sur le même terrain, l'intelligence humaine (en tant que critique) n'aurait pas à craindre l'intelligence artificielle.

Mais est-on cependant sûr d'être à l'abri de l'émergence d'une connerie artificielle ?

De la connerie artificielle

A priori, la connerie est le propre de l'homme. Concernant l'échec d'APB, ce n'est pas l'algorithme en lui-même qui est responsable de l'énorme couac qu'a connu l'affectation des lycéens dans les établissements d'enseignement supérieur, car les problèmes rencontrés relèvent de la responsabilité politique. Le logiciel en lui-même n'a rien à se reprocher. La connerie est humaine, non technique. Pourrait-on cependant identifier les circuits neuronaux de la connerie, élaborer des programmes permettant d'être toujours plus cons, et construire des robots experts en connerie ? Mais à quoi cela servirait-il : nous sommes déjà si forts en connerie naturelle !


L'intelligence artificielle est une forme acérée d'intelligence logique, mais non encore d'intelligence critique. Il est donc logique que nous n'ayons pour l'instant (mais, à mon avis, pour toujours, la connerie n'étant le propre que de l'homme, et ne se manifestant ni chez les animaux, ni chez les végétaux), aucune preuve de connerie artificielle. Pour arriver à ce stade, il faudrait que les robots et programmes aient accès à l'intelligence critique, dont la connerie humaine naturelle est comme le témoin en creux. Aller toujours plus loin dans le champ de l'intelligence logique ne fait courir aucun risque de connerie, sauf à celui qui ferait un usage non critique de cette forme d'intelligence, et qui serait donc déjà con par nature. Paradoxalement, la connerie est notre arme fatale contre de possibles excès de l'IA.

Répondons enfin à notre question de départ

Faut-il donc craindre aujourd'hui l'intelligence artificielle ? Nous pouvons certes craindre une forte disparition d'emplois sur des tâches automatisables. Mais le problème est alors celui de la juste répartition des richesses produites et de la place à donner au travail dans la vie humaine. Problème que l'homme, s'il n'est pas trop bête, devrait pouvoir résoudre intelligemment.


Décidément, nous pouvons conclure que l'intelligence artificielle est beaucoup moins à craindre que la connerie naturelle, qui triomphe malheureusement (entre autres !) chez de trop nombreux chefs d'État. Par pure charité, nous ne citerons aucun nom. Mais, hélas, ils ne se reconnaîtront pas, puisqu'ils sont cons... Espérons qu'ils finissent par être touchés par la grâce de l'intelligence critique, celle qui fait douter de soi, s'interroger sur la valeur de ses actes et les conséquences de ses décisions.

De la bonté salvatrice

Une dernière observation toutefois. À côté des tensions opposant l'insuffisance opératoire à la maîtrise technologique, et la connerie à l'intelligence critique, il faut distinguer une troisième tension, elle aussi non superposable, qui oppose gentillesse à méchanceté. Car, comme l'a encore bien vu Brassens, quand les cons sont braves, il n'y a guère de mal. Les difficultés naissent du mélange des genres, quand les cons sont des peaux de vache.


Souhaitons donc qu'un sursaut de bonté vienne accompagner le développement de la forme la plus haute d'intelligence naturelle. Celle qui nous conduirait, entre autres, à faire un usage intelligent de l'intelligence artificielle…


Conclusion : paix sur terre à tous les êtres humains de bonne volonté, pour peu qu'ils ne soient pas trop cons, plutôt braves, et fassent preuve un tant soit peu d'intelligence critique…

    ​2020 - par Dhyâna Massages

    1/110