samedi 24 septembre 2016

Le robot qui pleurait


"Non ! C'est pas possible qu'il soit si méchant avec elle ! Je veux pas qu'il lui fasse du mal ! Je vais fermer les yeux..."


(ce post est la suite de "Alors le Petit Prince me dit : s'il vous plaît, dessine-moi un robot..." Il est préférable de l'avoir lu pour lire celui-ci. En résumé, nous réfléchissons sur les composants d'un robot humanoïde.)

L'homme se définit avant tout comme une machine à décider très sophistiquée. Mais je comprends ta question : le plaisir. L'homme est une machine à prendre des décisions guidées par la recherche du plaisir et l'évitement de la douleur. On n'implémentera pas la douleur dans le système du robot, on en a déjà parlé, ce n'est pas nécessaire. Mais si on veut que ce robot soit humanoïde, il faudrait quand même y mettre un circuit à donner du plaisir.

Un robot peut parfaitement fonctionner sans reward system. Mais on en mettra un dans notre robot pour qu'il soit vraiment humanoïde...

- Impossible. Ce n'est pas la même chose - quand je regarde les étoiles avec mon petit ami ou que je fais des choses malpropres avec lui... Il y aura forcément une perte d'humanité chez le robot. Mes petites étoiles sont irremplaçables.

- A voir. Cela ne m'étonnerait pas que l'extrême complexité des circuits de notre robot engendre des sensations de type madeleine ou autres en tant que phénomènes émergents. L'émergence, tu sais ce que c'est ? C'est l'apparition de phénomènes propres à un niveau d'organisation, phénomènes qu'on n'aurait pas pu prédire en étudiant chacun des éléments de l'organisation. Par exemple le phénomène embouteillage ne peut être prédit si on examine une seule auto, c'est un phénomène émergent.

- Tu veux dire que la complexité du cerveau engendrerait automatiquement une forme d'affectivité... La larme du robot... Mais tu n'en es pas sûr !

- Oui, c'est une vraie question. Est-ce que c'est la très grande complexité du cerveau qui a fait naître les émotions auxquelles tu sembles si attaché ? La télencéphalisation est le phénomène de l'évolution qui a aboutit à coiffer notre cerveau primitif (archéo- et paléo-cerveau) de cette casquette à l'envers qu'on appelle les hémisphères cérébraux. C'est son énorme extension qui nous différencie des autres animaux. On y trouve des structures liées au raisonnement, d'autres à l'émotion - pour simplifier énormément, les aires pré-frontales et les aires temporales. Elles sont arrivées en même temps dans la phylogenèse, et leur fonctionnement est très intriqué. Y a-t-il simple coïncidence ou lien entre ces deux apparitions ? Là, je ne peux pas croire à un hasard.

- Alors on doit penser que les émotions ont aidé à la mise en place des structures de raisonnement durant l'évolution...?

- Sans doute. Mais lui sont-elles encore indispensables aujourd'hui ? Ou bien doit-on considérer que les affects sont absolument nécessaires pour qu'existe un certain degré de complexité du raisonnement ? Ce qui rendrait vraiment plus compliquée la fabrication de notre robot humanoïde...

- Nous avons émis l'hypothèse selon laquelle les sentiments pouvaient être un phénomène émergent. Ils ne seraient qu'un effet secondaire de la complexité.

- Cette dernière hypothèse est un thème classique de science fiction : l'homme fabrique la machine, mais la complexité de la machine va être à l'origine de sentiments - qui se créent spontanément, à l'insu de l'homme. Et qui ne sont pas forcément positifs... Affaire à suivre !

Pour l'instant, nous revenons à la fabrication de notre robot. En théorie, il n'y a pas d'obstacle à la fabrication de robots à l'intellect humanoïde. Je ne crois pas que ce soit délirant de l'imaginer. Même si ce n'est pas pour demain. Mais voilà : est-ce que dans le futur, ce sera encore aussi excitant de reproduire un homme avec du silicium ? Là, j'ai de sérieux doutes.

En effet, on voit bien qu'aujourd'hui, l'humanité s'oriente plutôt vers la création d'un "homme augmenté". Ce sont des technologies qui sont maintenant à portée de main et en pleine expansion. Cet homme peut être augmenté sur le plan biologique à travers le génie génétique : imperméabilité à des attaques virales, bactériennes, limitation du vieillissement, remplacement d'organes à l'aide de cellules souches, eugénisme, etc. Il peut aussi être augmenté grâce à des technologies qui sont utilisées à des fins militaires. Un exemple tout simple, largement répandu : les outils de vision nocturne individuels ; ou encore : les exo-squelettes avec des vérins augmentant la force musculaire. Robocop, bionic man etc. existent déjà en partie. Et un homme doté de prothèses court plus vite qu'un homme dont les muscles des jambes sont faits de filaments de myosine et d'actine.

Le développement de l'homme augmenté va sévèrement concurrencer celui du robot pensant. Quand il n'y aura plus sur terre que des "hommes augmentés", qui aura envie de créer un golem qui sera à l'homme augmenté ce qu'est cro-magnon à homo sapiens ?

La science fiction se plait à mettre en scène des robots plus performants que les humains, qui menacent de prendre sa place. Ces productions seront regardées comme des vieilleries naïves. L'homme n'aura jamais à se protéger des robots. Les quelques robots à forme humaine seront des robots gardiens ou des robots sexuels - et il n'y aura pas besoin d'implémenter des fonctions très sophistiquées de réflexion pour répondre à une commande du genre "change ma couche" ou "taille-moi une pipe".

Parterre de fleurs dans le jardin de mon robot : il a l'âme délicate.