L’intelligence artificielle, avec ou sans matérialisme

Qu’on soit matérialiste ou non, il n’y a pas de moyen convaincant de rejeter la possibilité de l’apparition de machines intelligentes et conscientes. Dans un cas, il s’agira d’une émergence. Dans l’autre, d’une incarnation…

Le vaste et vieux débat concernant la possibilité de créer ou de voir apparaître des machines intelligentes et conscientes a été récemment relancé (à nouveau !) par la publication du dernier livre de Ray Kurzweil, La singularité est proche, un des fervents défenseurs d’une telle idée, qui envisage non seulement l’apparition de machines conscientes, mais aussi l’extension considérable de l’intelligence humaine, associée à des supports non biologiques.

Cela fait maintenant plusieurs années que des déclarations de ce genre se multiplient, appuyées sur des arguments de plus en plus précis et développés, et plusieurs années que différents acteurs des technologies de l’informatique et de l’intelligence artificielle développent, anticipent, s’enthousiasment, alertent ou mettent en garde. Pourtant, contrairement à ce qu’on peut voir se développer autour des questions concernant le génie génétique appliqué à l’homme, ou même simplement l’introduction des OGM (avec des enjeux pourtant moins fondamentaux et de moindre portée, sur les plans aussi bien philosophique que pratique), les comités d’éthique et les différents groupes d’influence dans le domaine social, politique ou dans le domaine de la pensée en général, ne semblent guère se saisir du problème. La raison en est probablement qu’ils ne se sentent pas réellement concernés. Ils le seraient pourtant – nous le serions tous ! – si la chose annoncée, à savoir l’apparition de machines intelligentes et conscientes, était en effet possible, et qui plus est à relativement brève échéance (une trentaine ou une quarantaine d’années, selon certains). Faut-il en déduire que pratiquement personne ne prend la chose au sérieux ? C’est probable. Pourquoi ? Sans doute essentiellement pour des raisons philosophiques. Il n’est pas rare de voir des esprits pénétrants considérer avec amusement les déclarations optimistes des tenants de l’intelligence artificielle (dans sa version forte), considérant que leurs efforts sont vains et que leur conception de la conscience et de l’intelligence humaine est à la fois naïve et limitée. Je partage ce dernier avis, mais pas nécessairement le premier.

Il semble que l’objection majeure à toutes ces anticipations, qu’elle soit exprimée explicitement ou simplement ressentie de manière intuitive (même par ceux qui professent une attitude philosophique opposée), est liée à une conception non matérialiste de la conscience. L’intuition commune est que l’augmentation vertigineuse des capacités de calcul et de la complexité des systèmes informatiques (au sens le plus large) va certes se poursuivre, et même s’intensifier, qu’elle permettra sans aucun doute d’augmenter la puissance technologique, de fabriquer des super ordinateurs effectuant des calculs ou des tâches automatisées actuellement inconcevables, mais que, pour autant, cela ne conduira jamais à la production d’entités conscientes. L’idée sous-jacente est que l’humain possède une dimension supplémentaire et que, pour le dire vite (même s’il faudrait parvenir à définir précisément les mots), les machines n’auront jamais d’âme et ne seront donc jamais conscientes. En d’autres termes, l’intelligence et la conscience relèvent du qualitatif, et non du quantitatif.

La plupart des tenants des thèses fortes sur l’IA (Intelligence Artificielle) soutiennent que ce point de vue est erroné, et que l’intelligence (au sens humain) et la conscience sont des propriétés émergentes, qui se manifestent spontanément dans certaines conditions, au-delà d’un certain niveau de complexité organisée de la façon adéquate. Les thèses apparaissent donc inconciliables, car sous-tendues par des conceptions fondamentales opposées. Pourtant, une analyse plus objective de la situation montre que des hypothèses contradictoires ne conduisent pas nécessairement ici à des conclusions opposées, bien au contraire ! Car contrairement à ce qu’il est commode (ou rassurant ?) de penser, il ne suffit pas d’être non matérialiste pour échapper à l’idée d’une machine consciente. En fait, la question du matérialisme est relativement indépendante de la question soulevée.

Pour un matérialiste pur et dur, non seulement la matière est première, mais il n’existe rien en dehors d’elle. La conscience ne peut donc être autre chose qu’un processus matériel, le corollaire d’un « calcul », c’est-à-dire d’un traitement d’information, apparaissant spontanément à partir d’un certain degré de complexité dans l’organisation de structures matérielles. Dans ce cas, bien sûr, rien n’interdit de penser que l’homme soit capable de produire de telles structures, et il est même tout à fait naturel d’imaginer qu’il y parviendra, à terme, ne serait-ce qu’en copiant les structures et le fonctionnement du cerveau humain (puisque aucun facteur d’une essence différente, aucune réalité cachée n’interviennent dans le processus). L’émergence aura lieu tôt ou tard, lorsque les modes d’interaction adéquats auront été identifiés, et la puissance suffisante mise en œuvre.

Pour un non-matérialiste, un tel raisonnement est une pure absurdité, le simple reflet d’une ignorance colossale en ce qui concerne la véritable nature de l’être humain, ou plus généralement de la conscience. Fort bien. Mais rien ne permet d’en conclure que l’apparition de machines intelligentes et conscientes soit impossible ou illusoire. Car si la conscience, l’esprit, l’âme (suivant la définition que l’on veut donner à ces mots) préexiste à la matière, qu’elle en est distincte, essentielle, ou tout du moins d’un autre ordre, on ne peut cependant manquer de remarquer, par un simple constat de fait, que cette essence/entité/substance/principe (ou ce qui correspondra le mieux à telle représentation philosophique) a, à travers le corps humain (au minimum !), accès au monde matériel. Or, si nous acceptons d’y réfléchir sans a priori, nous réaliserons que si une « âme » parvient à s’attacher à un corps humain matériel, à interagir avec lui ou à en prendre plus ou moins le contrôle, il n’y a pas de raison particulière, a priori, pour qu’il n’en aille pas de même avec une autre structure matérielle présentant des caractéristiques physiques analogues. Dans ce cas, si l’on peut dire, ce n’est pas une machine qui acquiert une âme, mais une âme qui acquiert une machine… 😉

Ainsi, qu’on adopte le point de vue matérialiste ou non matérialiste, rien ne distingue fondamentalement le corps humain physique d’une machine, sinon son degré de complexité ou son organisation particulière (que celle-ci résulte de l’évolution au hasard ou d’un dessein intelligent, d’ailleurs). Quelle objection de principe peut-on alors formuler contre l’apparition de machines intelligentes, sensibles et conscientes ? Dans les deux conceptions philosophiques extrêmes mentionnées ci-dessus, qu’une machine suffisamment complexe et sophistiquée (dans son organisation interne et ses interactions avec l’environnement) développe spontanément (matériellement) ce que nous appelons conscience, ou que la conscience s’en saisisse, trouvant là un support effectivement capable de l’accueillir, la conclusion concernant la possibilité d’une intelligence et d’une conscience à support non humain est la même ! (Dans une conception intermédiaire où, par exemple, la conscience est avant tout un processus, de nature abstraite, indépendant du support matériel ou non qui le met en œuvre, la même conclusion s’ensuit …)

Qu’est-ce donc qui empêche la plupart des penseurs de considérer une telle possibilité comme crédible ? Est-ce le sentiment que nous sommes en réalité très loin d’atteindre le degré de complexité nécessaire à l’émergence ou à « l’incarnation » d’une conscience (car c’est bien de cela qu’il s’agirait dans une perspective non matérialiste) ? Dans ce cas, puisque c’est alors un problème quantitatif, il serait bon de se pencher réellement sur les estimations des tenants du paradigme de l’IA forte, et de réfuter, le cas échéant, leurs conclusions. Mais peut-être oublions-nous tout simplement l’évidence qui veut que notre corps physique, quel que soit notre point de vue sur l’origine de la vie et de la conscience, est effectivement un corps physique, et donc, de fait, une machine (selon les définitions les plus générales de ce concept) ? Si on reste dans une conception non matérialiste, on ne saurait certes accepter qu’une « conscience artificielle » puisse être produite. Mais là n’est pas la question. Dans la perspective ci-dessus, ce ne serait pas la conscience qui serait artificielle, mais son support. Aussi l’apparition d’une machine intelligente et consciente ne signerait-elle nullement, dans ce cas, une compréhension par l’homme du mécanisme de la conscience, encore moins de sa nature, de son statut ontologique. Après tout, nous savons générer des êtres humains à partir de cellules sexuelles, et l’acte de reproduction lui-même est bien un acte humain, artificiel si l’on veut, en tout cas produit par l’homme en connaissance de cause et avec un but identifié : cela n’implique pas qu’on ait percé le mystère de la conscience ! En tout cas, si notre rejet de l’intelligence artificielle se fonde sur le sentiment que nous ne pourrons pas prochainement, voire que nous ne pourrons jamais, « comprendre » la conscience, il nous faut en toute rigueur abandonner non pas les prémisses, mais la conclusion. Les humains font des enfants, et la conscience émerge. Cela n’a jamais nécessité notre compréhension du phénomène, ni l’identification de la nature véritable de la conscience.

Depuis toujours, la question fait fantasmer les uns et paraît totalement saugrenue aux autres. Parmi les premiers, certains pensent aujourd’hui avoir de bonnes raisons d’anticiper l’émergence de machines intelligentes dans quelques décennies. Les autres n’estiment pas devoir y porter le moindre crédit, ni a fortiori s’en alerter. Mais sommes-nous bien certains de nos arguments ? Peut-être n’est-il pas inutile, quelles que soient nos conceptions philosophiques ou métaphysiques, de réfléchir à la question de « l’incarnation »…

Un corps neuf

À l’aube, ce matin, sur l’île de la Cité…

Un arbre offrira sa splendeur à l’été, mais l’hiver seul en saisit la beauté !

Un arbre en hiver...

En cette aube universelle qu’est l’hiver en majesté, peut-être les arbres nous enseignent-ils le secret ténu de la majesté intime : vivons dans l’azur dépouillés ! …

En ce jour particulier, hommage à la fleur éclose du vide :

Un corps neuf
Amoureusement fidèle
C’est la grâce de Dieu qui descend
Sur le monde et chaque instant
Dans sa chair le renouvelle

ET

.

PS: Bonne fête à tous les amoureux !

Par la Nature, heureux…

On dit que lorsque la mort s’en vient, qu’elle se fait vraiment imminente et qu’on en perçoit l’inéluctabilité foncière, on l’accepte avec paix et sérénité, peut-être même avec la sorte de bonheur qu’évoque Rimbaud dans Sensation : « Par la Nature, heureux comme avec une femme ». Par la Nature, heureux… Je me disais que ce qui permet à la mort, sinon d’être agréable, du moins d’être ainsi agréée par l’Homme (même le plus agnostique), c’est probablement son implacabilité même. Si elle était soumise à la contingence, si elle dépendait du bon vouloir d’un être, fût-il divin, le scandale qu’elle représente ne pourrait sans doute pas être dissipé. Mais à l’heure de sa venue, et presque par définition, la mort est implacable en ce sens qu’il n’est pas même de son ressort de différer. Elle est, tout simplement — « Par la Nature » — et cette perception la rend en quelque sorte humaine. Peut-être l’abandon qui l’accompagne est-il alors cet abandon spontané au mouvement de la Nature.

Enfin, je ne sais pas…
Je réfléchissais simplement à la situation du monde, à sa complexité, tentant d’atteindre une perspective qui lui donnerait un sens ou qui pourrait faire surgir un peu d’optimisme. Et puis je me suis souvenu de cette réplique de Jean-Pierre Marielle dans un film de Claude Berry (dont j’ai oublié le titre) : « Ton optimisme est plus tragique que mon pessimisme ! ».

C’est vrai. Dans la situation présente, il n’est de place pour l’optimisme, qui ne pourrait trahir qu’un tragique aveuglement ou une dénégation contreproductive de la réalité. Mais paradoxalement la perception de l’inéluctabilité du désastre, sous une forme ou sous une autre (plus sûrement sous l’une et l’autre), fait surgir une forme de paix consciente. On dirait que, dans le registre qui lui est propre, l’abandon de l’esprit à la vérité d’une situation coïncide avec l’abandon de la conscience à l’être, ou dans un autre registre encore, avec l’abandon de la vie au flot de la Nature.

Sensation

Par les soirs bleus d’été, j’irai dans les sentiers,
Picoté par les blés, fouler l’herbe menue :
Rêveur, j’en sentirai la fraîcheur à mes pieds.
Je laisserai le vent baigner ma tête nue

Je ne parlerai pas, je ne penserai rien :
Mais l’amour infini me montera dans l’âme,
Et j’irai loin, bien loin, comme un bohémien,
Par la Nature, – heureux comme avec une femme.

Arthur Rimbaud

Honte et indignité

À la stupéfaction avait d’abord succédé la déception, mais voici maintenant la honte !

Que des entreprises comme Carrefour ou Nestlé aient pu utiliser la situation provoquée par ces fameux dessins danois comme argument commercial m’emplit de tristesse et de honte. Comment le croire ? Ils ont fait paraître des publicités anti-danoises dans des journaux arabes et ont appliqué eux-mêmes ce boycott insensé des produits danois… mais seulement dans des supermarchés du monde arabe, bien sûr ! Tout est bon pour ce capitalisme délirant qui se porte, peut-être sans même s’en rendre compte (croyant simplement pouvoir tenir le business en dehors de la politique), au cœur de l’ignoble : « Non, non, on n’est pas comme eux, comme ces maudits blasphémateurs, ces mécréants racistes, ces coupables impies. Oui, oui, condamnez-les, assassinez-les, mais s’il vous plaît, continuez à acheter nos produits ! ».

Puisque manifestement les intérêts commerciaux doivent toujours être placés au-dessus de toute réflexion sur les valeurs humaines, il n’est probablement pas étonnant que ces valeurs soient d’une part laissées à l’abandon là où elles sont parvenues à se manifester après de siècles de lutte, et d’autre part attaquées farouchement là où les dirigeants en place n’ont nul désir de les voir se manifester. Et c’est le paradoxe inouï de la situation : ce capitalisme qu’on dit sauvage, mais qu’il faudrait songer à qualifier de barbare, est justement un des éléments principaux qui justifient – à raison, cette fois ! – le rejet catégorique de la culture occidentale dans certaines parties du monde. Et, bien entendu, « nous » (qui tentons, dans la mesure de nos moyens, de penser la situation à une échelle plus globale et plus humaine) sommes pris entre deux courants absurdes qui se croient tellement opposés l’un à l’autre qu’ils ne comprennent pas que nous puissions les rejeter l’un et l’autre.

Business is business. Surtout ne pas prendre parti. Mais quand comprendrons-nous enfin que ne pas prendre parti dans une situation de guerre ouverte revient systématiquement à prendre le parti de (celui qu’on perçoit comme) le plus directement menaçant ? C’est tellement facile de retirer les produits danois de ses rayons en Égypte ! Et c’est tellement facile aussi de les y laisser… au Danemark ! L’argument, on le devine aisément : « nous ne faisons pas de politique, nous nous adaptons au client, nous sommes là pour le satisfaire… » !

Le pire, c’est que dans la logique qui s’est installée depuis maintenant de nombreuses années, on serait presque tenté d’admettre que ce genre d’attitude est inévitable. Mais dans une période où les situations se cristallisent, comme les drames se nouent et se révèlent dans les tragédies grecques, il est tout aussi inévitable que les contradictions engendrées par cette attitude ne puissent plus être esquivées. Bientôt, demain peut-être, il ne suffira plus, pour le client du Caire, que Carrefour retire ses produits danois des étalages au Caire : il exigera aussi qu’ils les retirent à Copenhague. Et inversement, le client danois boycottera Carrefour qui boycotte ses produits à Ryad. Les petits arrangements entre malfaiteurs sont parvenus à leur terme, car le niveau d’absurdité atteint devient visible même aux plus endormis.

Euh… à vrai dire, cette dernière phrase me paraît sonner faux !

Non, manifestement, l’absurdité n’est pas encore apparue à la plupart d’entre nous sur cette Terre. Inutile de nous leurrer. Chacun préfère le calme et la tranquillité, qui n’est rien d’autre que la mort !
Honte ! Honte à nous ! Honte et indignité devant l’âme humaine !

Hier, à 19h25 exactement, heure française, j’ai aperçu du coin de l’œil un point lumineux s’enflammer dans le ciel. J’ai tourné la tête : il était énorme, intense et tombait longuement, avec une parfaite verticalité sur l’horizon sud. Son feu durait, durait, durait encore : c’était incroyable ! À un moment, et c’est la première fois que je ressens cela avec une étoile filante, j’ai été saisi d’effroi. Une peur réflexe, biologique sans doute. Ce trait de lumière ne s’arrêtait pas : je me suis dit un instant qu’il allait toucher le sol ! C’était vraiment incroyable. Et puis finalement non.

Quelqu’un d’autre a-t-il vu ce… je n’ose pas dire « ce doigt de Dieu s’abattant sur la Terre », ça ferait s’étouffer mes collègues scientifiques. Non, non, c’est complètement idiot. Heureusement, d’ailleurs ! Car c’eut été le doigt d’un dieu bien inquiétant : après quelques secondes de saisissement, je parcourus du regard ce ciel, d’une limpidité parfaite, pour me repérer rapidement et orienter le phénomène, et je découvris que le trait lumineux qui s’était ainsi abattu verticalement sur l’horizon provenait directement… de Mars !

ET

Déception et responsabilité

Quelle déception de voir nos représentants politiques, de tous bords, abdiquer chaque jour un peu plus les principes les plus fertiles et les plus dynamiques de notre société ! Ces mêmes valeurs qui nous ont fait hier nous dresser avec force (et très officiellement !) contre l’agression américaine en Irak, devraient aujourd’hui nous commander de ne rien céder au chantage de la terreur – et surtout pas nos quelques lumières décidément chancelantes ! Ne serions-nous capables que de domination ou de fuite, que d’arrogance ou de docilité ?

On nous dit ou l’on nous laisse entendre qu’il serait tout à fait irresponsable d’être simplement ce que nous sommes. N’est-ce pas invraisemblable, aujourd’hui encore, d’entendre George W. Bush (oui, oui, celui de la guerre en Irak !) et Vladimir Poutine (oui, oui, celui de la guerre en Tchétchénie ! ) donner des leçons de modération (!!!) au Danemark ? Et tout cela sous le regard contrit d’une Europe absentée…

Probablement disposent-ils d’informations spécifiques sur le caractère éminemment explosif de la situation. Mais il n’y a qu’une seule réponse acceptable : « Et alors ? » ! Quelles que puissent être les menaces, manifestes ou latentes, il est illusoire de penser que notre recul les feront disparaître.

À l’heure où se multiplient les appels à la « responsabilité » — qu’on se garde bien de nous définir en termes explicites, d’ailleurs… — rappelons-nous aussi cette suggestion de Winston Churchill :

« Perharps it is better to be irresponsible and right than to be responsible and wrong. »
[« Peut-être est-il préférable d’être irresponsable et d’avoir raison, que d’être responsable et d’avoir tort. »]

ET

Pas de répit

Non, finalement, pas de répit.

L’escalade continue. Quoique, à vrai dire, je ne sais pas s’il faut parler d’escalade. Ce terme convient mieux à une situation où, dans un va-et-vient incessant, deux camps se radicalisent l’un face à l’autre et vont chaque fois plus loin dans la provocation et la dénégation de l’autre. Il me semble ici que le camp des accusateurs outragés se radicalise unilatéralement, prenant appui sur la manifestation de haine de la veille pour intensifier l’appel au meurtre du lendemain, comme si les foules hurlantes s’escaladaient elles-mêmes.

La fièvre ne retombe pas, mais comment le pourrait-elle ? Aucun appel au calme n’a été lancé du côté des populations jetées à âme perdue dans cette effroyable explosion de violence aveugle. Les gouvernements concernés n’ont fait qu’encourager les manifestations, exacerber les haines et parfois même ajouter des motifs insensés à des motifs douteux. Les rares voix courageuses (héroïques ?) qui ont tenté de lancer un appel à un peu de raison se sont vues étranglées et jetées en prison. Pourquoi la folie prendrait-elle fin ?

Mais face à une telle auto-escalade vers le désastre, le silence timide, transi ou panique des démocrates officiels n’est-il pas moins coupable ? Je suis effaré par la capitulation implicite des représentants autorisés de nos valeurs les plus précieuses et si chèrement gagnées au cour des siècles !

Il y a plus de siècles, Benjamin Franklin prononçait ces paroles lourdes et prophétiques (lues sur le forum des HA) :

Ceux qui sont prêts à sacrifier un peu de libertés fondamentales en échange d’un peu de sécurité ne méritent ni l’une ni l’autre.

Il me souvient également ces vers de Yeats, tirés de son poème « The second birth » (la seconde naissance), sur la naissance de l’antéchrist, vingt siècles après celle de Jésus :

the best lack any conviction, while the worst
are full of passionate intensity

(Les meilleurs manquent de tout conviction, tandis que les pires
sont pleins d’intensité passionnée…)

Les voies de l’évolution sont impénétrables : les autruches n’ont que des simulacres d’ailes et ne savent plus voler depuis longtemps, mais je crois qu’elles sont menacées de disparition pour de bon !

Faut-il s’en alarmer ? Inutile de pondre de beaux gros œufs parfaits qu’on range dans les vitrines : il est temps de sortir nos têtes du sable !

ET