Double blind

 

Source : Ni dieu ni IA par Mathieu Corteel, une philosophie sceptique de l’intelligence artificielle, éditions La Découverte

Le fameux test de Turing s’inscrit précisément dans un dispositif qui élude la discontinuité physique entre l’humain et la machine. Pour que la machine réussisse le test et acquière des connaissances de niveau 2 [créativité et réflexivité] il faut oublier le support physique, l’escamoter. La machine doit donc paraître désincarnée et feindre la pensée humaine en incluant un temps de latence variable entre ses réponses. Elle doit même parfois y intégrer des erreurs. « Nous ne souhaitons pas pénaliser la machine pour son incapacité à briller dans des concours de beauté, et nous ne voulons pas pénaliser l’homme parce qu’il perd quand il court contre un avion » (Alan Turing : Les Ordinateurs et l’intelligence, 1950)

De fait, si on ne la masque pas, la machine ne paraîtra pas bien longtemps humaine. Car tout, dans l’ordre des phénomènes, nous en différencie. Et, pourtant, le lien communicationnel externalisé, et dissimulé dans la boîte noire, permet de faire du traitement de symboles une pensée en apparence vivante. L’incertitude étant au cœur de la pensée humaine, la machine doit feindre, voire délibérément tromper, pour simuler la pensée. Pour ainsi dire, le principe même du test de Turing repose sur l’illusion. Le langage de surface doit laisser penser que la structure profonde est la cause d’une individuation psychique ex machina.

Turing imagine donc un agencement connectant les fonctions du langage humain et de la machine. Il s’agit là du point de bascule vers la connaissance de niveau 2 qui tient à l’ancrage comportemental du test conduisant à l’animisme computationnel. En un sens, l’intelligence que le test de Turing mesure doit être comprise dans le sens de la théorie de l’esprit (mind) du philosophe Gilbert Ryle. Pour Ryle, il n’y a pas de fantôme dans la machine, il n’y a pas d’âme qui soit le duplicata réflexif de nos actions conscientes, il y a simplement des fonctions coordonnées qui fondent le système de représentation, c’est-à-dire l’esprit. De même que l’université d’Oxford n’est pas réductible à un bâtiment central tel qu’All Souls College ou la Bodleian Library, mais est constituée d’un réseau de collèges, de bibliothèques, d’étudiants, de professeurs et d’administrateurs occupant chacun une fonction, l’esprit humain renvoie à un réseau de neurones et d’actions et de paroles faisant système.

Si on comprend le système qui lie les mots et les actes, on peut en théorie parvenir à coder la pensée. C’est pour cela que Turing répond à la question « Les Machines peuvent-elles penser ? » d’une manière indirecte, sans entrer dans des digressions réflexives et métaphysiques. Le célèbre test a donc pour but d’évacuer les performances de la machine en fonction de l’incapacité de son interlocuteur de la distinguer d’un humain. Lorsque le test est réussi, on dit alors que la machine est intelligente.

Le test de Turing marque le point de bascule de notre culture dans le virtuel de l’animisme computationnel : ce qui compte, ce sont les externalités et non les processus internes… En admettant que le test ait été réussi, il ne révèle pourtant en aucune manière une forme de pensée dans la machine, mais simplement la puissance de l’illusion.