Manifeste pour des Études Critiques de l’Intelligence Artificielle – Marcello Vitali-Rosati – 25/04/2025
Introduction
Le discours publicitaire et médiatique relatif à ce que l’on désigne sous le terme « intelligence artificielle », parfois complété par l’adjectif « génératif », occupe une place croissante dans l’espace public. Ce texte est un manifeste, adressé à la communauté de recherche en sciences humaines et plus particulièrement en humanités numériques pour faire face à l’idéologie et aux approximations de ce discours en développant de véritables Études Critiques de l’Intelligence Artificielle (ECIA)1).
La méthodologie critique de cette approche consiste en une sorte de révolution copernicienne : au lieu de se demander si les machines sont intelligentes, il s’agit de comprendre comment certaines approches algorithmiques définissent l’intelligence2. Les approches computationnelles modélisent en effet de manière précise des compétences, des capacités, des concepts, des visions du monde. L’objet des ECIA est d’analyser les algorithmes et les applications pour s’interroger sur les valeurs et les idées qu’ils implémentent. Au lieu de parler d’intelligence artificielle, il s’agit d’identifier des « modèles de définition de l’intelligence ».
Dans la continuité des Critical Code Studies3, les ECIA ont l’ambition de lire le code des algorithmes dits d’intelligence artificielle avec les outils qui nous sont propres, soit les outils herméneutiques (au sens large) des sciences humaines, à partir d’un point de vue épistémologique qui s’ancre dans les savoirs de nos disciplines littéraires4. Cela nous permet d’analyser le sens de ce code pour comprendre quelles visions du monde, quelles valeurs et quelles implications éthiques il véhicule.
Que nous considérons-nous comme intelligent ? Pourquoi ? Comment définissons-nous différentes formes d’intelligence et quelles sont celles à qui nous accordons une valeur symbolique importante\ ? Ce sont les questions au coeur des ECIA.
Que signifie “IA”?
Il est tout d’abord fondamental de questionner la signification même d’expressions telles que “Intelligence artificielle” ou “intelligence artificielle générative”.
En effet, loin d’avoir une signification précise, ces expressions renvoient à un engouement médiatique qu’il est nécessaire d’analyser.
Il y a une vingtaine d’années, le mot “numérique” avait un succès comparable5. Le mot “virtuel” l’avait précédé6.
J’avais souligné, avec d’autres7, le fait que “numérique” faisait davantage référence à une époque qu’à des technologies précises. Aujourd’hui, on dirait que le syntagme “IA” a remplacé “numérique”. Et comme pour le premier, l’expression “IA” signifie une culture, un ensemble complexe de dispositifs, de visions du monde, de valeurs. Ainsi, au lieu de parler d’IA pour désigner des applications ou des approches précises, on utilise l’expression pour désigner une société. De la même manière qu’il y a quelques années on disait “à l’époque du numérique” (ce fut le titre de plusieurs livres, articles et conférences), on peut dire aujourd’hui “à l’époque de l’IA” ou bien “à l’époque de l’IA générative” – ou “à l’époque de chatGPT”8.
Cet usage vague et imprécis ne peut être naïvement accepté. Il cache un danger : car on parle d’IA à la fois pour se référer à notre société – et donc “IA” a une signification très large, qui ne se limite ni à une série d’approches computationnelles ni à une série d’applications, mais sert uniquement à nommer les changements à la fois culturels et sociaux, techniques et politiques d’une époque – et, dans le même temps, pour se référer à une poignée d’applications très précises. Le syntagme implique une réduction et une uniformisation des visions du monde : il réduit une culture à ce que nous propose un petit groupe d’entreprises. Ainsi “IA” devient synonyme de chatGPT ou de la dernière application de chat à la mode. On réduit la complexité d’un sujet à l’impact publicitaire d’une compagnie privée qui lance son propre outil bon à tout faire9.
Si l’on essaye d’identifier une signification plus précise et spécifique, on est vite désemparé. À différence du mot “numérique”, qui, dans son sens propre, renvoie à une représentation atomique et discrète d’un signal, l’expression “IA” ne renvoie à aucune approche particulière. Tout ce qui peut être réalisé par une machine peut être considéré de l’IA10.
En ce qui concerne l’idée de “génératif”, cet adjectif est encore plus ambigu. En effet : toute fonction est par définition “générative”. Une fonction prend une valeur en entrée et génère une valeur de sortie. Concrètement, une application qui produit du texte – comme un chatbot – n’est pas plus “générative” qu’une calculette. La première aura un input de type “mot1 mot2 mot3 mot4” et donnera un output de type “mot5 mot6 mot7 mot8” (sur la base d’une distribution de probabilités), la seconde un input de type “chiffre opération” et un output de type “chiffre”. Il n’y a rien de plus “génératif” dans une application qui calcule une distribution de probabilités de mots.
D’un point de vue purement computationnel, il n’y a aucune différence entre une application comme chatGPT et un algorithme effectuant une recherche dans une liste d’articles ou de mots-clés. Il n’y a donc finalement aucune différence entre “IA” et “numérique”. Si l’on veut comprendre ce qui est en train de se passer aujourd’hui, et les raisons de l’engouement du discours médiatique et publicitaire, il est donc nécessaire de mettre entre parenthèses ces derniers et de se concentrer sur ce qui nous intéresse véritablement.
En d’autres termes, plutôt que de se laisser éblouir par un chatbot, il s’avère nécessaire de concevoir des approches analytiques rigoureuses, axées sur l’examen minutieux des méthodes computationnelles en vigueur, des applications concrètes et des contextes d’utilisation. Cette démarche implique simultanément une expertise en décryptage de code et une évaluation théorique de ses répercussions.
Une farce de Turing
Le premier objectif des ECIA est de comprendre ce que l’on définit comme “intelligence”. D’infinies définitions sont possibles et nous devons comprendre que l’affirmation “cet agent est intelligent” est toujours conditionnelle à une définition de l’intelligence. En d’autres mots, toute affirmation d’intelligence – qu’elle se réfère à une “machine”, à un “animal” ou à un “humain”11 – est toujours une affirmation du type “si l’on admet que l’intelligence est ceci, alors X est intelligent”.
Cette affirmation conditionnelle est au centre du texte d’Alain Turing, Computer machinery and intelligence, auquel il me semble fondamental de revenir. Trop souvent cité comme un outil pour « mesurer\ » l’intelligence des machines (le « test de Turing »), ce texte pose en réalité le problème tout autrement : loin de mettre en scène une course entre êtres humains et machines, Turing souligne la nécessité de s’interroger sur les définitions des concepts et en particulier sur la possibilité de donner une définition d’intelligence. L’article de Turing peut en ce sens être considéré comme fondateur d’une réflexion critique sur les modèles de définition de l’intelligence.
Ce texte mêle une grande profondeur d’analyse et une extraordinaire précision conceptuelle à un humour subtil, essentiel pour la compréhension du propos et qui n’a pas été suffisamment relevé dans ses innombrables commentaires et interprétations12. Il est utile donc d’y revenir en détail pour tenter d’en saisir le sens et les implications.
La question à laquelle Turing a l’ambition de donner une réponse est : « les machines peuvent-elles penser ? ». Mais qu’est-ce que « penser »? Qu’est-ce qu’une « machine » ? Ce qui est remarquable dans la démarche de Turing est justement sa sensibilité à l’ambiguïté des définitions. C’est l’aspect qui nous intéresse le plus ici, car cette sensibilité aux définitions est au cœur des ECIA. Nous allons voir que toute définition n’a de sens que par rapport à son degré de non ambiguïté. Une définition précise certaines limites, trace des frontières, mais laisse forcement certains aspects non explicités. La définition pourra donc être utilisée pour produire des analyses et tirer des conclusions, mais seulement par rapport aux aspects sur lesquels elle est complètement explicite, aux éléments dont les frontières ont été tracées de manière nette. Ce qu’on doit retenir du texte de Turing est que la qualité d’une définition ne se mesure pas sur la base d’une hypothétique correspondance avec la réalité, mais sur la base de sa non ambiguïté sur les aspects qu’elle essaie de saisir.
On a souvent lu le texte de Turing comme si son intention était de démontrer que les machines peuvent penser – c’est en effet la conclusion explicite de l’article. Mais une lecture plus attentive révèle que la thèse démontrée par le mathématicien est toute autre : Turing propose une affirmation conditionnelle. Il démontre que, si l’on définit la pensée d’une certaine manière – avec une définition précise et formelle –, et si l’on définit la machine d’une certaine manière – avec une autre définition précise et formelle –, alors la machine peut penser13. Les deux conclusions peuvent sembler identiques, mais elles ne le sont pas du tout14 : car le texte de Turing est loin de vouloir proposer – sérieusement – une définition formelle de la pensée, ni même de vouloir imposer une définition unique de la machine. Il me semble évident que Turing non seulement ne dit pas que la définition de pensée qu’il propose est la seule possible, mais aussi qu’il ne la propose qu’ironiquement. La définition de Turing est finalement une farce15.
Pour donner une définition non ambiguë de ce qu’est penser, Turing propose le jeu de l’imitation. L’idée en elle-même est comique et Turing est indubitablement en train de faire preuve d’ironie et d’un grand sens de l’humour. Ce que nous propose le mathématicien anglais est une démystification comique d’une des notions les plus sacralisées dans l’histoire humaine. La pensée, cette caractéristique des êtres humains qui semble, dans plusieurs visions métaphysiques, les élever au dessus de toutes les choses de l’univers et de les rapprocher de Dieu, est une notion finalement définissable à l’aide d’un jeu de société. La question « les machines peuvent-elles penser ? » est transformée en « une machine sera-t-elle autant bonne qu’un homme16 à jouer un jeu de société? ».
Plusieurs remarques s’imposent. En premier lieu, le choix du jeu de société : un jeu assez stupide, axé sur une idée banale, figée et stéréotypée de genre. Il s’agit d’un jeu qui caractérise un certain type de vivre ensemble, le jeu de rôle que nous jouons quotidiennement en incarnant l’identité qui nous est attribuée par les conventions et les contraintes sociales : les femmes avec des jupes et des cheveux longs, les hommes avec des pantalons et des moustaches. Voilà comment on peut définir la pensée : la capacité de jouer cette mascarade. Voilà la caractéristique sacrée qui nous élève au dessus de tout ce qui existe17.
Une définition de machine ?
Pour donner une définition de machine, Turing reprend son ton ironique et farceur. La première proposition est celle d’essayer de faire la distinction, de manière formelle, entre ce qui est naturel et ce qui est artificiel. Après avoir affirmé qu’on devrait pouvoir accepter comme étant des « machines » n’importe quel type de technologies, Turing s’interroge sur la manière de distinguer ce qui est technologique de ce qui est humain, et il affirme :
On pourrait par exemple insister sur le fait que l’équipe d’ingénieurs [qui produit l’artefact technologique] devrait être toute du même sexe, mais ce ne serait pas vraiment satisfaisant, car il est probablement possible de construire un individu complet à partir d’une seule cellule, disons de la peau d’un homme.
C’est encore très clairement une farce. L’image est encore une fois comique : des ingénieurs qui, pour arriver à « créer la machine parfaite », s’accouplent et génèrent des enfants. Le trait d’humour est là pour souligner, à nouveau, la nécessité d’avoir des définitions formelles précises. Turing nous dit qu’il n’y a pas de différence donnée et absolue entre l’humain et la machine. Il est impossible de le faire. Il faut juste tracer des frontières, claires même si par nature arbitraires. On pourrait en effet accepter qu’un enfant est une création artificielle de deux êtres humains et de ce fait le considérer comme une « machine » créée par ces deux personnes. Si l’on veut l’exclure, il faut trouver des critères formels : interdire par exemple l’accouplement. Mais cela ne sera pas suffisant : quid d’un enfant cloné ? Est-il une machine ? Ces questions ne sont, en réalité, ni oisives ni comiques. Elle tournent plutôt en ridicule la foi en des essences données et absolues.
Finalement, après ces digressions, la définition de « machine » proposée par Turing est plus sérieuse : c’est ce qu’on appelle une « Machine à États Discrets » (MED). Il s’agit d’un dispositif capable de manipuler des symboles discrets et d’appliquer des instructions fournies avec d’autres symboles discrets. Une machine de ce type est capable de changer d’état en suivant ces instructions et a la propriété que ces états sont tous déterminés et donc prévisibles. Cette définition de machine est très restrictive. Nos ordinateurs et appareils mobiles ne rentrent pas dans cette définition18.
Or les deux définitions ont profondément « changé » la question d’origine. Ou plutôt, elles l’ont « précisée ». La question : « les machines peuvent-elles penser ? » est devenue :
Fixons notre attention sur un ordinateur particulier O. Est-il vrai que, en modifiant cet ordinateur pour avoir une capacité de mémoire adéquate, en accroissant de manière satisfaisante sa vitesse de travail et en lui fournissant un programme approprié, on peut faire jouer à O le jeu de rôle de A dans le jeu de l’imitation, le rôle de B étant tenu par un homme ? p. 148 19
À partir de cette définition, Turing montre qu’une machine devrait être capable d’imiter le comportement d’un humain, car en changeant d’état elle peut atteindre n’importe quel état discret. Elle devrait donc être capable – si proprement programmée – d’atteindre un état assez semblable à celui des joueurs humains pour que l’interrogateur ne puisse plus faire la différence.
Ce que nous devons retenir de l’approche de Turing est que le plus important n’est pas de comprendre ce que “les machines” peuvent ou ne peuvent pas faire, mais plutôt de mettre en place des méthodes rigoureuses pour définir et formaliser les concepts que nous utilisons.
Il est assez surprenant que cette farce de Turing ait été autant prise au sérieux. Au point de considérer aujourd’hui que la technologie la plus “intelligente” est un agent conversationnel.
Et si l’on donne d’autres définitions ?
Ce qui me semble intéressant, dans les discours qui “évaluent” l’“intelligence” des différentes applications, est de voir à quel point on oublie presque systématiquement la structure conditionnelle qui était pourtant au centre de l’argument de Turing : si l’intelligence est ceci et si une machine est cela, alors la machine X est intelligente. Quand, par exemple, nous affirmons qu’un chatbot, conçu pour manipuler la langue naturelle et converser, est incapable de distinguer le vrai du faux, ou de se référer à des entités extralinguistiques, nous sommes justement en train d’oublier la structure conditionnelle. Ces limitations sont évidentes, mais ne sont pas des limitations de l’application. Elles sont tout simplement des limitations de la définition d’intelligence sur laquelle elle est construite.
C’est typiquement le cas des critiques de John Searle qui, dans son texte de 1980, Minds, brains, and programs20, semble se servir volontairement de la confusion entre affirmation de l’intelligence et affirmation conditionnelle de l’intelligence pour “démontrer” que Turing a tort et qu’une machine ne peut pas penser. Searle donne une définition précise et formelle de ce qu’est la syntaxe et affirme que la manipulation de la syntaxe est ce qu’une “machine” peut faire. Il ne donne par contre aucune définition de ce qu’est le “sens”, ce qui lui permet d’affirmer que ce dernier n’est pas manipulable par une machine. Car, en effet, le sens est “tout ce qui n’a pas été défini” et donc il excède, par hypothèse, les frontières de ce que la machine peut faire21.
Une analyse critique des algorithmes et des applications doit se baser sur une démarche complètement opposée à celle de Searle : il est nécessaire d’une part d’identifier de manière non ambiguë des définitions formelles des formes d’intelligence que nous voulons analyser et de l’autre de les confronter non pas à des “machines” génériques, mais à des algorithmes concrets, qu’il faut être capable de bien saisir. Nous devons être en mesure d’avoir à la fois une définition précise d’intelligence et une définition précise de machine.
Une stratégie de ce type est notamment mise en place par Bender dans son texte “Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data22 ”23.
Bender se concentre sur les LLMs – et non sur des “machines” génériques – et essaye d’établir si ces modèles peuvent “comprendre”. Pour ce faire, elle commence par donner une définition – assez formelle, et en tout cas non ambiguë – de “sens” :
We take meaning to be the relation M ⊆ E × I which contains pairs (e, i) of natural language expressions e and the communicative intents i they can be used to evoke. Given this definition of meaning, we can now use understand to refer to the process of retrieving i given e. Communicative intents are about something that is outside of language24.
“Comprendre le sens”, dans le texte de Bender, est donc la capacité de créer une relation entre un élément linguistique et un élément extralinguistique. Or les LLMs sont des modèles qui se basent sur une hypothèse complètement différente : c’est ce qu’on appelle l’“hypothèse distributionnelle25”, l’idée – fortement structuraliste – selon laquelle la langue est un système clos et que le sens n’émerge que des relations internes au système langue, à savoir sans aucun référent extralinguistique. La conclusion de Bender est donc tout à fait juste et correcte, même si peu étonnante. On peut la formuler avec la conditionnelle suivante (qui ressemble vaguement à une tautologie) : “Si l’intelligence consiste en la capacité de saisir le sens et si le sens est la relation entre un élément linguistique et un élément extralinguistique, alors un modèle qui n’a aucun rapport avec des éléments extralinguistiques ne pourra pas être intelligent”.
Bien saisir la structure conditionnelle de l’évaluation de l’intelligence devrait aussi nous éviter l’utilisation d’expressions comme “hallucinations” pour parler des résultats de certaines applications qui ne correspondent pas à nos attentes. L’hallucination n’est pas celle de l’application, mais bien celle de la personne qui l’utilise. Ce qui constitue une hallucination est la mauvaise compréhension de la définition d’intelligence qui sous-tend à l’application utilisée. Par exemple : un chatbot qui donne un titre de livre qui n’existe pas n’est pas en train d’avoir une hallucination, tout simplement parce que ces applications n’implémentent aucune notion de vérification. Ils produisent une concaténation probable de mots. Le titre annoncé est donc un titre probable, ou vraisemblable. Il n’y a de leur part aucune hallucination. L’hallucination est celle de la personne qui l’utilise et qui confond un algorithme probabiliste avec un système expert.
Enjeux politiques
La compréhension de la structure conditionnelle de l’affirmation d’intelligence a des implications politiques majeures. Elle permet en effet d’identifier et d’examiner les facteurs sociaux, culturels et politiques qui sous-tendent, dans un contexte donné, au choix de la définition de l’intelligence selon une perspective donnée.
Car les choix de définition de l’intelligence sont loin d’être neutres, cette qualité étant systématiquement associée à une très haute valeur symbolique. Ce qui est défini comme intelligent est ce qui obtient une haute reconnaissance et donc une place privilégiée dans la hiérarchie sociale et politique.
Cela implique aussi un renversement dans la considération des algorithmes et des applications et de leur fonction d’automatisation. Dit en une phrase : on n’automatise pas ce qu’on est capable d’automatiser, mais ce dont on considère qu’il peut être automatisé car il n’a pas – ou plus – une haute valeur symbolique.
C’est un dispositif qui est au cœur du discours sur l’IA et qui est bien expliqué par l’adagio qu’on appelle souvent le “théorème de Tesler”26 : l’intelligence est tout ce qu’une machine ne sait pas faire27. Cette formulation révèle bien un dispositif de production et de déplacement de la valeur symbolique : l’enjeu dans la définition de ce qu’est l’intelligence est d’être capable de produire des hiérarchies qui puissent séparer une élite des subalternes.
La stratégie est quelque peu récursive et cache un intérêt dont la nature est toujours politique avant d’être ontologique : il ne s’agit pas tellement d’identifier des caractéristiques, mais plutôt d’établir des situations de subordination. La stratégie est double : d’une part, lorsqu’une activité est considérée comme triviale, pénible ou pas intéressante, elle peut et doit être laissée à des subalternes ; de l’autre lorsqu’une activité peut-être exécutée par des subalternes sa valeur symbolique diminue et elle devient donc triviale et sans intérêt. Cette stratégie révèle que la distinction significative n’est pas tant entre “humain” et “machine”, mais plutôt entre élite et subalternes : les tâches triviales peuvent indifféremment être laissées à des personnes – moins payées, exploitées et à qui l’on donne une très faible reconnaissance – ou automatisées. Inversement, une activité dont on considère qu’elle a une haute valeur symbolique ne peut et surtout ne doit pas être automatisée, et, si jamais elle l’est, il faudra trouver des manières pour la trivialiser.
Quelques exemples peuvent aider à mieux saisir cette structure. Les compétences mathématiques de base – savoir compter et faire des opérations simples – étaient fortement recherchées et rares dans certaines sociétés anciennes comme par exemple en Mésopotamie au 3e millénaire av. J.C. Ces compétences distinguaient une élite de fonctionnaires. Au fur et à mesure que ces compétences deviennent communes, elles sont moins rares et ont moins de valeur économique. Jusqu’au moment où, faire un calcul simple devient une tâche d’une classe subalterne. Dès lors, comme le montre très bien Pasquinelli dans son The eye of the master28, on peut penser à les automatiser. L’automatisation du calcul proposé notamment par Babbage et son Difference Engine sert justement à organiser le travail en subdivisant l’activité mathématique entre des calculs simples qui peuvent être faits par des subalternes – et donc aussi être automatisés – et des opérations plus complexes qui demandent des compétences avec une plus haute valeur symbolique : celles qui seront laissées à l’élite – et donc à des personnes bien payées. Ici, la définition d’intelligence se déplace: être intelligent signifiait, en Mésopotamie, savoir faire des opérations simples, comme une addition. Aux XIXe siècle, ces opérations ne sont plus “intelligentes” et peuvent donc être automatisées, alors que l’intelligence devient la capacité de coordonner des calculs complexes.
Un exemple plus récent29 nous aidera à mieux saisir cette idée. Le développement de la télévision à partir des années 1950 implique la nécessité de remplir un flux continu d’émissions, ce qui demande une énorme production d’images. Surgit donc le besoin d’avoir des images de remplissage, des vidéos dont la fonction n’est que celle de remplir le flux continu. Ces images perdent progressivement leur valeur symbolique. On ne peut se permettre de produire uniquement des images originales et on commence à mettre en place des rédactions qui ont la tâche de récupérer des images d’archives. La production de ces contenus devient une activité à basse valeur symbolique. Cela implique la possibilité de l’automatiser : l’usage d’application de génération automatique d’image doit être comprise dans cette dynamique. Encore une fois : on n’automatise pas la production d’images parce que les algorithmes sont devenus assez bons pour le faire, on l’automatise parce que la valeur symbolique liée à cette activité a baissé, ce qui en fait une activité de subalternes.
Où se situe l’intelligence, dans ce dernier cas ? On pourrait s’interroger sur les notions de créativité et d’originalité, et sur la valeur symbolique et politique que nous leur accordons, et comprendre la manière dont nous produisons des stratégies pour différencier une élite (des personnes considérées comme des auteurices, par exemple) d’un groupe de subalternes.
Les objets des ECIA
Ces considérations ont une conséquence fondamentale : puisque l’intelligence peut être définie de plusieurs manières et puisque sa définition est toujours liée à des stratégies de hiérarchisation sociale, l’objet d’étude des ECIA ne peut et ne doit pas se limiter à un petit groupe d’approches computationnelles à la mode. En d’autres termes : on ne peut pas réduire l’analyse critique aux approches inductives basées sur l’apprentissage machine.
Pourquoi accordons-nous plus de valeur à un algorithme capable de produire du texte plutôt qu’à un autre capable de proposer des corrections orthotypographiques, sur la base par exemple d’un dictionnaire et d’une série de règles ? L’unique raison est à chercher dans des stratégies de production de hiérarchies sociales : la révision typographique a une basse valeur symbolique, alors que la capacité de produire un texte est – ou plutôt était – très valorisée. Mais il n’y a pas de différence ontologique donnée entre les deux : il n’y a aucune raison absolue pour laquelle le fait de connaître précisément une liste complète de mots et de règles devrait être considéré comme moins intelligent qu’être capables de produire des règles inductives pour associer une série de caractères à une autre série de caractères (ce que fait un agent conversationnel basé sur un LLM).
Un format textuel (HTML, XML ou docx), ou un algorithme expert (qui calcule la trajectoire d’une planète, par exemple), ou une application qui fait des requêtes sur une base de données pour récupérer des informations sont tout autant intelligents que chatGPT. Leur “intelligence” est juste différente.
Se rendre compte de telle équivalence ontologique devant la production de valeur symbolique est le point de départ pour un questionnement radical des structures hiérarchiques de nos sociétés. C’est le point de départ pour questionner la séparation entre élites et subalternes.
L’approche critique des ECIA doit permettre de décrypter toute approche computationnelle et tout modèle numérique pour en saisir les présupposés épistémologiques, les implications politiques et culturelles, les visions du monde. Ce décryptage est la condition de possibilité pour révéler les biais, les limitations ou plus généralement les contextes d’un environnement technique. Il s’agit d’identifier la structure conditionnelle qui fonde une affirmation de valeur sur une condition de définition : X est intelligent si on définit “intelligence” de cette manière précise. Cette analyse est le point de départ pour mettre en lumière les hiérarchies sociales et politiques produites par chaque définition : qui elles privilégient et qui elles marginalisent ou ignorent.
Pour ce faire, les ECIA doivent se fonder sur une compréhension raffinée et spécialisée des techniques et des modèles mathématiques sur lesquels elles se basent, car ce sont les détails computationnels qui font la différence. On ne pourra pas analyser l’idée de “créativité” implémentée dans un chatbot sans ouvrir la fonction d’activation softmax et saisir les implications de chaque paramètre. Car ce sont ces paramètres qui sont calibrés pour obtenir des résultats plus “performants” et c’est donc dans le détail de ces paramètres qu’on peut comprendre ce que représente et ce que signifie cette “performance”. Encore une fois, en quoi, pourquoi et comment cet algorithme est-il “intelligent” ? quelle est sa définition d’intelligence ? Et de quel manière exactement une application spécifique est une “machine” ? Selon quelle définition de “machine” ?
Pour que des véritables ECIA puissent se développer, il est alors nécessaire de repenser nos formations et nos compétences en sciences humaines, d’augmenter nos connaissances dans d’autres disciplines – et notamment en mathématiques – et d’aller au delà des oppositions arides entre sciences mathématiques et sciences humaines. La recherche du futur est une recherche de polymathes, de curieux, de bricoleurs et de démonteurs de carburateurs30.
Références
Karen Barad, Meeting the Universe Halfway: Quantum Physics and the Entanglement of Matter and Meaning, Durham, Duke University Press Books, 2007, Second Printing edition.
E. M. et al. Bender, « On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? », dans Proceedings of the 2021 ACM Conference, New York, ACM, « FAccT ‘21 », 2021, p. 610‑623.
Emily M. Bender et Alexander Koller, « Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data », dans Dan Jurafsky, Joyce Chai, Natalie Schluter et Joel Tetreault (dir.), Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, Online, Association for Computational Linguistics, 2020, p. 5185‑5198, disponible en ligne : 10.18653/v1/2020.acl-main.463.
C. Clivaz, Écritures digitales: digital writing, digital scriptures, Leiden ; Boston, Brill, « Digital biblical studies » no volume 4, 2019.
Matthew Crawford, Éloge du carburateur, trad. par Marc Saint-Upéry, La Découverte, 2016 [2009].
Milad Doueihi, La grande conversion numérique ; suivi de Rêveries d’un promeneur numérique, trad. par Paul Chemla, Paris, France, Éd. du Seuil, « Points. Série Essais, ISSN 1264-5524 », 2011.
J. R. Firth, Studies in linguistic analysis, Oxford, Blackwell, 1962, Repr.
Bernardo Gonçalves, « Irony with a Point: Alan Turing and His Intelligent Machine Utopia », Philosophy & Technology, vol. XXXVI, no 3, 2023, p. 50, disponible en ligne : 10.1007/s13347-023-00650-7.
L. M. E. Goodlad, « Editor’s Introduction: Humanities in the Loop », Critical AI, vol. I, nos 1-2, 2023.
K. Hayles, My mother was a computer : digital subjects and literary texts, Chicago, UCP, 2005.
Attay Kremer, « The Turing test is a joke », AI & SOCIETY, vol. XXXIX, no 1, 2024, p. 399‑401, disponible en ligne : 10.1007/s00146-022-01609-6.
Jean Lassegue, « Turing, entre formel et forme ; remarque sur la convergence des perspectives morphologiques », Intellectica, vol. XXXV, no 2, 2002, p. 185‑198, disponible en ligne : 10.3406/intel.2002.1665.
Jean Lassègue, Turing, Société d’édition les Belles Lettres, 1998.
Pierre Lévy, Qu’est-ce que le virtuel ?, Paris, France, Éd. la Découverte, « Sciences et société (Paris. 1984), ISSN 0763-4641 », 1995.
Giuseppe Longo, « Laplace, Turing et la géométrie impossible du “jeu de l ‘imitation ” : aléas, déterminisme et programmes dans le test de Turing », Intellectica, vol. XXXV, no 2, 2002, p. 131‑161, disponible en ligne : 10.3406/intel.2002.1661.
Giuseppe Longo, Jean Lassègue et Alain Supiot, Le cauchemar de Prométhée : les sciences et leurs limites, Paris, PUF, 2023.
M. C. Marino, Critical code studies: initial methods, Cambridge, Massachusetts, The MIT Press, « Software studies », 2020.
Matteo Pasquinelli, The Eye of the Master: A Social History of Artificial Intelligence, London ; New York, Verso, 2023.
Stuart J. Russell et Peter Norvig, Artificial intelligence: a modern approach, Hoboken, Pearson, « Pearson series in artificial intelligence », 2021, Fourth edition.
John R. Searle, « Minds, Brains, and Programs », Behavioral and Brain Sciences, vol. III, no 3, 1980, p. 417‑424, disponible en ligne : 10.1017/S0140525X00005756.
S. G. Sterrett, « The Genius of the ‘Original Imitation Game’ Test », Minds and Machines, vol. XXX, no 4, 2020, p. 469‑486, disponible en ligne : 10.1007/s11023-020-09543-6.
Susan G. Sterrett, « Turing’s Two Tests for Intelligence », Minds and Machines, vol. X, nᵒ 4, 1999, p. 541‑559, disponible en ligne : http://philsci-archive.pitt.edu/8480/.
Daniel Susskind, A World Without Work: Technology, Automation, and How We Should Respond, Metropolitan Books, 2020.
Larry Tesler, Tesler’s Theorem and other adages and coinages, s. d., disponible en ligne : https://www.nomodes.com/larry-tesler-consulting/adages-and-coinages ; page consultée le 9 mars 2024.
M. Vitali-Rosati, « De l’intelligence artificielle aux modèles de définition de l’intelligence », Sens public, no 1722, 2024.
Marcello Vitali-Rosati, S’orienter dans le virtuel, Paris, Hermann, 2012, disponible en ligne : https://papyrus.bib.umontreal.ca/xmlui/handle/1866/12983.
Marcello Vitali-Rosati, « Le fait numérique comme « conjonctures médiatrices » », Communication & Langages, nos 208-209, 2021a, p. 155‑170, disponible en ligne : https://papyrus.bib.umontreal.ca/xmlui/handle/1866/25755.
Marcello Vitali-Rosati, « L’invention de l’humain. Pour en finir avec l’opposition homme-machine », dans François Levin et Étienne Ollion (dir.), Ce qui échappe à l’intelligence artificielle, Paris, Hermann, 2024b, p. 51‑67, disponible en ligne : https://papyrus.bib.umontreal.ca/xmlui/handle/1866/32761.
- L’expression commence à être utilisée en français et en anglais: Critical Code Studies. Le champs en est à ces débuts. Je renvoie notamment à la revue Critical IA et au travaux de L. M. E. Goodlad, « Editor’s Introduction: Humanities in the Loop », Critical AI, vol. I, nᵒˢ 1-2, 2023.
- M. Vitali-Rosati, « De l’intelligence artificielle aux modèles de définition de l’intelligence », Sens public, nᵒ 1722, 2024.
- M. C. Marino, Critical code studies: initial methods, Cambridge, Massachusetts, The MIT Press, « Software studies », 2020.
- Dans la continuité des travaux de Katherine Hayles, cf. par exemple K. Hayles, My mother was a computer: digital subjects and literary texts, Chicago, UCP, 2005.
- J’en parlais dans Marcello Vitali-Rosati, « Le fait numérique comme « conjonctures médiatrices » », Communication & Langages, nᵒˢ 208-209, 2021a, p. 155‑170, disponible en ligne : https://papyrus.bib.umontreal.ca/xmlui/handle/1866/25755.
- C’était l’objet de Pierre Lévy, Qu’est-ce que le virtuel ?, Paris, France, Éd. la Découverte, « Sciences et société (Paris. 1984), ISSN 0763-4641 », 1995, ainsi que de mon Marcello Vitali-Rosati, S’orienter dans le virtuel, Paris, Hermann, 2012, disponible en ligne : https://papyrus.bib.umontreal.ca/xmlui/handle/1866/12983.
- Milad Doueihi, La grande conversion numérique ; suivi de Rêveries d’un promeneur numérique, trad. par Paul Chemla, Paris, France, Éd. du Seuil, « Points. Série Essais, ISSN 1264-5524 », 2011.
- J’utiliserai dans ce texte “chatGPT” comme antonomase d’agents conversationnels basés sur des LLM. Il ne faut par contre pas confondre ces applications avec les modèles de langue sur lesquels elles sont basées (des Large Language Models). Le LLM est la base de l’application qui ensuite se sert du modèle pour faire des opérations spécifiques – notamment deviner les mots les plus probables après des mots en entrée. Par ailleurs, ces applications sont construites de plusieurs briques algorithmiques – reinforcement lerning, fonctions spécifiques, interfaces – qui déterminent leur comportement. Un LLM en soi n’est qu’une représentation numérique de la langue.
- Quelques réflexions sur ce sujet dans mon billet de blog ChatGPT et la tronçonneuse.
- Dans leur manuel qui est considéré comme la référence dans le domaine, Russell et Norvig précisent différents sens. Je renvoie à leur discussion Stuart J. Russell et Peter Norvig, Artificial intelligence: a modern approach, Hoboken, Pearson, « Pearson series in artificial intelligence », 2021, Fourth edition, pp.
- J’utilise des guillemets, car en réalité l’identification des frontières qui séparent l’humain, l’animal et la machine dépendent justement des définitions de l’intelligence. Mais c’est un sujet qui nous porterait trop loin. Je renvoie à Karen Barad, Meeting the Universe Halfway: Quantum Physics and the Entanglement of Matter and Meaning, Durham, Duke University Press Books, 2007, Second Printing edition.
- Je pense notamment aux excellents travaux de Giuseppe Longo, « Laplace, Turing et la géométrie impossible du “jeu de l’imitation ” : aléas, déterminisme et programmes dans le test de Turing », Intellectica, vol. XXXV, nᵒ 2, 2002, p. 131‑161, disponible en ligne : 10.3406/intel.2002.1661 Giuseppe Longo, Jean Lassègue et Alain Supiot, Le cauchemar de Prométhée : les sciences et leurs limites, Paris, PUF, 2023, ainsi que de Jean Lassegue, « Turing, entre formel et forme ; remarque sur la convergence des perspectives morphologiques », Intellectica, vol. XXXV, nᵒ 2, 2002, p. 185‑198, disponible en ligne : 10.3406/intel.2002.1665 et Jean Lassègue, Turing, Société d’édition les Belles Lettres, 1998 ou C. Clivaz, Écritures digitales: digital writing, digital scriptures, Leiden ; Boston, Brill, « Digital biblical studies » no volume 4, 2019. Les travaux de Susan G. Sterrett, « Turing’s Two Tests for Intelligence », Minds and Machines, vol. X, nᵒ 4, 1999, p. 541‑559, disponible en ligne : http://philsci-archive.pitt.edu/8480/ S. G. Sterrett, « The Genius of the ‘Original Imitation Game’ Test », Minds and Machines, vol. XXX, nᵒ 4, 2020, p. 469‑486, disponible en ligne : 10.1007/s11023-020-09543-6 ont le mérite d’avoir souligné le fait que dans le texte de Turing il y a une ambiguïté sur le test. Il y a, selon Sterrett, deux tests de Turing ; je reviendrais sur ce point. L’ironie de Turing fait l’objet de Attay Kremer, « The Turing test is a joke », AI & SOCIETY, vol. XXXIX, nᵒ 1, 2024, p. 399‑401, disponible en ligne : 10.1007/s00146-022-01609-6 et Bernardo Gonçalves, « Irony with a Point: Alan Turing and His Intelligent Machine Utopia », Philosophy & Technology, vol. XXXVI, nᵒ 3, 2023, p. 50, disponible en ligne : 10.1007/s13347-023-00650-7.
- Une idée semblable est proposée par C. Clivaz, op. cit. qui, en citant François Jouen, affirme que la recherche de l’intelligence artificielle est pour Turing avant tout une quête de compréhension de ce que signifie penser.
- Cette différence est bien précisée par Jean Lassègue, op. cit.
- Une thèse semblable est défendue dans le court texte de Attay Kremer, loc. cit.
- Le genre n’est pas anodin, j’ai analysé cette question dans Marcello Vitali-Rosati, « L’invention de l’humain. Pour en finir avec l’opposition homme-machine », dans François Levin et Étienne Ollion (dir.), Ce qui échappe à l’intelligence artificielle, Paris, Hermann, 2024b, p. 51‑67, disponible en ligne : https://papyrus.bib.umontreal.ca/xmlui/handle/1866/32761.
- La formulation du jeu changera dans l’article : il y a plusieurs test de Turing. Dans un cas, la machine remplace la femme, dans l’autre l’homme. Dans un cas, il s’agira de voir si la machine est autant habile que l’homme à tromper l’interrogateur, dans l’autre de voir si l’interrogateur sait faire la distinction entre un homme et une machine. Le changement est loin d’être anodin et il serait intéressant de l’approfondir, mais cela ne rentre pas dans le cadre de ce texte. Je renvoie à l’analyse de Susan G. Sterrett, loc. cit.
- Une MED est par définition isolée de toute donnée externe. Elle est complètement déterministe. Nos ordinateurs ont accès à des données externes. Un exemple est le calcul de fonctions aléatoires sur la base de valeurs externes (comme la température du CPU). Typiquement, les limites de computabilités (fonctions non calculables) s’appliquent à une MED, mais pas nécessairement à un de nos PC. Encore une fois, il s’agit d’une affirmation conditionnelle : si nous entendons par “machine” ceci (dans ce cas, une MED), alors une machine ne peut pas trouver un résultat à une fonction non computable.
- En réalité, même cette formulation finale de Turing n’est pas assez précise, car elle devrait dire non pas « ordinateur » mais « machine à états discrets »
- John R. Searle, « Minds, Brains, and Programs », Behavioral and Brain Sciences, vol. III, no 3, 1980, p. 417‑424, disponible en ligne : 10.1017/S0140525X00005756.
- Cf. ma critique à Searle dans Marcello Vitali-Rosati, loc. cit.
- « Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data », dans Dan Jurafsky et al. (dir.), Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, Online, Association for Computational Linguistics, 2020, p. 5185‑5198, disponible en ligne : 10.18653/v1/2020.acl-main.463.
- Bender est plus connue pour E. M. et al. Bender, « On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? », dans Proceedings of the 2021 ACM Conference, New York, ACM, « FAccT ‘21 », 2021, p. 610‑623. Mais le premier texte est précieux justement pour sa rigoreuse définition de “meaning”.
- Emily M. Bender et Alexander Koller, op. cit., p. 5187.
- J. R. Firth, Studies in linguistic analysis, Oxford, Blackwell, 1962, Repr.
- Larry Tesler, Tesler’s Theorem and other adages and coinages, s. d., disponible en ligne : https://www.nomodes.com/larry-tesler-consulting/adages-and-coinages ; page consultée le 9 mars 2024.
- C’est une idée qu’on retrouve souvent : cf. par exemple Daniel Susskind, A World Without Work: Technology, Automation, and How We Should Respond, Metropolitan Books, 2020. J’ai analysé les différentes formulations du théorème de Tesler dans M. Vitali-Rosati, loc. cit.
- Matteo Pasquinelli, The Eye of the Master: A Social History of Artificial Intelligence, London ; New York, Verso, 2023.
- Fait par Matteo Treleani, lors d’une conférence donnée au Centre Interuniversitaire sur les Humanités Numériques le 15 avril 2025 : Toutes les images des médias sont des archives : comprendre la circulation des contenus numériques.
- Cf. Matthew Crawford, Éloge du carburateur, trad. par Marc Saint-Upéry, La Découverte, 2016 [2009].
OpenEdition vous propose de citer ce billet de la manière suivante :
Élisa Barthélemy (29 avril 2025). Manifeste pour des Études Critiques de l’Intelligence Artificielle – Marcello Vitali-Rosati – 25/04/2025. Chaire d'excellence en édition numérique (CEEN). Consulté le 15 février 2026 à l’adresse https://ceen.hypotheses.org/1929
