David W. Bates, spécialiste de cybernétique: Le cerveau n’est pas un ordinateur
Face à l’intelligence artificielle, l’universitaire américain cherche à éviter les écueils de la technophobie comme du transhumanisme. Il faut, selon lui, dépasser une opposition schématique entre « intelligence humaine ou “naturelle” et intelligence “artificielle”
Propos recueillis par Marion Dupont
Publié hier à 06h00, modifié hier à 18h30
Le développement de l’intelligence artificielle conduira-t-il au déclassement de l’intelligence humaine, ou lui permettra-t-il d’atteindre de nouveaux sommets ? Pour David W. Bates, professeur de rhétorique à l’université de Californie à Berkeley (Etats-Unis), la question est mal posée. Ce spécialiste de cybernétique, qui a notamment publié An Artificial History of Natural Intelligence. Thinking with Machines from Descartes to the Digital Age (University of Chicago Press, 2024, non traduit), revient pour Le Monde sur la nature de la relation qui unit réellement l’esprit humain à la technologie.
La question des conséquences de l’intelligence artificielle sur l’avenir de l’intelligence humaine est au coeur des débats contemporains. La comparaison entre les deux, entretenue par l’expression même d’« intelligence artificielle », est-elle justifiée selon vous?
Cette comparaison est ancienne : l’expression « intelligence artificielle » [IA] est née dans les années 1950 [pour désigner des systèmes informatiques capables d’effectuer des tâches que nous associons d’ordinaire aux humains, comme l’apprentissage, le raisonnement et, surtout, la prédiction]. Depuis lors, l’« intelligence artificielle » est envisagée comme une simulation de l’intelligence humaine. Mais cela fait tout aussi longtemps que l’intelligence humaine est elle-même pensée en référence à ce que nous appelons aujourd’hui l’« intelligence artificielle » : son fonctionnement est souvent rapproché de celui des machines. En d’autres termes, par une métaphore réciproque, nous envisageons le cerveau comme un ordinateur, et l’ordinateur comme un cerveau.
Est-ce un problème ?
Cette façon de conceptualiser l’intelligence aboutit à une sorte de crise philosophique. D’abord parce que les humains qui utilisent les plateformes et les infrastructures numériques « intelligentes » voient leur pensée de plus en plus soumise à une forme néfaste d’automatisation. Mais aussi parce que nous penser nous-mêmes comme des ordinateurs gouvernés par des processus automatiques, à l’heure où les capacités de l’IA excèdent désormais les nôtres, est très dangereux : les humains sont dès lors amenés à se considérer comme inférieurs aux machines. Cela contribue à alimenter l’idée qu’une intelligence artificielle générale finira par advenir et prendra toutes nos décisions à notre place.
Or, si ce que nous appelons les « intelligences artificielles », dont l’IA générative est une variante, sont désormais en mesure de faire des choses qu’aucun esprit humain ne sera jamais capable de faire – comme analyser simultanément des millions et des millions de paramètres de données –, elles restent des machines à prédire, à faire des pronostics. Et cela est très différent de ce que les humains peuvent élaborer avec leur propre intelligence lorsqu’ils utilisent les technologies : inventer des futurs qui ne sont pas prévisibles mais qui sont les produits de notre propre imagination, de nos désirs, de notre intelligence collective.
Je me suis donc penché sur l’histoire de cette comparaison. Non pas dans l’espoir de revenir à une définition de l’intelligence humaine qui la distinguerait parfaitement de l’intelligence des machines. Mais pour mieux définir la relation qui l’unit à ses « prothèses technologiques », dont l’IA est la dernière occurrence.
Qu’avez-vous découvert ?
En remontant aux origines de cette double métaphore, qui se met en place à l’époque de la révolution scientifique, et notamment avec les travaux de René Descartes [1596-1650], je me suis aperçu que les penseurs ayant forgé la « vision technique de l’humain » avaient aussi réfléchi à ce qui, en l’humain, échappe à cette représentation machinique. Il s’agit de la capacité de l’esprit humain à inventer – et en particulier à créer de nouvelles technologies. Je me suis donc évertué à reconstituer cette tradition philosophique qui définit l’intelligence humaine par la création et l’utilisation d’outils technologiques.
Certains penseurs de cette tradition estiment que l’intelligence n’est pas un phénomène qui adviendrait dans le cerveau, mais au sein du système constitué par l’humain et les technologies qu’il utilise. Pouvez-vous préciser cette idée d’« intelligence distribuée » ?
C’est une hypothèse qui a notamment été développée par l’anthropologue français André Leroi-Gourhan [1911-1986], avant d’être prolongée par le philosophe Bernard Stiegler [1952-2020]. Les deux penseurs remontent aux origines de l’humanité pour prendre l’exemple des premiers outils – les bifaces en pierre taillée. Ils émettent l’idée que, si nous réorganisons la nature selon notre idée (en taillant un silex), cette idée n’existe pas tant que nous ne l’avons pas externalisée par la technologie (c’est-à-dire tant que l’outil n’a pas été façonné). A leurs yeux, l’esprit humain et la technologie se constituent mutuellement : l’esprit humain n’a jamais été « pur » de toute technologie, il n’a pas évolué « seul » jusqu’à l’état d’intelligence pour ensuite inventer des outils. C’est en créant et en utilisant des technologies que le cerveau a peu à peu évolué pour devenir une entité intelligente.
Suivant cette hypothèse, il nous faut penser la cognition et l’intelligence comme advenant dans la relation entre l’esprit humain et des artefacts extérieurs, qu’il s’agisse d’un outil ou d’un livre, dans lesquels la pensée est conservée dans un état de latence. En ce sens, la pensée humaine est toujours dépendante de ses outils de stockage externes : nous n’utilisons pas seulement ces outils, ils nous constituent. Nous serions incapables de vivre et de penser sans ces prothèses que sont le langage, l’écriture, l’imprimerie et désormais les ordinateurs. Il faudrait donc renoncer à différencier intelligence humaine ou « naturelle » et intelligence « artificielle » : l’intelligence dite « naturelle » a besoin, pour fonctionner, de la technologie et la technologie a besoin de l’humain pour que son potentiel soit activé.
En quoi cette hypothèse de l’« intelligence distribuée » est-elle différente des théories transhumanistes ?
Les transhumanistes pensent que les humains sont inférieurs aux machines, et que les machines vont devenir si puissantes que, pour rester à la hauteur, les humains devront fusionner avec la technologie pour devenir quelque chose d’autre, plus qu’humain. Ce fantasme dangereux part du principe que l’intelligence des machines est parfaitement compatible avec le cerveau et l’esprit humain, et que, d’une certaine manière, elle permettrait d’amplifier leurs capacités. Non seulement c’est impossible, mais c’est une erreur, parce que les humains utilisent les technologies pour externaliser leur propre pensée et ainsi la manipuler en dehors d’eux-mêmes, ce qui leur permet ensuite de mieux comprendre le monde dans lequel ils vivent.
Faut-il craindre l’impact des technologies numériques actuelles sur nos capacités cognitives ?
Si la technologie en général n’atrophie pas l’intelligence « naturelle », celles de l’« ère digitale » diffèrent fortement des technologies primitives ou industrielles. Elles permettent l’automatisation de processus qui ne l’avaient jamais été auparavant. Or l’histoire de l’industrialisation nous a montré les effets néfastes que l’automatisation peut avoir sur les individus : elle les habitue à être privés de leur capacité de décision, à être moins inventifs, moins créatifs.
Les capacités cognitives qui étaient autrefois stimulées par un usage plus « authentique » de la technologie s’en trouvent diminuées. Et l’automatisation règle la vie des individus selon une logique inhumaine – à ce titre, certaines utilisations des algorithmes sont particulièrement inquiétantes. Je pense au domaine judiciaire, avec les systèmes de détermination automatique des peines, ou au domaine militaire, avec les systèmes d’armes létales autonomes qui pourront un jour (s’ils ne le font déjà) tuer sans intervention humaine.
Ces nouvelles technologies opèrent en outre de manière beaucoup plus autonome que celles qui les ont précédées. Les réseaux sociaux, et de manière générale les plateformes reposant sur la recommandation algorithmique, en sont un bon exemple : ils nous abreuvent d’informations choisies selon une logique qui leur est propre. Nous vivons désormais dans un monde gouverné par des processus automatiques que nous ne comprenons, ni ne contrôlons, et qui agissent sans la participation d’êtres humains. Nous déléguons trop de pouvoir à ces systèmes et aux entreprises qui les font tourner. Nous pouvons reconnaître qu’il s’agit là de grands dangers sans céder à une forme de technophobie.
Comment garantir un usage des technologies numériques et de l’intelligence artificielle qui nous soit bénéfique ?
Il faut d’abord comprendre que la révolution numérique nous a déjà profondément transformés. Et si nous voulons changer la trajectoire de cette révolution, il faut en étudier les effets, c’est-à-dire développer et financer des humanités numériques au sein des universités et des institutions publiques.
L’un des problèmes majeurs est la façon dont le capitalisme s’est emparé des infrastructures numériques, et dont il conduit à réduire les humains au statut d’utilisateurs et de producteurs de données, dans un projet qui échappe largement à notre contrôle. Or les humains peuvent et doivent être acteurs de leur relation à leurs propres outils : simplement, cela requiert un effort considérable à l’ère du numérique.
La première chose à faire serait donc d’exprimer une fin de non-recevoir aux entreprises qui militent pour qu’aucun frein ne soit mis au développement et au fonctionnement de ces systèmes. Leurs dirigeants sont souvent des transhumanistes qui croient fermement que la technologie résoudra tous les problèmes de l’humanité sans voir – ou reconnaître – qu’ils contribuent eux-mêmes, avec leurs produits, à créer de nouveaux et très graves problèmes à l’humanité.
Nous savons en particulier que l’enfance est une période cruciale pour le développement de l’intelligence humaine. Plutôt que de considérer que l’usage des technologies numériques par les enfants est inévitable et de doter les écoles d’iPad ou d’ordinateurs pour se donner une image progressiste, nous devons nous demander quelles capacités cognitives nous souhaitons développer chez nos enfants. Sans nécessairement mettre en place des lois draconiennes, sans revenir aux tablettes d’argile, nous pouvons décider de mettre en place des régulations quand elles sont nécessaires.
Mise à jour le 26 février à 18 h 06 : retrait du portrait de David W. Bates représentant un homonyme, et remplacement par une autre illustration.
Rough translation provided by Google Translate
David W. Bates, cybernetics specialist: "The brain is not a computer"
Faced with artificial intelligence, the American academic seeks to avoid the pitfalls of both technophobia and transhumanism. According to him, it is necessary to move beyond a simplistic opposition between "human or 'natural' intelligence and 'artificial' intelligence."
Interview by Marion Dupont
Published yesterday at 06:00, modified yesterday at 18:30
Will the development of artificial intelligence lead to the decline of human intelligence, or will it allow it to reach new heights? For David W. Bates, professor of Rhetoric at the University of California, Berkeley (USA), the question is poorly framed. This cybernetics specialist, who notably published An Artificial History of Natural Intelligence: Thinking with Machines from Descartes to the Digital Age (University of Chicago Press, 2024), discusses with Le Monde the true nature of the relationship between the human mind and technology.
The question of the consequences of artificial intelligence on the future of human intelligence is at the heart of contemporary debates. In your opinion, is the comparison between the two, fostered by the very expression "artificial intelligence," justified?
This comparison is an old one: the expression "artificial intelligence" [AI] originated in the 1950s [to designate computer systems capable of performing tasks we ordinarily associate with humans, such as learning, reasoning, and, above all, prediction]. Since then, "artificial intelligence" has been viewed as a simulation of human intelligence. But human intelligence itself has been conceived in relation to what we now call "artificial intelligence" for just as long: its functioning is often compared to that of machines. In other words, through a reciprocal metaphor, we view the brain as a computer, and the computer as a brain.
Is this a problem?
This way of conceptualizing intelligence leads to a kind of philosophical crisis. First, because humans using "smart" digital platforms and infrastructures see their thinking increasingly subjected to a harmful form of automation. But also because thinking of ourselves as computers governed by automatic processes, at a time when AI capabilities now exceed our own, is very dangerous: humans are then led to consider themselves inferior to machines. This contributes to fueling the idea that a general artificial intelligence will eventually emerge and make all our decisions for us place.
However, while what we call "artificial intelligences," of which generative AI is a variant, are now capable of doing things no human mind will ever be able to do—such as simultaneously analyzing millions and millions of data parameters—they remain machines for predicting and making forecasts. And this is very different from what humans can create with their own intelligence when using technology : inventing futures that are not predictable but are products of our own imagination, our desires, our collective intelligence.
So I looked into the history of this comparison. Not in the hope of returning to a definition of human intelligence that would perfectly distinguish it from machine intelligence. But to better define the relationship that unites it with its "technological prostheses", of which AI is the latest occurrence.
What did you discover?
Tracing the origins of this dual metaphor, which emerged during the Scientific Revolution, particularly with the work of René Descartes [1596-1650], I realized that the thinkers who forged the "technical vision of humanity" also reflected on what, in humankind, escapes this mechanical representation. This is the capacity of the human mind to invent—and especially to create new technologies. I therefore endeavored to reconstruct this philosophical tradition that defines human intelligence through the creation and use of technological tools.
Some thinkers within this tradition believe that intelligence is not a phenomenon that occurs in the brain, but rather within the system constituted by humans and the technologies they use. Could you elaborate on this idea of "distributed intelligence"?
This is a hypothesis that was notably developed by the French anthropologist André Leroi-Gourhan [1911-1986], before being extended by the philosopher Bernard Stiegler [1952-2020]. The two thinkers trace humanity back to its origins, using the example of the first tools—hand axes made of chipped stone. They propose that if we reorganize nature according to our own idea (by shaping a flint), this idea does not exist until we have externalized it through technology (that is, until the tool has been fashioned). In their view, the human mind and technology are mutually constitutive: the human mind has never been "pure" of all technology; it did not evolve "alone" to the state of intelligence and then invent tools. It is by creating and using technologies that the brain has gradually evolved into an intelligent entity.
Following this hypothesis, we must conceive of cognition and intelligence as arising in the relationship between the human mind and external artifacts, whether a tool or a book, in which thought is stored in a latent state. In this sense, human thought is always dependent on its external storage tools: we do not merely use these tools they constitute. We would be incapable of living and thinking without these prostheses that are language, writing, printing, and now computers. We must therefore abandon the distinction between human or "natural" intelligence and "artificial" intelligence: so-called "natural" intelligence needs technology to function, and technology needs humans to activate its potential.
How does this hypothesis of "distributed intelligence" differ from transhumanist theories?
Transhumanists believe that humans are inferior to machines, and that machines will become so powerful that, to keep pace, humans will have to merge with technology to become something else, something more than human. This dangerous fantasy assumes that machine intelligence is perfectly compatible with the human brain and mind, and that, in some way, it would amplify their capabilities. Not only is this impossible, but it's a mistake, because humans use technology to externalize their own thinking and thus manipulate it outside of themselves, which then allows them to better understand the world they live in.
Should we fear the impact of current digital technologies on our cognitive abilities?
While technology in general does not atrophy "natural" intelligence, the technologies of the "digital age" differ significantly from primitive or industrial technologies. They enable the automation of processes that had never been automated before. However, the history of industrialization has shown us the detrimental effects that automation can have on individuals: it accustoms them to being deprived of their decision-making capacity, to being less inventive, less creative.
Cognitive abilities that were once stimulated by a more "authentic" use of technology are diminished. And automation governs individuals' lives according to an inhuman logic—in this respect, certain uses of algorithms are particularly worrying. I am thinking of the judicial system, with automated sentencing systems, or the military, with autonomous lethal weapon systems that could one day (if they aren't already) kill without human intervention.
These new technologies also operate much more autonomously than their predecessors. Social networks, and platforms based on algorithmic recommendations in general, are a good example: they bombard us with information selected according to their own logic. We now live in a world governed by automated processes that we neither understand nor control, and which operate without human intervention. We delegate too much power to these systems and the companies that run them. We can recognize these as significant dangers without succumbing to technophobia.
How can we ensure that the use of digital technologies and artificial intelligence benefits us?
First, we must understand that the digital revolution has already profoundly transformed us. And if we want to change the trajectory of this revolution, we must study its effects, that is, develop and fund digital humanities within universities and public institutions.
One of the major problems is the way capitalism has seized control of digital infrastructures, and how this leads to reducing humans to the status of users and producers of data, in a project that largely escapes our control. Yet humans can and must be active participants in their relationship with their own tools: simply, this requires considerable effort in the digital age.
The first thing to do, therefore, would be to reject outright the arguments of companies that advocate for unfettered development and operation of these systems. Their leaders are often transhumanists who firmly believe that technology will solve all of humanity's problems, without seeing—or acknowledging that they themselves, through their products, are contributing to the creation of new and very serious problems for humanity.
We know, in particular, that childhood is a crucial period for the development of human intelligence. Rather than assuming that children's use of digital technologies is inevitable and equipping schools with iPads or computers to project a progressive image, we must ask ourselves what cognitive abilities we want to develop in our children. Without necessarily implementing draconian laws, without reverting to clay tablets, we can decide to put regulations in place when they are necessary.
Updated February 26 at 6:06 PM: Removal of the portrait of David W. Bates depicting a namesake, and replaced with another illustration.