Le cerveau a deux histoires. Une histoire biologique, inscrite dans les temps très longs de l’évolution du vivant, et une histoire culturelle, beaucoup plus courte, qui est celle de sa présence dans la réflexion, la curiosité et les recherches humaines. Cette histoire culturelle est faite de science et de philosophie, de théologie et de médecine, de littérature et de morale. C’est donc l’histoire des représentations, des idées, des théories à propos d’un objet, de ses propriétés et de ses fonctions. C’est aussi l’histoire des pratiques sous-tendues par ces idées : pratiques médicales et de santé, pratiques de connaissance et de croyance. C’est enfin l’histoire des manipulations de cet objet, dès lors que pour l’observer et le décrire on intervient matériellement sur lui.

Ces histoires ne sont pas parallèles, mais imbriquées : idées, applications et techniques vont de pair, elles s’influencent réciproquement, elles dépendent les unes des autres. De leur enchevêtrement résulte l’histoire complexe, parfois sinueuse, d’un « viscère » dont on a sans cesse loué les merveilles et la dignité, ou d’un « organe » que l’anatomiste danois Niels Steensen (1638-1686) tenait pour « le plus beau chef-d’œuvre de la nature »^1,. Le même Steensen qui, en 1665, prononçait devant un cénacle de savants réunis à Paris chez le mécène Melchisédec Thévenot (1620-1694) un Discours sur l’anatomie du cerveau en commençant par un curieux aveu : « Messieurs, au lieu de vous promettre de contenter vostre curiosité, touchant l’Anatomie du Cerveau ; je vous fais icy une confession sincère et publique, que ie n’y connois rien »².

Le jeune anatomiste, qui jouissait déjà d’une solide réputation, exagérait assurément son ignorance. Ce propos trop modeste pour être pris à la lettre était destiné à mieux mettre en évidence les prétentions démesurées de ceux qui, dans ces années 1660, avançaient des « systèmes du cerveau » censés en fournir des explications complètes et définitives³. Les principaux systèmes du cerveau que Steensen s’employait à réfuter dans son Discours étaient celui de l’Anglais Thomas Willis (1621-1675), qui venait de faire paraître à Londres sa Cerebri anatome (1664), et, surtout, celui que René Descartes (1596-1650) exposait dans L’Homme, rédigé vers 1632 ou 1633, imprimé de façon posthume d’abord à Amsterdam dans une traduction latine (De homine, 1662), puis en français à Paris en 1664.

Descartes est aussi, depuis quelques décennies, l’une des cibles préférées des contemporains neuroscientifiques et philosophes de l’esprit. Il en est ainsi, par exemple, de la part d’Antonio Damasio, auteur en 1994 d’un ouvrage au titre sans équivoque : L’erreur de Descartes, ou de Daniel Dennett, chez qui la notion de « théâtre cartésien » sert à désigner l’idée, aussi mauvaise que tenace à ses yeux, selon laquelle il existe une entité logée dans le cerveau qui contrôle les sensations et les pensées, donnant lieu ainsi à un moi conscient^4,. En ligne de mire donc, le célèbre dualisme cartésien dont on s’accorde à dire, quelque peu sommairement, qu’il aurait pendant trois cents ans fait faire fausse route à la pensée occidentale en postulant que « les opérations de l’esprit les plus délicates » étaient séparées de « l’organisation et du fonctionnement d’un organisme biologique » ; voilà, selon Damasio, « l’erreur » de Descartes⁵.

La critique de Steensen n’est pas de la même nature que celle de Dennett ou Damasio. Pour Steensen, Descartes avait tort de se lancer dans la construction d’une théorie générale du fonctionnement et de l’anatomie de cerveau sur des bases hautement spéculatives, et ses reproches sont d’ordre essentiellement méthodologique : « Voyons maintenant si cette opinion se trouve conforme à l’expérience »⁶, dit-il au moment de discuter les thèses exposées dans le De homine. Les neurobiologistes et les philosophes de la fin du xx ^e siècle s’attaquent, en revanche, aux présupposés métaphysiques de Descartes et non pas à ses idées scientifiques sur le système nerveux. Les contester comme Steensen pouvait le faire dans la deuxième moitié du xvii ^e siècle n’aurait aucun sens tant leur fausseté paraît évidente. On peut éventuellement dialoguer avec les penseurs du passé sur le plan philosophique, mais scientifiquement ils sont devenus insignifiants. D’où la présence de Descartes dans les textes contemporains sur les neurosciences, même s’il y est convoqué à titre de repoussoir, alors qu’on n’y trouve ni Niels Steensen ni Thomas Willis ou Marcello Malpighi (1628-1694), qui ont pourtant publié des écrits importants sur le cerveau à l’époque même où paraissait le De homine cartésien.

La vitesse à laquelle les savoirs deviennent obsolètes n’est donc pas uniforme : une pensée philosophique ancienne peut être toujours vivante aujourd’hui, tandis que les connaissances scientifiques avec lesquelles elle faisait corps peuvent être des fossiles intellectuels. Reste un problème important à l’heure de faire l’histoire du cerveau : celui de savoir si les idées sont rejetées parce qu’elles ne rendent pas compte de la vérité de l’objet sur lequel elles portent, ou bien si les idées et l’objet changent ensemble, les vieilles idées ne pouvant plus dès lors décrire un objet nouveau.

Le cerveau, écrivait en 1992 le neurobiologiste Gerald M. Edelman, est « l’objet matériel le plus complexe que nous connaissions dans l’univers »^7,, si l’on considère à la fois son « superbe agencement cellulaire », le nombre de cellules qui y sont contenues et les réactions chimiques qui s’y déroulent. En 1600, le médecin français André du Laurens (1558-1609) soulignait lui aussi l’excellence de ce viscère : « si tu consideres les colonnes de ce Palais Royal, les voûtes lambrissées soustenans la lourde masse de ce superbe édifice : Si tu contemples les sales, les chambres, les quatre sinus qui sont comme quatre petites dépenses, le miroir transparent, les entrelassements et rhets labyrinthiques faits d’une infinité de petites arteres, les anfractuosités et circonvolutions du cerveau et son admirable fécondité en la production des nerfs, sans doute tu demeureras estonné, et t’écrieras avec Zoroaster ô homme miracle de Nature hardie ! »⁸. L’éloquence scientifique de du Laurens ne nous est plus familière et a perdu son efficacité. Or, de manière superficielle, on pourrait y voir un écho lointain de la définition contemporaine de Gerald Edelman. Ce serait pourtant une mauvaise traduction, car l’objet auquel se réfèrent l’un et l’autre n’est pas entièrement indépendant des outils intellectuels dont ils se servent. Autrement dit, l’histoire du cerveau n’est celle d’un « organe » qu’à condition d’entendre par là un objet non pas stable mais changeant - délimité, défini, décrit de manières différentes selon les époques - et soumis à des procédés d’artificialisation : on le « prépare », on le met à nu et on le découpe, on le fixe, on l’injecte, on le colore, on le met sous scanner, on en produit des images à l’aide de la résonance magnétique.

Ainsi ce viscère n’est pas une donnée mais une variable. Les manipulations et les techniques ne sont pas neutres et sans incidence. On a évoqué les procédés d’« artificialisation » du cerveau, les opérations matérielles qui, à des fins de connaissance, l’arrachent à la nature pour assurer sa déportation vers un espace d’observation. Les moyens adoptés ne sont donc pas indifférents, puisque c’est un objet altéré qu’on examine. Dans une culture savante où l’anatomie fut érigée en fondement de la connaissance du corps⁹, le geste par excellence pour s’y frayer un accès est la dissection. Celle du cerveau, très pratiquée dès la Renaissance, en vertu entre autres de sa décomposition plus lente que celle du contenu de l’abdomen ou du thorax, ainsi que du plus grand nombre de têtes que de corps entiers disponibles, donna lieu à la mise au point de plusieurs méthodes.

Au xvi ^e siècle, André Vésale (1514-1564) recommandait de scier puis ôter la calotte crânienne, pour enlever ensuite les méninges et pratiquer des coupes horizontales successives, du haut vers le bas dans la « substance » du cerveau, sans extraire celui-ci du crâne^10,. La méthode introduite par Costanzo Varolio (1543-1575) consistait, au contraire, à retirer la masse du cerveau de l’intérieur du crâne, à la retourner et la disséquer à partir de sa base^11,. Au xvii ^e siècle, alors que Jean Riolan fils (1580-1657) disséquait le cerveau toujours à la manière de Vésale^12,, l’anatomiste néerlandais Frans de Le Boë (1614-1672), préférait s’y attaquer par moitiés, la droite d’abord, la gauche ensuite^13,. Steensen se dit insatisfait des manières de disséquer en usage à son époque, aussi bien de « celle qui nous coupe le cerveau en lamelles » que de celle, préférable toutefois à ses yeux, « qui se fait en développant les replis », ou encore d’une troisième qui ajoutait au « développement des replis » une « séparation du corps gris, d’avec la substance blanche » sous-jacente. Pour Steensen, « la vraye dissection seroit, de continuër les filets des nerfs au travers de la substance du cerveau, pour voir par où ils passent, et où ils aboutissent »¹⁴.

Steensen préconise l’utilisation de plus d’une méthode, sachant que chacune d’entre elles permet d’effectuer certaines observations auxquelles les autres se prêtent mal ou pas du tout. Plus d’un siècle plus tard, Félix Vicq d’Azyr (1748-1794) est tout aussi conscient que les manières de disséquer le cerveau en induisent des descriptions différentes, et il multiplie les coupes : il dissèque le cerveau de la circonférence vers le centre, par le sommet et par la base, il pratique des sections non seulement transverses mais aussi sagittales et coronales^15,, que Giovanni Domenico Santorini (1681-1737) avait introduites quelques années auparavant¹⁶, ainsi que des coupes de structures isolées.

Or les manipulations ne se limitent pas aux coupes, mais concernent tout le processus de préparation des pièces - les portions à enlever pour en faire apparaître d’autres, l’injection de substances colorées dans les vaisseaux, la fixation du cerveau afin d’éviter qu’il ne s’« affaisse » en perdant sa forme. Sa consistance est en effet un problème, qui va au-delà des difficultés pratiques et défie bien plus que l’habileté technique de l’anatomiste : la « mollesse » de la substance du cerveau « luy est tellement obeïssante, que sans y songer, les mains forment les parties, selon que l’esprit se l’est imaginé auparavant », note Steensen^17,. Il faut donc l’endurcir, mais là encore le traitement employé à cet effet n’est pas sans conséquences sur les observations que l’on effectuera. Marcello Malpighi, un des premiers à avoir systématiquement recours à l’anatomie microscopique, fit bouillir les cerveaux avec lesquels il travaillait pour les disséquer et les étudier sous le microscope. Les petites glandes qu’il décrivit, avec des fibrilles s’étendant depuis la matière grise de l’écorce cérébrale jusqu’à la substance blanche, étaient apparues à cause de l’ébouillantage. Malpighi attribua à ces minimarum glandularum la fonction de transformer la matière que les fibrilles recevaient en provenance du sang en suc nerveux, qui coulait ensuite par les nerfs¹⁸. Steensen avait mis l’accent sur la mollesse des « parties », mais à l’évidence leur dureté n’empêchait pas davantage les savants de les « former » - les décrire, les interpréter - « selon que l’esprit se l’est imaginé auparavant ».

Dispositifs techniques, modèles imaginaires, doctrines reçues, cadres théoriques, observation et discours, voilà des matériaux qui entrent dans la composition du cerveau comme objet de connaissance, dont le schéma malpighien n’est qu’une illustration parmi bien d’autres. Un schéma qui, comme beaucoup d’autres, aura une postérité qui voudra le compléter, l’ajuster, s’en servir.

Le cerveau est un organe certes, mais doté de fonctions incomparablement plus élevées que n’importe quel autre, capable d’accomplir des opérations engageant le matériel et l’immatériel, les sensations, les passions, le jugement : il est, selon André du Laurens, « domicile de l’âme, de la mémoire, de la raison et des imaginations », une « partie participante de divinité », qui est à l’homme « ce que le ciel est au monde », la « demeure des Intelligences »^19,. Voilà, pour Thomas Willis, « les lieux secrets de l’esprit de l’homme »^20,, où siège « ce qui pense en nous », pour le dire comme Fénelon^21, (1651-1715), l’« organe spécial » qui « sécrète » la pensée, d’après Cabanis²² (1757-1808).

Muet, mou, délicat, le contenu de la cavité encéphalique recèle des vérités cruciales sur l’humain, difficiles à mettre au jour et qui défient les distributions des espaces du savoir. Dès la Renaissance, les auteurs de traités d’anatomie se montrent soucieux de définir les limites de leur discipline : « L’anthropologie, c’est-à-dire la science qui traite de l’homme, est divisée ordinairement et avec raison en l’Anatomie, qui considère le corps et ses parties, et en la Psychologie, qui parle de l’Âme. Nous laissons cette dernière, pour nous attacher à l’Anatomie, en tant qu’elle est partie de la Physique », tenait à préciser en 1611 l’anatomiste danois Caspar Bartholin (1585-1629) dans ses Anatomicæ institutiones corporis humani ^23,. Démarcation nette, qu’il devient néanmoins malaisé de respecter scrupuleusement dès qu’il s’agit du cerveau. Au milieu du xviii ^e siècle, le médecin Antoine Le Camus (1722-1772) soulignait le bien fondé de la Médecine de l’esprit : « il est de l’objet de la Médecine, disait-il, de découvrir les moyens qui sont propres à entretenir le commerce le plus exact qu’il est possible, entre l’âme et le corps » ; or « ici la Physique et la Métaphysique semblent s’unir si intimement, qu’en voulant les séparer on ne peut atteindre le but qu’on s’étoit proposé »²⁴.

Le cerveau, à l’articulation de l’anatomie et de la psychologie, est donc bien un objet anthropologique, à propos duquel toute théorie de la connaissance présuppose une physiologie, toute théorie du nerf présuppose une théorie de l’âme. D’où la nécessité, si on en fait l’histoire, de visiter les lieux philosophiques de la médecine et de remonter les affluents médicaux qui irriguent la pensée des philosophes. Ceci exige de ne pas y voir une confusion mais des dialogues. Sans oublier que les alliances entre science et philosophie se resserrent et se distendent, se réorganisent au gré des déplacements dans le temps des idées et des discours.

Le récit historique des savoirs sur le cerveau et ses fonctions peut évidemment être centré sur la pensée et les pratiques scientifiques. Or s’en tenir exclusivement à elles risque de les transformer en purs événements : en irruptions, dures et lisses comme des morceaux de vérité, venant remplacer l’erreur ou la simple croyance. On préférera éviter de résumer l’histoire des idées et des représentations à la narration des stratégies de nettoyage du faux. Surtout si cette histoire est considérée comme inséparable de celle des usages des savoirs scientifiques et médicaux. Loin d’avoir une finalité exclusivement thérapeutique, ces savoirs servent également à dire l’homme et sa nature, à départager le normal et l’anormal, à statuer sur la raison et la déraison. À fournir, en somme, des outils pour expertiser les corps et les âmes sans forcément les soigner pour autant. Les très nombreux médecins appelés à intervenir dans les cas de possession démoniaque dès la fin du xvi ^e siècle et tout au long du xvii ^e siècle - à Aix (1609-1611), à Loudun (1632-1640), à Louviers (1642-1647), à Auxonne (1658-1663), pour ne citer que quelques-uns des cas les plus retentissants en France - rendent des avis sur le caractère naturel ou non des phénomènes observés ; leur témoignage sert à certifier si l’on est en présence d’événements qui dépassent la nature, ou bien de troubles pathologiques relevant de « maladies d’esprit », de la mélancolie et de « blessures » de l’imagination. Les savoirs sur le cerveau sont ainsi mobilisés afin d’éclairer les théologiens et les magistrats en charge de ces affaires²⁵.

Les usages judiciaires et religieux des connaissances varient selon les contextes sociaux : dans l’Angleterre de la Restauration monarchique, les thèses sur la maladie mentale et la théorie de l’âme exposées par Thomas Willis furent adoptées par les théologiens anglicans et utilisées pour la réfutation de la vision catholique de la possession démoniaque comme preuve de la providence spéciale de Dieu, ainsi que pour la dénonciation de la pratique de l’exorcisme comme blasphématoire et ridicule : les troubles que l’on attribuait à la possession pouvaient désormais être interprétés d’après l’anatomie du cerveau et des nerfs. Robert Sharrock (1630-1684), théologien et membre de la Royal Society, pouvait alors prêcher sur la résurrection en se référant aux théories neurologiques de Willis sur la fonction du corps strié et du corps calleux²⁶.

Récapitulons : on connaît par l’observation mais on n’observe que ce que les manipulations rendent observable ; on dissèque, on prépare le cerveau afin de l’observer, mais les observations que l’on cherche à faire contribuent à définir les techniques de dissection et de préparation. L’observation nourrit l’élaboration des doctrines, mais c’est à la lumière de la doctrine que l’on interprète ce qui est vu. On met en œuvre les connaissances dans des pratiques, mais ces connaissances peuvent être détournées par les usages qu’on en fait, et, ainsi réaménagées, nourrir de nouveaux états du savoir²⁷.

Des circuits multiples de connaissance sur le cerveau se constituent à l’aube de l’époque moderne non pas ex nihilo, mais sur un héritage ancien. En tracer la carte revient à reconstruire le corpus des autorités et ce que les héritiers en ont fait. On y retrouve des textes grecs dont on s’emploie à maîtriser le sens, à clarifier le contenu doctrinal, on s’emploie à les rendre exploitables. On y retrouve aussi des textes arabes des x ^e, xi ^e et xii ^e siècles. À la tradition issue de l’antiquité grecque et des arabes s’ajoutait celle des sources chrétiennes : des écrits des Pères de l’Église, comme Némésius d’Émèse, qui vers 390 apporta un De natura hominis essentiel au regard des idées sur les fonctions cérébrales, ou de penseurs médiévaux, Albert le Grand notamment. De l’immense travail d’interprétation et des efforts pour intégrer ces traditions, l’Europe moderne recevra, dès le xv ^e siècle, un corps de savoir dense, sophistiqué, encore fragile sur sa cohérence interne, qui, tout en étant continuellement revisité, remis en cause et réformé, fournira les vecteurs intellectuels de la longue histoire qui conduit à l’émergence des neurosciences contemporaines. Il s’agit d’une histoire d’interrogations fondamentales, reconduites sans cesse - sur le siège de l’âme, sur l’âme des bêtes, sur les mécanismes de la sensation et de la connaissance, sur les agents et les dérèglements de l’esprit - et des réponses qui y ont été apportées.