Dennett sur la « chambre chinoise »

Imaginez que vous êtes seul dans une pièce, avec un terminal informatique et un volumineux manuel d’instructions vous indiquant toutes les règles nécessaires écrire en chinois. Vous recevez des messages sur le terminal informatique et, à l’aide de votre manuel d’instructions, vous rédigez à l’aide du terminal des réponses. Les personnes situées en dehors de la pièce qui émettent les messages initiaux via leur propre terminal, reçoivent ensuite vos réponses. Ils ne savent pas que c’est vous, dans la pièce, qui dialoguez avec eux. Si vous suivez les instructions sans commettre d’erreur, ces personnes penseront que l’entité avec laquelle ils dialoguent (en l’occurrence, vous), comprend et parle le chinois. Pourtant, bien que vous soyez à l’origine des réponses, vous ne comprenez pas un seul mot de chinois, vous vous contentez de suivre une liste d’instructions.

Cette expérience de pensée, dite de la « chambre chinoise », a été proposé par John Searle. Elle vise à interroger notre conception de la conscience et de l’esprit. Plus précisément, il s’agissait pour Searle de montrer, contre le programme de recherche de « l’intelligence artificielle forte », qu’un ordinateur ne peut penser et être conscient. Formellement, les phénomènes de compréhension et de conscience ne se réduisent pas à des propriétés syntaxiques mais relèvent également de propriétés sémantiques, non formalisables à travers une liste d’instruction. De mon point de vue, il s’agit (avec les expériences de pensée de Derek Parfit sur l’identité personnelle) de l’expérience de pensée la plus puissante et la plus fascinante en philosophie. Depuis que Searle l’a proposé il y a 30 ans, elle a d’ailleurs donné lieu à une abondante littérature.

En grand contributeur de l’approche fonctionnaliste en philosophie de l’esprit, Daniel Dennett a toujours contesté la pertinence de cette expérience de pensée. On peut entendre certains de ses arguments dans ce très intéressant podcast sur le site « PhilosophyBites ».

Rationalité et « group agency »

Pour ce billet de rentrée, je vais revenir assez brièvement sur un ouvrage très intéressant et très important que j’ai lu il y a quelques mois, Group agency : The possiblity, design, and status of corporate agents de l’économiste Christian List et du philosophe Philip Pettit. Je ne ferai pas de résumé détaillé du bouquin (ceux qui veulent en savoir plus peuvent aller voir sur les sites perso des deux auteurs, ou bien regarder la petite bibliographie que j’ai mis dans le syllabus de mon cours de systémique à la séance n° 5) mais je rappellerai quand même le propos général de List et Pettit (LP). Il s’agit pour les auteurs de s’interroger sur les conditions à partir desquelles un groupe, composé d’agents individuels répondant à certains critères minimaux de rationalité, va être en mesure d’émettre des jugements répondant également à ces mêmes critères de rationalité. Chaque agent émet des jugements individuels sur un certain nombre de propositions, ces jugements sont agrégés à partir d’un mécanisme particulier, et on obtient ainsi un ensemble de jugements collectifs. LP sont à la base d’une littérature, connexe à celles sur l’agrégation des préférences (paradoxe de Condorcet, théorème d’impossibilité d’Arrow), qui montre que l’agrégation de jugements n’est pas quelque chose de trivial, dans le sens où il apparait que bien souvent, des individus rationnels vont produire des jugements collectifs incohérents. Le « dilemme discursif », qui sert de cas générique aux auteurs pour développer leur réflexion, suffira à illustrer le problème.