Common knowledge et problème de l’attaque coordonnée 3 janvier, 2012
Posted by C.H. in Question de rationalité.trackback
C.H.
Imaginez deux généraux byzantins situés chacun avec leur armée respective sur deux collines adjacentes. L’armée ennemie est située dans la vallée en bas des deux collines. La configuration stratégique est telle que si les armées des deux généraux attaquent simultanément l’ennemi, elles l’emporteront aisément. En revanche, si l’une attaque alors que l’autre ne bouge pas, c’est l’armée ennemie qui l’emportera. Sachant cela, les deux généraux mettent en place un système pour se coordonner en tenant compte du fait qu’il existe une probabilité e infime mais strictement positive que la transmission d’un message d’un général à l’autre échoue : le général 1 envoi un messager annonçant au général 2 son intention d’attaquer ; le général 2 envoi à son tour un messager au général 1 pour confirmer qu’il a bien reçu le premier message ; le général 1 envoi alors un messager pour confirmer qu’il a bien reçu le deuxième message ; le général 2 envoi alors un messager pour confirmer qu’il a bien reçu le troisième message, etc. Si le processus se poursuit à l’infini, alors l’intention d’attaquer est connaissance commune (common knowledge) parmi les généraux et la coordination est possible.
Cependant, on voit clairement que l’intention d’attaquer ne peut devenir connaissance commune : mettons-nous à la place du général 1 qui a envoyé un message mais qui n’a pas reçu la confirmation. Que va-t-on en déduire ? Il y a deux possibilités : a) avec une probabilité e, le messager n’est pas arrivé au général 2, celui-ci n’a donc pas la confirmation (de la confirmation de la confirmation…) que le général 1 a l’intention d’attaquer ; b) avec une probabilité e(1-e), le général 2 a reçu la confirmation mais son messager n’est pas arrivé. Clairement, e > e(1-e) et donc le général considérera la première possibilité comme la plus probable. Par conséquent, du point de vue du général 2 qui n’aura pas reçu la confirmation, cela signifie que soit son messager n’est pas arrivé au général 1, soit que le messager du général 1 n’est pas arrivé à lui. Comme précédemment, la première possibilité est la plus probable. L’intention d’attaquer ne peut donc devenir connaissance commune puisque la proposition suivante ne peut jamais être vérifiée
L’exemple est censé démontrer les problèmes logiques du concept de common knowledge et, de manière plus spécifique à l’économie, qu’une convention (ou tout autre forme d’accord tacite ou explicite) ne nécessite pas d’être connaissance commune pour fonctionner. C’est par exemple l’argument que développe Ken Binmore contre la théorie des conventions de David Lewis dans cet article. Le problème de coordination des généraux byzantins est contre-intuitif parce que les conditions posées pour que la coordination survienne semble exagérément exigeantes en plus d’être cognitivement irréalistes. A priori, on ne voit pas pourquoi les généraux auraient besoin d’un niveau de confirmation d’ordre infini pour attaquer ; intuitivement, une confirmation d’ordre 2 ou 3 semble suffire. Cela se confirme avec certains travaux portant sur le jeu de l’Email proposé par Ariel Rubinstein (qui est une variante du jeu de coordination des généraux byzantins) : si les généraux peuvent choisir à partir de quel niveau d’ordre de confirmation ils décident d’attaquer (de 1 à l’infini), alors on peut montrer que toutes les stratégies sont évolutionnairement stables… à l’exception de la stratégie consistant à n’attaquer que si le niveau de confirmation est d’ordre infini.
Ce genre de considération tend à indiquer que la condition de common knowledge n’a pas véritablement de sens dans la mesure où 1) il semble difficile pour un évènement d’être réellement connaissance commune et 2) la coordination présuppose rarement la connaissance commune. Dans l’article mis en lien plus haut, Binmore suggère ainsi qu’il est douteux de relier l’existence d’une convention à un évènement public à partir duquel se coordonneraient les agents. Un événement E est public lorsque l’occurrence de E indique par elle-même à tous les agents que E est connaissance commune, ce qui dans la notation conventionnelle donne :
Dans une population de grande taille, les conditions formelles pour que E soit public sont difficilement réunies (sauf si des structures institutionnelles existent, comme le montre Michael Chew) ; inclure la condition de connaissance commune dans la définition d’une convention revient à associer une convention à un évènement public, et donc à nier quasiment l’existence de conventions !
Cet argument vient renforcer d’autres critiques du concept de common knowledge qui pointent du doigt le fait que c’est souvent en relâchant les hypothèses sur les facultés cognitives des individus que l’on arrive à expliquer la coordination. Cependant, il faut mettre un bémol sur les conclusions négatives que l’on peut retenir concernant le common knowledge. La plupart des critiques, y compris celle de Binmore, partent de la définition de la connaissance commune telle qu’elle a été formalisé par Robert Aumann dans le cadre standard de la théorie de la décision bayésienne. Or, ce n’est pas ainsi que David Lewis, le créateur du concept, l’avait initialement formulé. J’en ai déjà parlé à plusieurs reprises sur ce blog, mais il est important de repartir de la formulation précise de Lewis, que j’appellerai CKLewis :
CKLewis : une proposition p est connaissance commune dans une population P et dans une situation A si tout le monde au sein de P partage la même information et les mêmes modes d’inférence et si :
1) Tout le monde a de bonnes raisons de croire que A
2) La condition 1) donne à tout le monde de bonnes raisons de croire que tout le monde à de bonnes raisons de croire que A
3) A indique p
Les concepts « bonnes raisons de croire que » (reason to believe that) et « indique » sont essentiels, de même que la clause « si tout le monde au sein de P partage la même information et les mêmes modes d’inférence ». Les conditions 1 et 2 répondent ainsi à l’objection de Binmore sur l’existence d’évènements publics : on peut penser que tout le monde croit A sans pour autant en avoir la certitude (notamment au travers d’un contact visuel). Notamment, dans le cadre de la théorie de la décision bayésienne, la définition d’un évènement public nécessite l’ajout d’une hypothèse implicite d’occurrence mutuelle justifiant une inférence du type KiE –> Ki(Kj)E (en français : i infère de sa connaissance de E que j connait également E). Dans la théorie de Lewis, l’occurrence mutuelle est reformulée dans le concept de « raison de croire » mais n’a pas de condition strictement définie. Par exemple, je peux raisonnablement inférer du fait qu’un but vient d’être marqué dans le match auquel j’assiste que tout les spectateurs du match savent qu’un but vient d’être marqué (ce fait est donc connaissance commune). Mais je peux aussi raisonnablement inférer que le fait que la France vient de gagner la coupe du monde de football est common knowledge même si je n’ai pas la garantie que tout le monde a vu le match.
Le concept d’ « indication » est quant à lui essentiel pour résoudre le problème posé par le jeu de coordination des généraux. Une relation d’indication dans la théorie de Lewis correspond à une règle d’inférence qui n’est pas nécessairement déductive. Lewis est volontairement flou sur la nature de la relation d’indication et la clause selon laquelle les individus doivent partager les mêmes modes d’inférence indiquent clairement que la déduction n’est pas le seul moyen utilisé par les individus pour passer de prémisses à une conclusion. Notamment, la relation d’indication peut correspondre à différentes formes d’heuristiques que peuvent mobiliser de manière routinière les individus. La condition 3 est cruciale dans le sens où elle indique que les individus doivent partager des modes de raisonnement pour pouvoir se coordonner. Là encore, il s’agit d’un ajout par rapport à la théorie de la décision bayésienne standard. La connaissance des modes de raisonnement utilisés par les membres d’une population donnée peut permettre d’expliquer leur coordination, alors même que les conditions épistémiques nécessaires ne semblent pas réunies : il semble tout à fait raisonnable que nos généraux infèrent d’un niveau de confirmation d’ordre 1 ou 2 de leur message une intention d’attaquer mutuellement partagée.
Le fait de partager des modes de raisonnement commun s’explique partiellement par des facteurs « naturels » (génétiques, cognitifs) et aussi probablement par des facteurs culturels : le fait d’appartenir à la même communauté ou de partager la même identité sociale est non seulement de nature à harmoniser les modes de raisonnement mais contribue aussi à rendre ce fait évident au sein de la population (ce qui est nécessaire si p est une proposition sur les croyances/actions des autres). En revenant à la formulation originelle de Lewis, on échappe ainsi aux principales apories du concept de common knowledge et on peut l’utiliser pour définir les concepts de conventions ou de normes. On peut même aller plus loin : ce qui définit une communauté, c’est le fait que les membres d’une population partagent des normes et des conventions. Ces normes et conventions existent (et sont connaissances communes) parce que les membres de la population partagent les mêmes modes de raisonnement. Et par conséquent, la connaissance commune de ces normes et conventions est constitutive de l’existence de la communauté.
C.H.
la miss des villes
isaac37500
R.D
“ce qui définit une communauté, c’est le fait que les membres d’une population partagent des normes et des conventions.”
Absolument d’accord. Je pense même que c’est de là qu’il faut partir. Il faut même considérer que les normes et les conventions partagées sont une partie intégrante de la définition de la communauté. Les membres d’une “communauté” définie par un certain ensemble de normes et de conventions peuvent très bien NE PAS partager d’autres normes et des conventions qui n’appartiennent pas à cet ensemble. Le fait d’adhérer à une norme ou convention n’oblige pas à adhérer à d’autres normes et conventions qui ne sont pas logiquement liées aux premières.
Un même individu peut ainsi appartenir à plusieurs “communautés” distinctes, et les “communautés” ainsi définies sont en quelque sorte enchevêtrées les unes dans les autres.
Toute autre conception de la notion de “communauté” est au sens propre totalitaire.
Le problème posé serait de se demander si les normes qui peuvent être constitutives d’une communauté ne risquent pas aussi de la détruire. Car je trouve que la définition d’une communauté comme “acceptation commune de valeurs” serait plus juste que de parler de la normalisation d’une communauté. Or, même si les individus ont des modes de raisonnement commun, rien n’indique qu’ils vont accepter ce contrat social
Et le risque d’utiliser une normalisation pour étudier les communautés conduit à des problèmes que nous connaissons (ethnocentrisme) car la valeur de la communauté dominante devient le seul prisme d’interprétation des sociétés.
La communauté existera s’il existe une unité économique et politique cohérente, et le droit normalise l’acceptation de ces valeurs. Le droit est ainsi fondé sur les valeurs héritées des traditions, et non des conventions.
En prenant cette définition, je me trouve en contradiction avec la définition de Elvin. En effet, alors que je pense qu’une communauté s’attache à la culture d’une civilisation et à des traditions qui fondent le droit, Elvin dit que l’on peut adhérer librement aux communautés. . Mais on comprendra aisément la nécessité d’un management interculturel dans les entreprises, car une organisation francaise s’implantant par exemple en chine ne peut pas imposer une culture complètement différente de la leur. Je pense fermement qu’une culture nationale fait partie des individus, et dire celà n’est pas faire preuve de totalistarisme
La considération d’un individu multipliant ses appartenances à d’autres sociétés risque d’affaiblir l’unité constitutive de la communauté. Et certaines valeurs propres à la culture d’une nation restant figé, l’enchevètrement de ses communautés me semble incongrue, à moins de considérer une super communauté qui détruit les communautés inférieures,
Je tiens à me focaliser sur la précision suivante: si l’individu réalise des choix courants, la culture, la mentalité, le niveau social sont des facteurs qui ont une influence majeure dans les communautés et il ne peut pas agir sur certains facteurs qui sont indépendants de sa volonté, (lieu de naissance..)
Celà limite l’adhésion de tous les membres à une communauté qui peuvent adhérer aux valeurs, mais ne pas se trouver accepter
Autre précision: une norme ne définit pas une société qui elle, se fonde sur une conception amovible de l’économie et de la politique, (ex: l’appartenance à un courant politique ne définit pas l’appartenance d’un individu à une nation). Et les conventions ne sont qu’un préalable pour l’intégration des individus dans la communauté, elles ne forment pas une condition sine qua non,
D’accord avec “Dieu” : moi aussi je parlerais plutôt de valeurs que de normes, les normes faisant partie des conventions.
Quand je parle de communautés enchevêtrées, j’utilise le mot “communauté” au sens large et je veux dire qu’un même individu peut appartenir simultanément à plusieurs communautés distinctes, Pare exemple, moi qui vous cause, j’appartiens évidemment à la communauté nationale, mais aussi à celle des anciens élèves de mon école, à celle des anciens d’IBM, à celle des habitants de mon village, à celle des lecteurs de Rationalité Limitée, etc… Et ça ne pose aucun problème tant que les valeurs et conventions constitutives de ces communautés ne sont pas en conflit, et que l’adhésion à ces communautés est volontaire (ce qui en cas de conflit me permet ce choisir la communauté à laquelle je veux appartenir). .
Un problème se pose quand la communauté prétend régir TOUS les aspects du comportement de ses membres et interdit de plus qu’on la quitte, et surtout quand l’appartenance à la communauté est considérée comme automatique et non volontaire, ce qui est le cas pour les nations et les religions. La doctrine libérale l’interdit et répond par la liberté religieuse, le gouvernement limité et le droit de sécession.
Absolument d’accord avec vous, mais dans les communautés, il y a des barrières à la sortie comme il y a des barrières à l’entrée,
Or la communauté s’attache à des conventions, des normes, et des valeurs pour faire reconnaître son pouvoir, alors que les membres d’ autres communautés qui ont des compétences complémentaires et les mêmes valeurs peuvent ne pas être aussi bien reconnu par la société, faute de conventions ou d’acceptation par un système qui auto légitime ses valeurs
Les principes du communautarisme mettent en valeur les cultures et compétences distinctes, et le système doit impulser ce mouvement, ceci afin d’éviter les conventions des communautés qui exercent un pouvoir de lobbying
Le plus grand principe de liberté pour les hommes qui vivent au milieu d’autres communautés est de dépasser l’individualisme identitaire des membres à une communauté, qui risque d’exclure par ce fait d’autres communautés.
Le principe de connaissance commune est justifiée pour une attaque coordonnée, mais non à mon sens, pour une communauté, ou alors elle n’est que le premier stade d’une société primitive. Car la connaissance commune repose sur des conventions émises par les communautés influentes, et sur les valeurs dominantes d’un système qui peuvent exercer une logique de domination sur les communautés qui par principe n’ont pas de frontières. Mais la connaissance commune qui fonde la culture, la civilisation dans un système peut aussi détruire les communautés en relativisant ses valeurs constituant son principe d’identité,
J’en conclus que système et communauté, poussé à leur excès ont des logiques différentes, et ont chacun un pouvoir de domination qui tend à les exclure l’un de l’autre.
Ainsi, un gouvernement limité risque de perdre du pouvoir sur les communautés. Et le pouvoir exercé par les individus dans les communautés sont différentes des pouvoirs d’un système qui limite les communautés à celles qui acceptent d’être gouvernées selon les règles d’un système, pour les intérêts de communauté différentes. Il doit aussi se positionner et prendre des valeurs pour que les individus puissent appartenir à un ensemble gouverné par une politique qui s’abstrait naturellement de ces communautés, mais qui doit exercer nécessairement une logique de pouvoir sur elles.
Dans la théorie néoclassique, l’information est parfaite, elle doit être connaissance commune sur les marchés. Mais d’un autre côté, l’information a un coût,: celà signifie que les individus ont un intérêt stratégique à détenir une information. Celà ferait perdre de nombreux avantages pour certains acteurs, sauf si une attaque coordonnée est préférable, mais dans ce cas, l’intérêt des acteurs peut être divergent, et les gains partagés.. Pourquoi alors les individus accepteraient d’avoir une information commune? On peut généraliser ce raisonnement: si je connais la construction de batiments, les contrats, pourquoi faire appel à un macon ou à un avocat? Peut-être parceque ce sont des spécialistes du métier..
Quand tous les acteurs sont guidés par une information commune, on appelle ce moyen utilisé: le bourrage de crâne, et les individus: des moutons de panurge.. C’est la même chose quand vous dites: “tout le monde a de bonnes raisons de croire que tout le monde à de bonnes raisons de croire que A”, surtout si vous parlez des jeux politiques, mais celà justifie peut être le fait que Freud se faisait osculté et qu’il en était tombé malade
Plus sérieusement, il serait intéressant de s’interroger sur les raisons économiques des guerres, parfois coordonnées, qui ont été cachées aux acteurs
La définition de la connaissance commune: “partager les mêmes modes de raisonnement”, selon un patrimoine génétique, et un peux seulement par des facteurs culturels, risquent de conduire à un eugénisme. Et je me demande comment réaliser dans ces conditions un travail de groupe, sauf si l’on pense que son coéquipier aurait pensé que l’on aurait pensé que…
Pour ce qui est des conditions épistémiques, les formes heuristiques ne m’ont pas fait beaucoup rire. Il me semble utile de rappeler qu’une règle d’inférence définie les processus de déduction, et que si la condition 3 n’obéit pas à un raisonnement déductif mais à une communication des pensées, un chapitre dans le livre de la métaphysique doit être écrit à ce sujet. Et une occurence mutuelle est explicite ou bien n’existe pas du tout, ce qui revient dans ce cas à supprimer une hypothèse irréaliste.
J’insisterai dans ce post sur les relations entre le groupe et les normes. Pour établir une infomation commune, le groupe est fondamental car il constitue l’antidote de la massification sociale:
D’une part, le sentiment d’appartenance au groupe, la solidarité et les échanges entre ses membres, l’adhésion à des buts, à des normes, à des idéaux communs rétablissent les relations humaines altérées par la division du travail, par les communications de masse, par l’emprise de la civilisation urbaine, industrielle et bureaucratique
D’autres part, l’appropriation d’une vérité commune est une tâche collective: Ainsi les démocraties populaires en U.R.S.S ont été trés réservés à l’égard de la dynamique de groupe, car il subsistait un fonds de méfiance étatique considérant que tout groupe est supposé chercher la clandestinité pour conspirer. Mais le groupe autogéré risque aussi de s’inscrire dans une tradition anarchiste où le fonctionnement des groupes relève de la démocratie directe et de l’utopie sociétaire. Ils peuvent avoir pour effet de désagréger les institutions (G. Lapassade), même si J-P Sartre remarquera que le groupe révolutionnaire de juillet 1789 marque l’expérience concrète de la liberté, égalité, fraternité.
Je retiendrais comme définition finale du groupe, celle de Lewin:
le groupe n’est pas réductible aux individus qui le composent, ni aux ressemblances qui existent entre eux, ni à la similitude de leurs buts. Il se définit comme un double système d’interdépendance, entre les membres d’une part, entre les éléments du champ d’autre part (buts, normes, représentation du milieu extérieur, division des rôles, statuts…). C’est le système des interdépendances d’un groupe à un moment qui explique ses conduites (cf. P. Kaufmann). Dans cette configuration, le rôle joué des institutions, de l’institutionnalisation est fondamental. Et même en prenant l’hypothèse de Freud, le psychanalyste E.Jacques a montré qu’elles peuvent remplir une fonction de défense contre les angoisses archaïques de persécution et de dépression. On peut identifier cinq organisateurs inconscients du groupe : un fantasme individuel, une imago, un fantasme originaire, le complexe d’Œdipe, l’enveloppe psychique groupale.
En retenant la dernière hypothèse, René Kaës a analysé les mythes, les utopies, les idéologies comme des formations de compromis spécifiquement groupales. Il a fondé en partie ces mythes ou utopies sur les institutions sociales et culturelle, ceci qui répond à la question d’Aumann: Comment des croyances, ou plus
généralement des événements peuvent-ils devenir connaissance commune ? Pour répondre au sujet, même si le système peut empêcher la connaissance commune, cette restriction constitue en soi une connaissance commune dans l’univers psychologique collectif, et dans l’imaginaire psychanalytique,
Plus formellement, certains types de raisonnement qui utilisent de la connaissance commune sont équivalents à d’autres qui n’utilisent pas cette connaissance commune, mais des hypothèses. Dit autrement des implications dans la métathéorie sont apparues comme des implications dans la théorie à condition de mettre de la connaissance commune dans les prémisses des implications. Démontrer cette équivalence nécessite des démonstrations sur la structure des preuves, ce qui nécessite une implantation de ces preuves comme des citoyens de première classe en COQ, niveau auquel ne va pas l’implantation actuelle. Une implantation est en cours par Pierre.Lescanne@ens-lyon.fr.
Le modèle d’inférence, ainsi que celui d’agents rationnels n’est pas approprié au modèle d’Aumann sauf si l’on considère par une hypothèse aprioritique que les agents suivent tous la
même règle de décision, et si cette règle de décision est stable par l’union, alors la connaissance commune des décisions individuelles des agents implique l’égalité des décisions individuelles. Mais celà restreint le champs des connaissances communes, car il devient alors impossible d’être d’accord sur un désaccord. Et le modèle d’inférence ne peut constituer l’axiome d’Aumann, car le résultat d’Aumann tient toujours si l’on relâche l’axiome d’introspection négative. Ainsi, il devient toujours impossible d’être d’accord sur un désaccord même quand les agents ignorent leur propre ignorance mais celà réduit le champs des connaissances communes chez Aumann car le résultat peut être identique, mais le raisonnement non exhaustif chez l’un, avec les mêmes connaissances, conduit à le rejeter, alors que les logiques sont identiques. Et ce résultat ne suit pas nécessairement les hypothèses d’Aumann (probabilité à posteriori d’un évènement donné, information obéissant au modèle des partitions d’information) car le phénomène collectif qui accroît la vérité du décideur par la logique de groupe (d’où notion de groupe et des institutions à ne pas négliger, cf post précédant) n’est pas pris en compte, car Aumann considère les résultats individuels uniquement, à moins de considérer que la croyance ainsi établie est supèrieure à la croyance individuelle, ce qui en fait une hypothèse à posteriori de vérité, mais ne considère pas à sa juste valeur, la logique de groupe.
Or, individuellement, savons-nous toujours ce que nous savons ? Il arrive souvent que nous prenions conscience d’un aspect de la situation à l’instant seulement où cet aspect se modifie, par exemple on découvre la présence d’un bruit de fond quand celui-ci s’arrête. De même, savons-nous toujours ce que nous ne savons pas ? Un exemple classique pour décrire les erreurs de raisonnement qui peuvent être faites met en scène deux personnages, le parfaitement logique Sherlock Holmes et le plus humain Docteur Watson. Un meurtre est commis de nuit dans une maison où vit un chien qui aboie sur les inconnus mais pas sur les gens qu’il connaît.Sherlock Holmes, accompagné du Dr Watson, interroge les domestiques pour savoir s’ils ont remarqué quelque chose de spécial pendant la nuit du meurtre. Les domestiques répondent qu’il ne s’est rien passé. Plus tard, Sherlock Holmes attire l’attention de Watson sur le curieux incident du chien pendant la nuit. Dr Watson répond que le chien n’a rien fait pendant la nuit, ce à quoi Sherlock Holmes répond qu’il s’agit justement du curieux incident. Pourquoi, alors qu’ils ont reçu la même information, Holmes et Watson ont des conclusions différentes ? Parce que l’opérateur de connaissance de Holmes satisfait les cinq axiomes du système S5, contrairement à celui de Watson. Holmes sait qu’il ne sait pas l’événement « le chien a aboyé », ce qui ici est équivalent au fait qu’il sait l’événement « le chien n’a pas aboyé ». Sa connaissance vérifie l’axiome d’introspection négative. Comme elle vérifie aussi la propriété d’omniscience logique, il déduit que si le chien n’a pas aboyé, c’est qu’il connaissait le meurtrier. Watson ne se rend pas compte que le chien aurait pu aboyer et que dans ce cas les domestiques lui auraient dit que le chien a aboyé. Dans l’état du monde où le chien n’a pas aboyé le soir du crime, Watson ne distingue pas entre les états du monde où le chien a aboyé et où le chien n’a pas aboyé.
Ainsi, l’opérateur de connaissance de Watson ne vérifie pas l’axiome d’introspection négative. Si une fois que Holmes lui a fait remarquer que le chien n’a pas aboyé, Watson n’en conclut pas que le meurtrier était un habitué de la maison, alors il ne vérifie pas non plus la propriété d’omniscience logique. Mais la vérification de cette propriété n’est pas nécessaire pour en faire connaissance commune, car l’axiome d’instropection négative de Holmes dans ce cas, suffit à faire accréditer la vérité. Le modèle est simple avec deux acteurs, mais quand n tend vers infini, il faut considérer un axiome d’introspection supérieur aux autres qui n’ont pas un droit de regard sur tous les acteurs, avec un fond de connaissance commune pour tous les autres acteurs, ce qui en fait, un axiome de vérité..
Voilà, en espérant avoir éclairé les lecteurs sur le post de C.H