Peter Donnelly démontre comment les statistiques peuvent tromper les jurés

Comme d'autres conférenciers l'ont dit, c'est plutôt intimidant -- particulièrement intimidant -- de parler devant vous. Mais contrairement à d'autres, je ne vous parlerai pas des mystères de l'univers, des merveilles de l'évolution, ou des manières intelligentes et innovantes de s'attaquer aux grandes inégalités de notre monde. Ni même des défis des états-nations dans l'économie mondiale moderne. Mon exposé, comme on vous l'a annoncé, parle de statistiques -- et, pour être plus précis, d'aspects vraiment passionnants desstatistiques . Et c'est -- (Rires) -- c'est plus un défi pour moi que pour tous les autres conférenciers avant et après moi. (Rires) Un de mes aînés m'a dit, quand je débutais dans ce métier, plutôt fièrement, que les statisticiens étaient des gens qui aimaient les chiffres mais n'avaient pas la personnalité requise pour devenir comptables. (Rires) Il y a une autre blague que les statisticiens font à propos d'eux-mêmes, "Quelle est la différence entre un statisticien introverti et un statisticien extraverti ?" Et la réponse est, "L'extraverti est celui qui regarde les chaussures de l'autre." (Rires) Mais je veux vous parler de quelque chose d'utile -- concentrez-vous. Ce soir, il y a une réception au musée d'histoire naturelle de l'université. Le cadre est magnifique, j'espère que vous en conviendrez, et il est très représentatif du meilleur de la tradition victorienne. Dans ce décor magnifique, avec tous ces gens réunis -- c'est peu probable mais vous pourriez vous vous retrouver dans une conversation et vouloir en sortir. Dans ce cas voici ce que vous faites. Quand on vous demande, "Que faites-vous dans la vie ?" -- vous dites, "Je suis statisticien." (Rires) Sauf que maintenant ils sont prévenus, et qu'ils sauront que vous mentez. Alors il peut se passer deux choses. Soit ils vont se trouver un lointain cousin à l'autre bout de la salle et courir pour aller lui parler. Soit ils vont soudain avoir très soif ou faim -- et souvent les deux -- et filer se servir à boire à ou manger. Et vous pourrez tranquillement parler avec qui vous voulez.

C'est un des défis de notre profession d'essayer d'expliquer ce que nous faisons. Nous ne sommes pas les meilleurs convives dans les dîners en ville et les conversations mondaines... Et je ne suis pas vraiment doué pour cela. Mais ma femme -- ma petite amie alors -- le faisait beaucoup mieux que moi. Il y a longtemps, quand nous nous sommes rencontrés, elle travaillait pour la BBC en Grande Bretagne, et je travaillais, à ce moment-là, en Amérique. J'étais de retour pour la voir. Elle l'a dit à une de ses collèges, qui a demandé "Et que fait-il dans la vie ?" Sarah s'est mise à réfléchir à ce que je lui avais raconté -- et elle faisait l'effort d'écouter, à cette époque. (Rires) Ne lui dites pas que j'ai dit ça. Et elle pensait à mon travail sur la conception de modèles mathématiques pour comprendre l'évolution et la génétique moderne. Alors quand son collègue lui a dit "Que fait-il?" Elle a hésité et a dit, "Il fait du design" (Rires) Alors sa collègue s'est sentie vivement intéressée, étrangement, et elle a dit, "Et que fait-il comme design ?" Alors Sarah a réfléchi un peu plus et a dit, "des jeans" (ndt gènes) (Rires) "Il design des jeans." (des gènes)

C'est mon premier amour, je n'en dirai pas plus. Plus généralement je voudrais que vous pensiez au rôle de l'incertain, de l'aléatoire et du hasard dans notre monde, comment nous y réagissons, et comment nous voyons les choses. Bon. Ca a été plutôt facile pour vous jusqu'ici -- vous avez ri, etc -- dans les conférences jusqu'à celle-ci. Vous allez devoir réfléchir, et je vais vous poser des questions. Pour ma première question, imaginez la situation suivante. Si vous lancez une pièce plusieurs fois d'affilée, Pour une raison donnée -- que je n'expliquerai pas pour le moment -- nous nous intéressons à un séquence particulière. En voici une -- face, suivi de pile, suivi de pile.

Supposez donc que nous lancions une pièce plusieurs fois de suite. La séquence, face-pile-pile, qui nous tient à coeur, se produit. Si l'on compte : un, deux, trois, quatre, cinq, six, sept, huit, neuf, dix -- elle se produit après le 10e lancer. Vous pouvez penser qu'il y a des choses plus intéressantes à faire, mais laissez moi poursuivre. Imaginez que cette moitié d'entre vous a des pièces, et les lance jusqu'à voir la séquence face-pile-pile. La première fois, ça se passera peut-être après le 10e lancer, comme ici. La seconde fois, ce sera peut-être après le 4e lancer. La fois suivante, après le 15e. Vous relancez de nombreuses fois, et vous calculez la moyenne de ces chiffres. Je veux que ce côté de la salle y réfléchisse.

L'autre moitié de l'assistance, elle, n'aime pas face-pile-pile -- ils trouvent ça ennuyeux, pour d'obscures raisons culturelles -- et ils sont plus intéressés par une séquence différente -- face-pile-face. Donc, de ce côté; vous prenez vos pièces, et vous les lancez et relancez. Et vous comptez le nombre de lancers jusqu'à la séquence face-pile-face et vous faites la moyenne. OK ? De ce côté-ci, vous obtenez un nombre -- Vous l'avez beaucoup fait, donc vous obtenez un nombre exact -- le nombre moyen de lancers pour obtenir face-pile-pile. De ce côté-là -- le nombre moyen de lancers jusqu'à face-pile-face.

C'est une règle mathématique fondamentale -- si vous avez deux nombres, une des 3 choses suivantes est vraie. Ou bien ils sont égaux, ou bien l'un est plus grand que l'autre, ou l'autre plus grand que l'un. Que se passe-t-il dans notre cas ? Vous devez tous y penser, et vous allez devoir voter -- nous en restons là pour le moment. Je ne veux pas vous laisser trop de temps pour y réfléchir, jusqu'à ce que tout le monde ait voté. OK. Vous comparez le nombre de lancers moyen jusqu'à la première apparition de face-pile-face avec le nombre moyen de lancers jusqu'à face-pile-pile.

Qui pense que A est vrai -- qu'en moyenne, ce sera plus long pour face-pile-face que pour face-pile-pile ? Qui pense que B est vrai -- qu'en moyenne, ils sont égaux ? Qui pense que C est vrai -- qu'en moyenne, il faudra moins de temps pour face-pile-face que pour face-pile-pile ? OK, qui n'a pas voté ? Parce que c'est mal -- on a dit que vous deviez le faire. (Rires) OK. Donc la majorité pense que B est vrai. Et vous serez rassurés de savoir que même de distingués mathématiciens le pensent aussi. C'est faux. C'est A qui est vrai. C'est plus long, en moyenne. En fait, la moyenne du nombre de lancers nécessaires pour face-pile-face est 10 et la moyenne pour face-pile-pile est 8. Comment est-ce possible ? Les deux séquences sont-elles différentes ? Elles le sont. Face-pile-face se "mord la queue". Si vous avez face-pile-face-pile-face, vous obtenez d'un coup deux occurrences de la séquence en seulement cinq lancers. Ce n'est pas possible avec face-pile-pile. Ceci s'avère important.

Il y a deux manières de voir. Je vais vous en donner une. Supposons que nous sommes en train de lancer. De ce côté -- rappelez-vous, vous êtes enthousiastes pour face-pile-pile, et vous, pour face-pile-face. On lancer, et on obtient face -- vous commencez à vous tortiller sur votre fauteuil car quelque chose de grand et de merveilleux, est sur le point de se produire. Le second lancer donne un pile -- et vous vous emballez. Le champagne glacé est juste à côté de vous, vous avez refroidi les flûtes et vous vous préparez fêter ça. Vous attendez, haletant, le lancer final. Et s'il sort un face, c'est super. Vous êtes contents, et vous fêtez ça. Si c'est un pile -- bon, un peu déçus, vous rangez les flûtes et le champagne. Et vous continuez vos lancers, vous attendez la sortie du prochain face pour vous emballer de nouveau.

De ce côté-là, vous vivez une expérience différente. C'est la même chose pour les deux premières parties de la séquence. Vous êtes un peu excités par le premier face -- vous êtes encore plus excités avec le pile suivant. Et vous relancez. Si c'est un pile, vous sabrez le champagne. Si c'est un face vous êtes déçus, mais vous êtes de nouveau au tiers de votre motif. C'est une manière informelle de présenter les choses -- mais c'est pour cela qu'il y a une différence. Une autre manière de voir -- si vous avez lancé huit millions de fois, alors nous devrions avoir un million de face-pile-face, et un million de face-pile-pile -- mais face-pile-face pourrait apparaître en grappes. Donc sur huit millions de positions, si vous voulez en placer un million et que certains d'entre eux se recouvrent, les paquets seront plus séparés. C'est une autre façon de rendre les choses intuitives.

Qu'est-ce que je veux dire par là ? Il s'agit d'un exemple très, très simple, une question de probabilité facile, sur laquelle tout le monde se trompe -- et nous sommes en bonne compagnie. Ceci est une petite digression pour en venir à ma véritable passion, la génétique. Il y a un lien entre face-pile-face et face-pile-pile en génétique, et c'est le suivant. Quand vous lancez une pièce, vous obtenez une séquence de faces et de piles. Dans l'ADN il y a une séquence de non pas deux choses -- face et pile -- mais de quatre lettres -- A, G, C et T. Il y a de petits ciseaux chimiques, appelés enzymes de restriction, qui coupent l'ADN à chaque fois qu'ils tombent sur une séquence particulière. C'est un outil extrêmement utile en biologie moléculaire moderne. Au lieu de demander, "Au bout de combien de temps obtient-on un face-pile-face ?" -- vous pouvez demander, "De quelle taille sont les paquets si j'utilise une enzyme de restriction qui coupe quand elle voit G-A-A-G, par exemple, De quelle taille sont ces paquets ?"

C'est un lien des plus courants entre probabilité et génétique. Il y a un lien plus profond encore, dont je n'ai pas eu le temps de parler et qui fait de la génétique moderne une science vraiment passionnante. Nous entendrons d'autres conférences à ce sujet. Il s'avère que, pour comprendre les secrets que recèle les données générées par les technologies expérimentales modernes, une des clés provient de techniques plutôt sophistiquées -- rassurez-vous, je fais quelque chose d'utile dans mon travail, beaucoup plus sophistiquées que l'histoire de face-pile-face -- la modélisation informatique et mathématique et des techniques statistiques modernes. Je vais vous donner deux aperçus-- deux exemples -- de projets dont mon groupe à Oxford fait partie, qui sont tous les deux assez passionnants. Vous connaissez le projet Génome Humain. Ce projet avait pour but de séquencer un génome humain complet. Ce qui vient naturellement après ça -- c'est le projet international HapMap, qui est une collaboration de laboratoires de cinq ou six pays différents. Pensez au projet Génome Humain comme une manière d'apprendre ce que nous avons en commun et au projet HapMap comme une façon de comprendre les différences entre des gens différents.

Pourquoi se préoccuper de cela ? Et bien, il y a de nombreuses raisons. La plus pressante est de comprendre comment ces différences prédisposent certaines personnes à une maladie donnée -- disons, un diabète de type 2 -- et que d'autres différences prédisposent d'autres à des maladies du coeur, ou à des accidents vasculaires cérébraux, ou à l'autisme etc. C'est un grand projet. Il y a un second grand projet. récemment financé par le Wellcome Trust dans ce pays, qui implique de vastes études -- des milliers d'individus, et huit maladies différentes, des maladies courantes comme les diabètes de type 1 et 2, l'infarctus du myocarde, les maladies bipolaires etc -- pour essayer de comprendre leur génétique. Essayer de comprendre ce qui, dans les différences génétiques cause ces maladies. Pourquoi voulons-nous faire cela ? Parce que nous connaissons très peu la plupart des maladies humaines. Nous ne connaissons pas leurs causes. Et si nous pouvons approfondir et comprendre leur génétique, nous aurons une accès à leur manière de fonctionner. Une toute nouvelle façon de concevoir les thérapies et les traitements préventifs etc. C'était, comme je l'ai dit, une petite digression à ma passion principale.

Revenons à des problèmes plus prosaïques sur la manière de penser l'incertain. Voici un autre quizz -- supposez que nous ayons un test pour une maladie qui n'est pas infaillible, mais plutôt bon. Il est juste 99 pour cent du temps. Je choisis l'un de vous, ou quelqu'un dans la rue, et je fais le test pour cette maladie. Supposons qu'il existe un test pour le VIH -- le virus responsable du SIDA -- et que le test soit positif pour cette personne. Quel est le pourcentage de chance que la personne soit effectivement malade ? Le test est bon 99 pour cent des fois. Donc la réponse naturelle est 99 pour cent. Qui aime cette réponse ? Allez -- tout le monde est concerné. Oubliez que vous ne me faites plus confiance. (Rires) Bien, vous avez raison d'être un peu sceptiques, parce que ce n'est pas la bonne réponse. C'est ce que vous pourriez croire. Ce n'est pas la réponse, parce qu'il manque des éléments. La réponse dépend en fait de la rareté de la maladie. Je vais vous donner un exemple. Voici une représentation d'un million d'individus. Prenons une maladie qui affecte -- c'est une maladie rare, elle affecte une personne sur 10 000. Parmi ce million d'individus, la plupart sont en bonne santé et certains ont la maladie. Et, si ceci est la prévalence de la maladie, 100 l'auront et le reste non. Maintenant, supposez qu'on teste tout le monde. Que se passe-t-il ? Et bien, sur les 100 qui ont la maladie, le test aura la bonne réponse 99 fois sur cent, et 99 seront testés positifs. Sur tous les autres, qui sont en bonne santé, le test répondra juste à 99 pour cent. Il sera faux seulement une fois sur cent. Mais il y a tellement de gens qu'il y aura un grand nombre de faux positifs. Dit autrement -- sur tous ceux qui sont testés positifs -- voici les individus concernés -- moins d'un sur 100 a vraiment la maladie. Donc même si nous considérons que le test est rigoureux, un élément important est qu'une partie de l'information est manquante.

Voici l'intuition essentielle. Ce que nous devons faire, lorsque le test est positif est de peser la plausibilité, ou la vraisemblance, de deux explications opposées. Chacune de ces explications est en partie vraisemblable et en partie peu vraisemblable. Une explication est que la personne n'a pas la maladie -- ce qui est extrêmement probable, si vous prenez quelqu'un au hasard -- et que le test est faux, ce qui est peu probable. L'autre explication est que la personne a la maladie -- c'est peu probable -- et que le test est juste, ce qui est probable. Et le nombre que nous obtenons -- ce nombre est légèrement inférieur à 100 -- dépend de la probabilité qu'une de ces explications est liée à l'autre. Chacune des deux prises ensemble est improbable.

Voici un autre exemple pris dans l'actualité. Les britanniques ont entendu parler de ce cas devenu célèbre d'une femme nommée Sally Clark, dont les deux bébés sont morts soudainement. Initialement, on a pensé qu'ils étaient morts de ce que l'on appelle la mort subite du nourrisson (familièrement en anglais : "mort du berceau") Pour différentes raisons, on l'a plus tard accusée de meurtre. Et au procès, son procès, un pédiatre distingué a déclaré dans son témoignage que le pourcentage de chance d'avoir deux nourrissons morts du même syndrome, dans une famille comme la sienne -- en activité et non fumeur -- était de 1 sur 73 millions. Pour faire court, elle a été condamnée à l'époque. Plus tard, assez récemment, elle a été acquittée en appel -- en fait, au second appel. Pour replacer les choses dans leur contexte, imaginez l'épreuve pour quelqu'un de perdre un enfant, et un deuxième, et tout en étant innocent, d'être reconnu coupable de meurtre. De subir le stress du procès, d'être condamné pour meurtre -- et d'être détenue dans une prison pour femmes, où toutes les autres prisonnières pensent que vous avez tué vos enfants -- c'est vraiment horrible. Et c'est arrivé en grande partie parce que l'expert s'est totalement fourvoyé sur ses statistiques, et ce sur deux points.

Alors d'où a-t-il sorti son chiffre de 73 millions ? Il a lu quelques publications de recherche, qui disaient que la chance d'une mort subite du nourrisson dans une famille comme celle de Sally Clark est à peu près d'une sur huit mille cinq cent. Et il a dit, "Je suppose que si on a un nourrisson mort du syndrome dans une famille, le pourcentage de chance d'avoir une second enfant mort sont inchangées." C'est ce que les statisticiens appelleraient une hypothèse d'indépendance. C'est la même chose de dire, "Si vous lancez une pièce et obtenez face la première fois, cela n'aura pas d'incidence sur vos chances d'avoir face la seconde fois." Alors si vous lancez une pièce deux fois de suite, la probabilité d'obtenir deux faces est un demi -- soit la probabilité du premier lancer -- multiplié par un demi -- la probabilité du second lancer. Alors il a dit, "Supposons -- Je suppose que ces évènements sont indépendants. Quand vous multipliez huit mille cinq cents par huit mille cinq cents, vous obtenez à peu près 73 millions." Et aucune de ces hypothèses n'a été exposée au tribunal ou présentée au jury de cette façon. Malheureusement -- et vraiment, de manière regrettable -- d'abord, dans une telle situation il faudrait effectuer des vérifications empiriques. Et ensuite, c'est évidemment faux. Il y a énormément de choses que nous ne savons pas sur la mort subite du nourrisson. Il se peut que certains facteurs environnementaux inconnus soient à l'oeuvre, et il y a de fortes chances qu'il y ait des facteurs génétiques que nous ne connaissons pas. Donc si une famille est victime d'une mort d'un nourrisson, elle devient de fait partie d'un groupe à haut risque. Ìls sont probablement exposés à des facteurs de risque environnemental et/ou à ces facteurs génétiques que nous ne connaissons pas. Et de prétendre, alors, connaître les chances d'avoir un second décès comme si on ignorait ces informations est vraiment idiot. C'est pire qu'idiot -- c'est vraiment de la très mauvaise science. Néanmoins, c'est ainsi que ça a été présenté, et au procès personne n'a essayé de contester. C'est le premier problème. Le second problème est, que veut dire le nombre de un sur 73 millions ? Après que Sally Clark a été reconnue coupable -- imaginez, ça a vraiment fait les gros titres de la presse -- un des journalistes de l'un des journaux les plus respectables de Grande Bretagne a écrit que selon l'expert, "Les chances qu'elle soit innocente était d'une sur 73 millions." Ça, c'est une erreur de logique. C'est exactement la même erreur de logique que de penser après le test de la maladie, qui est 99 fois sur cent juste, que la probabilité d'avoir la maladie est de 99 pour cent. Dans l'exemple du test, il fallait avoir deux choses en tête, l'une était la possibilité que le test se trompe ou pas. L'autre était la probabilité, a priori, qu'une personne soit malade. C'est exactement la même chose ici. Il y a deux phénomènes à l'oeuvre -- deux faces à l'explication. Nous voulons savoir la probabilité, ou la probabilité relative, de deux explications différentes. L'une des deux est que Sally Clark était innocente -- ce qui est, a priori, extrêmement probable -- la plupart des mères ne tuent pas leur enfants. Et la seconde partie de l'explication est qu'elle a subi un évènement incroyablement improbable. Pas aussi improbable que le suggère le un sur 73 millions, mais néanmoins assez improblable. L'autre explication est qu'elle est coupable, Nous pouvons penser a priori que c'est improbable. Et certes, nous devrions penser dans le contexte d'un procès criminel que c'est improbable, en raison de la présomption d'innocence. Mais si elle a cherché à tuer les enfants, elle a réussi. Donc la probabilité qu'elle soit innocente n'est pas d'un sur 73 millions. Nous ne savons pas ce qu'elle vaut. Elle est liée à la pondération des preuves contre l'accusée et des résultats statistiques. Nous savons que les enfants sont morts. Ce qui compte, c'est la probabilité ou l'improbabilité relative des deux explications. Qui sont toutes deux improbables. Il y a des situations dans lesquelles les erreurs de statistiques ont des conséquences profondes et vraiment funestes. En fait, deux autres femmes ont aussi été condamnées sur la base du témoignage du pédiatre, et ont plus tard été libérées en appel. De nombreux cas ont été revus. C'est un sujet d'actualité car ce pédiatre subit actuellement un procès en disgrâce de la part de l'ordre des médecins de Grande Bretagne.

Pour conclure -- quels sont les messages que vous devez retenir de tout ça ? Bien, nous savons que le hasard, l'incertain, et la probabilité font partie de notre vie de tous les jours. Collectivement, bien que spéciaux à bien des égards, vous êtes passés comme tout le monde à côté des exemples que j'ai donnés. C'est un fait que les gens ne comprennent pas ces choses-là. Ils font des erreurs de logique lorsqu'ils raisonnent dans l'incertain. Nous pouvons nous débrouiller brillamment avec les subtilités du langage -- et il y a des travaux intéressants sur l'évolution pour expliquer pourquoi nous en sommes là. Nous ne sommes pas doués pour raisonner dans l'incertain. C'est un problème dans nos vies de tous les jours. Comme vous l'avez entendu dans les conférences, les statistiques sous-tendent un grand nombre de recherches en science -- en science sociale, en médecine et aussi, bien sûr, dans l'industrie. Tout le contrôle de la qualité, qui a un impact majeur sur les processus industriels est sous-tendu par les statistiques. C'est quelque chose que nous ne savons pas faire. Tout au moins, nous devrions l'admettre, mais nous avons tendance à ne pas le faire. Pour en revenir à la justice, au procès de Sally Clark les avocats ont tous accepté ce que l'expert a dit. Mais si un pédiatre avait dit au jury, "Je sais construire des ponts. J'en ai construit un en bas de la rue. Vous pouvez passer dessus en voiture" ils auraient dit, "Les pédiatres ne savent pas construire de ponts. C'est le travail des ingénieurs." Mais il a dit, effectivement ou implicitement, "Je sais raisonner dans l'incertain. Je connais les statistiques." Et tout le monde a dit, "C'est OK. Il est expert." Nous devons savoir quelles sont nos compétences. Les mêmes problèmes ont été soulevés au début des tests ADN, quand les scientifiques, les avocats et certains juges, déformaient systématiquement la vérité. En général -- on peut l'espérer -- innocemment, mais ils la déformaient quand même. Les légistes disaient, "La probabilité que ce type soit innocent est d'un sur trois millions. Même si vous croyez en ce nombre, comme un sur 73 millions, il ne veut pas dire ce que vous croyez. Et il y a eu des cas célèbres d'appels en Grande Bretagne et ailleurs à cause de cela.

Et juste pour finir sur le thème de la justice, c'est très bien de dire, "Faisons de notre mieux pour présenter les témoignages." Mais de plus en plus, dans les cas de tests ADN -- et c'en est un -- nous attendons des jurés, qui sont des gens ordinaires -- et il est connu qu'ils ne savent pas le faire -- nous attendons des jurés qu'ils soient capables de ce genre de raisonnements. Dans d'autres domaines de la vie, si les gens, en débattant -- disons, sauf en politique. Mais dans d'autres domaines, si les gens utilisent des arguments illogiques, nous dirions que ce n'est pas une bonne chose. C'est ce que nous demandons aux politiciens et nous n'en demandons pas beaucoup plus. Dans le cas des probabilités, nous avons toujours faux -- mais au moins, nous devrions en être conscients. Et idéalement, nous pourrions peut-être y faire quelque chose. Merci beaucoup.