Assim como outros já disseram, esta é uma experiência assustadora - uma experiência particularmente assustadora - falar para este público. Mas diferente dos outros apresentadores, eu não vou falar para vocês sobre os mistérios do universo, ou as maravilhas da evolução, ou as maneiras realmente inteligentes ou inovadoras que as pessoas estão atacando as maiores desigualdades em nosso mundo. Ou ainda os desafios dos estados-nações na economia moderna global. Meu assunto, como vocês acabaram de ouvir, é falar para vocês sobre estatísticas e, para ser mais preciso, para contar a vocês algumas coisas excitantes sobre estatísticas. E isto (Risos) isto ainda é muito mais desafiador do que todos os apresentadores antes de mim e todos que virão depois de mim. (Risos) Um dos meus colegas mais velhos me disse, quando era jovem nesta profissão bem orgulhoso, que os estatísticos eram pessoas que gostavam de números mas não tinham as habilidades de personalidade para se tornarem contadores. (Risos) E ainda tem uma piada interna entre os estatísticos, que é, "Como você diferencia um estatístico introvertido de um extrovertido?" Ao que a resposta é, "O estatístico extrovertido é aquele que olha para os sapatos das outras pessoas." (Risos) Mas eu quero dizer a vocês algo útil - e aqui vai, vamos nos concentrar agora. Esta noite, tem uma recepção no Museu de História Natural da Universidade. É uma decoração maravilhosa, como eu espero que vocês irão achar, e é um grande ícone do melhor da tradição Vitoriana. É bem improvável - ainda mais nesta recepção, e com este tipo de gente - pode ser que você se encontre conversando com alguém que você preferiria que não estivesse. Então, você faz assim: Quando disserem a você, "O que você faz?" -- você diz, "Eu sou estatístico." (Risos) Bom, a menos que já estejam pré-avisados, e eles vão saber que está inventando. Uma das duas coisas vai acontecer. Ou eles vão descobrir seus primos há muito tempo perdidos no outro canto da sala e vão lá correndo conversar com eles. Ou de repente eles vão ficar com sede ou com fome -- ou ambos -- e vão atrás de bebida e alguma coisa para comer. E então você será deixado em paz para conversar com a pessoa que você quer.
É um dos desafios de nossa profissão tentar e explicar o que nós fazemos. Nós não estamos no topo da listas de convidados das pessoas para uma festa e conversas e etc. E esta é uma coisa que eu nunca consegui achar um jeito bom de fazer. Mas minha mulher - que então era minha namorada - conseguiu isto muito melhor do que eu. Muitos anos atrás, quando a gente começou a sair, ela trabalhava pela BBC no Reino Unido, e eu estava, na ocasião, trabalhando nos Estados Unidos. Eu estava voltando para visitá-la. E ela falou isto para um dos colegas dela, que disse, "Bom, o que o seu namorado faz?" Sarah pensou bastante sobre as coisas que eu tinha explicado - e ela se concentrava, naqueles dias, em me ouvir. (Risos) Não digam a ela que eu disse isto. E ela estava pensando sobre o trabalho que fiz desenvolvendo modelos matemáticos para entender a evolução e a genética moderna. Então uma dos colegas dela disse, "O que ele faz?" Ela parou, e disse, "Ele modela coisas.' (Risos) Bom, um dos colegas dela de repente ficou muito mais interessado do que eu tinha direito de esperar. então seguiu em frente e disse, "O que ele modela?" Bom, Sarah pensou um pouco mais sobre o meu trabalho e disse, "Genes (Jeans)." (Risos) "Ele modela genes (jeans)."
Este foi meu primeiro amor, e é o que eu tenho para dizer um pouco a vocês O que eu quero fazer mais genericamente é fazer vocês pensarem sobre o lugar da incerteza e do aleatório e das chances no nosso mundo, e como nós reagimos a isto, e quão bem nós pensamos ou não sobre isto. Então vocês tiveram uma folga até agora -- um pouco de risadas, e todas estas coisas -- nas conversas do dia. Vocês tem que pensar, e eu vou fazer algumas perguntas a vocês. Aqui está a cena para a primeira questão que eu vou perguntar a vocês. Vocês conseguem imaginar jogar cara-ou-coroa sucessivamente? E por alguma razão -- que vai ficar bem vaga -- nós estamos interessados em um padrão em específico. Aqui está um -- uma cara, seguida por uma coroa, seguida por uma coroa.
Então suponha que nós joguemos a moeda repetidamente. Então o padrão, cara-coroa-coroa, a que nós repentinamente ficamos presos acontece aqui. Então você pode contar: um, dois, três, quatro, cinco, seis, sete, oito, nove, 10 -- ela acontece após a décima jogada. Então vocês podem estar pensando que há coisas mais interessantes para se fazer, mas me acompanhem por enquanto. Imagine que a metade desta platéia pegue cada um uma moeda, e que eles as joguem. Até que eles vejam o padrão cara-coroa-coroa a primeira vez. Na primeira vez que eles façam isto, pode ser que isto acontece na décima jogada, como aqui. Na segunda vez, pode ser após a quarta jogada. Na próxima, após a décima quinta jogada. Então você faz isto muitas e muitas vezes, e faz a média destes números E sobre isto que eu quero vocês pensem.
A outra metade da platéia não gosta de cara-coroa-coroa -- eles acham, por razão culturais profundas, que é chato -- e estão muito mais interessados um padrão diferente -- cara-coroa-cara. Então, deste lado, vocês pegam suas moedas, e jogam e jogam e jogam. E vocês contam o número de jogadas até que o padrão cara-coroa-cara apareça e vocês fazem as médias destes números, OK? Então deste lado, vocês tem um número -- e vocês fizeram isto muitas vezes, então vocês o tem precisamente -- qual é o número médio de jogadas até cara-coroa-coroa. Deste lado, vocês tem um número -- a média do número de jogadas até cara-coroa-cara.
Então aqui está uma fato matemático profundo -- se você tem dois números, uma destas três coisas deve ser verdade Ou eles são iguais, ou este é maior do que aquele, ou aquele é maior do que este. Então o que está acontecendo aqui? Vocês todos tem que pensar sobre isto, e todos vão ter que votar -- e nós não vamos ir adiante. E eu não quero acabar numa espera de dois minutos de silêncio para dar a vocês mais tempo para pensar sobre isto, até que todos tenham expressado um ponto de vista, OK. Então o que eu quero fazer é comparar a média do número de jogadas até que a gente veja cara-coroa-cara com a média de jogadas até que a gente veja cara-coroa-coroa.
Quem acha que A é verdade-- que, na média, vai demorar mais para ver cara-coroa-cara do que cara-coroa-coroa? Quem acha que B é verdade -- que na verdade, ambos serão iguais? Quem acha que C é verdade -- que, na média, vai tomar menos tempo para ver cara-coroa-cara do que cara-coroa-coroa? OK, quem não votou ainda? Porque isto é realmente impróprio -- eu disse que tinham que votar. (Risos) OK. Então a maioria das pessoas pensam que B é verdade. E vocês podem se sentir aliviados que até os matemáticos mais distintos pensam isto. Não é. "A" é verdade aqui. Demora mais, na média. De fato, o número médio de jogadas até cara-coroa-cara é 10. E o número médio de jogadas até cara-coroa-coroa é oito. Como assim? Alguma diferença entre os dois padrões? Existe. Cara-coroa-cara se sobrepõe. Se você obtém cara-coroa-cara-coroa-cara, você pode ter duas ocorrências do padrão em apenas 5 jogadas. Você não pode fazer isto com cara-coroa-coroa. Isto acaba sendo importante.
Há duas formas de pensar sobre isto. E eu vou mostrar uma delas a vocês. Então pensem -- vamos supor que estamos fazendo isto. Deste lado -- lembrem-se, você ficam felizes com cara-coroa-coroa, e vocês ficam felizes com cara-coroa-cara. Nós vamos começar jogando uma moeda, e obtemos uma cara -- e vocês sentam na ponta da cadeira porque algo realmente bom e legal, ou maravilhoso, pode acontecer. A próxima jogada é uma coroa -- vocês realmente ficam excitados. A champagne no gelo está do seu lado, você tem taças geladas para celebrar. E você está esperando quase sem ar pela última jogada. Se vier uma cara, isto é ótimo. Vocês acabam e vocês celebram. Se for uma coroa -- bom, bem desapontado, você põe as taças de lado e a champagne de volta. E ficam jogando, esperando a próxima cara, para ficarem excitados.
Neste outro lado, há uma experiência diferente. É o mesmo para as duas primeiras partes da sequência. Vocês ficam excitados com a primeira cara -- ficam muito mais excitados com a próxima coroa. E então vocês jogam uma moeda. Se for uma coroa, vocês estouram a champagne. Se for uma cara, vocês ficam desapontados, mas já estão a um terço do caminho ao seu padrão de novo. E esta é uma maneira informal de apresentar isto -- do porquê há uma diferença Outra maneira de pensar sobre isto =-- Se nós jogássemos uma moeda oito milhões de vezes, então nós esperaríamos um milhão de caras-coroas-caras e uma milhão de caraa-coroas-coroas -- mas os caras-coroas-caras aconteceriam amontoados. Então se você põe um milhão de coisas no meio de oito milhões de posições e você pode ter algumas delas se sobrepondo, os amontoados vão estar ainda mais separados. Esta é a outra forma de entender a intuição.
Qual é a minha ideia? É um exemplo muito, muito simples, com uma pergunta facilmente colocada em probabilidade, que todos -- e vocês estão em boa compania -- todos erram. É uma pequena fuga da minha real paixão, que é a genética. Há uma conexão entre caras-coroas-caras e cara-coroas-coroas e genética, e é a seguinte. Quando você joga uma moeda, você tem uma sequência de caras e coroas. Quando você olha no DNA, há uma sequência não de duas coisas -- caras e coroas -- mas de quatro letras -- As, Gs, Cs e Ts. E há tesouras químicas, chamadas enzimas de restrição que cortam o DNA sempre que encontram um padrão específico. E eles são uma ferramenta enormemente útil na biologia molecular moderna. E ao invés de fazer a pergunta, "Quantas jogadas até eu ver cara-coroa-cara?" -- você pode perguntar, "Quais serão os tamanhos dos grupos quando eu usar uma enzima de restrição que corta sempre que vê G-A-A-G, por exemplo? Quais são os tamanhos destes grupos?"
Esta é uma conexão muito trivial entre probabilidade e genética. E há uma conexão mais profunda, que eu não tenho tempo de falar e que é que a genética moderna é uma área realmente excitante da ciência. E nós vamos escutar algumas apresentações mais tarde na conferência especifícamente sobre isto. Mas então que revelar os segredos na informação gerada pelas tecnologias modernas de experimentação, uma parte chave tem a ver com um sofisticado vocês ficarão aliviados em saber que eu faço algo útil no meu trabalho diurno, muito mais sofisticado que a história cara-coroa-cara -- mas modelos de computação e de matemática bem sofisticados e técnicas estatísticas modernas. Eu vou mostrar dois pequenos pedaços -- dois exemplos -- de projetos que estamos envolvidos em meu grupo em Oxford, ambos que eu acho muito excitantes. Vocês conhecem sobre o Projeto Genoma Humano. Este foi um projeto que tinha por meta ler uma cópia do genoma humano. E a coisa natural a se fazer depois que você fez isto -- e isto que é este projeto, Projeto Internacional HapMap, que é a colaboração entre laboratórios em cinco ou seis países diferentes. Pense no Projeto Genoma Humano como um aprendizado do que nós temos em comum, e o Projeto HapMap está tentando entender onde estão as diferenças entre as pessoas diferentes.
Por que a gente se importa com isto? Bom, há muitas razões. A mais forte é que nós queremos entender como algumas diferenças podem fazer algumas pessoas mais suscetíveis a um tipo de doença -- diabete tipo-2, por exemplo -- e outras diferenças fazem as pessoas mais suscetíveis a doenças do coração, ou derrame, ou autismo e assim por diante. Este é um projeto grande. E há um segundo projeto grande, recentemente financiado pelo Wellcome Trust neste país, envolvendo grande estudos -- milhares de indivíduos, cada um com uma destas oito doenças diferentes, doenças comuns como diabete tipo 1 e 2, doenças coronárias, transtorno bipolar e assim por diante -- para testar e entender a genética. Para testar e entender o que há sobre as diferenças genéticas que causam as doenças. Por que nós queremos fazer isto? Porque nós entendemos muito pouco sobre a maioria das doenças humanas. Nós não sabemos o que as causam. E se nós conseguirmos chegar ao fundo e entender a genética, nós teremos uma idéia sobre como as doenças funcionam. Uma forma totalmente diferente de pensar sobre as terapias das doenças e sobre os tratamentos preventivos e assim por diante. E isto, como eu disse, é um pequeno desvio no meu grande amor,
De volta à algumas coisas mais mundanas do pensamento sobre a incerteza. Aqui vai uma outra pergunta a vocês -- agora vamos supor que nós temos um teste para uma doença que não é infalível, mas é muito bom. Ele acerta 99% das vezes. E eu pego um de vocês, ou pego alguém na rua, e eu testo para a doença em questão Vamos supor que seja um teste para o HIV - o vírus que causa a AIDS -- e o teste diz se a pessoa tem a doença. Qual é a chance que ela tenha a doença? O teste acerta 99% das vezes. Então a resposta natural é 99%. Quem gosta desta resposta? Vamos -- todo mundo tem que se envolver. Não pensem que vocês não confiam mais em mim. (Risos) Bom, vocês estão certos em serem um poucos céticos, porque esta não é a resposta. Que é o que vocês poderiam pensar. Esta não é a resposta, e ela não é pois é apenas uma parte da história. De fato isto depende de quão comum ou quão rara esta doença é. Então deixem-me tentar e ilustrar isto. Aqui está uma caricatura de um milhão de indivíduos Então vamos pensar sobre uma doença que afeta -- é bem rara, que afeta uma pessoa em 10.000. Entre este milhão de indivíduos, quase todos deles estão saudáveis e alguns deles vão ter a doença. E de fato, se esta é a prevalência da doença, cerca de 100 terão a doença e o resto não terá. Então vamos supor que nós testamos todos eles. O que acontece? Bom, entre os 100 que tem a doença, o teste vai acertar 99% das vezes, e 99 vão produzir um teste positivo. Entre todos os outros que não tem a doença, o teste vai acertar 99 porcento das vezes. E ele só vai errar um porcento da vezes. Mas existe tantos deles que vai ter um número enorme de falso positivos. Colocado de outra forma -- de todos aqueles que dão positivo -- aqui estão eles, os indivíduos envolvidos -- menos de 1 em 100 de fato vão ter a doença. Então mesmo que a gente pense que o teste é preciso, a parte importante da história é que há uma outra informação que nós precisamos.
Aqui está a intuição chave. O que nós temos que fazer, uma vez que nós sabemos se o teste é positivo é pesar a plausibilidade, ou a possibilidade, de duas explicações excludentes. Cada uma destas explicações tem uma parte provável e outra improvável. Uma explicação é que a pessoa não tem a doença -- o que é muitíssimo provável, se você pegar alguém ao acaso -- mas o teste erra, o que é improvável. A outra explicação é que a pessoa tem a doença -- o que é improvável -- mas o teste acerta, o que é provável. E o número que nós obtivemos -- que é o número um pouco menor de 1 em 100 -- tem a ver com quão provável uma destas explicações são em relação a outra. Se juntar cada uma delas é improvável.
Um exemplo mais típico de uma coisa exatamente igual. Aqueles de vocês no Reino Unido vão saber sobre um caso que se tornou muito celebrado. de uma mulher chamada Sally Clark, que teve dois bebês que morreram repentinamente. E inicialmente, se pensou que eles morreram do que informalmente se conhece como morte súbita. e mais formalmente como Síndrome da Morte Repentina Infantil. Por várias razões, ela acabou sendo acusada de assassinato. E no julgamento dela, um pediatra muito distinto deu a evidência que a chance de duas mortes súbitas, mortes inocentes, numa família como a dela -- que era profissional e não fumante -- era de uma em 73 milhões. Para encurtar a história, ela foi condenada na ocasião. Depois, e bem recentemente, saiu na apelação -- na verdade, na segunda apelação. E apenas para pôr no contexto, você pode imaginar como é ruim para alguém perder uma criança, e então duas, se ela é inocente, ser condenado por ter as assassinado. Ser colocado no estresse do julgamento, condenado de assassiná-las -- e passar um tempo na prisão feminina, onde todas as prisioneiras acham que você matou suas crianças -- é realmente uma coisa muito ruim de se acontecer a alguém E isto aconteceu em grande parte aqui porque o especialista entendeu as estatísticas de forma terrivelmente errada, e duas maneiras diferentes.
Então de onde ele tirou o número um em 73 milhões? Ele viu em alguma pesquisa, que disse que a chance de uma morte súbita numa família como a de Sally Clark é de cerca de um em oito mil e quinhentos. Então ele disse: "Eu vou assumir que você ter uma morte súbita numa família, a chance de uma segunda criança morrer de morte súbita não muda." Isto é o que os estatísticos chamariam de suposição de independência. Isto é como dizer, "Se você jogar uma moeda e tiver cara na primeira vez, isto não vai afetar a chance de ter cara na segunda vez." Então se você joga uma moeda duas vezes, a change de ter cara duas vezes é meio -- que é a chance da primeira vez -- vezes meio -- a chance da segunda vez. Então ele disse: "Bom, vamos assumir -- eu vou assumir que estes eventos são independentes. Quando você multiplica oito mil e quinhentos juntos duas vezes, você tem cerca de 73 milhões." E nada disto foi disto para ao tribunal como uma suposição ou apresentado ao juri desta forma. Infelizmente aqui -- e realmente, lamentavelmente -- primeiro de tudo, numa situação como esta você tem que verificar isto de forma empírica. E em segundo, isto é paupavelmente falso. Há muitas e muitas coisas que nós não sabemos sobre mortes infantis súbitas. Pode bem ser que haja fatores ambientais que nós não sabemos, e é bem provável que fosse o caso em que houvesse os fatores genéticos que nós não sabemos também. Então se uma família sofre de uma morte súbita, você os põe num grupo de alto risco. Eles provavelmente tem estes fatores ambientais de risco e/ou fatores genéticos de risco que nós não sabemos. E para questionar, então, a chance de uma segunda morte sem saber esta informação é realmente boba. Pior que bobo -- isto é uma ciência muito ruim. Embora, isto foi apresentado assim, e no julgamento ninguém questionou isto. Este é o primeiro problema. O segundo problema é, o que este número de um em 73 milhões significa? Então depois que Sally Clark foi condenada -- você pode imaginar, isto fez um alvoroço na imprensa -- um dos jornalistas de um dos jornais mais respeitados do Reino Unido escreveu que o que o especialista disse foi que, "A chance de ela ser inocente é de um em 73 milhões." Agora, isto é um erro de lógica. É o mesmo erro de lógica daquele erro de se pensar que depois de um teste de uma doença, que é 99% preciso, a chance de ter a doença é 99%. No exemplo da doença, nós temos que ter em mente duas coisas, uma que é a possibilidade do teste acertar ou não. E a outra era a chance, a priori, de que a pessoa tivesse a doença ou não. É exatamente o mesmo neste contexto. Tem duas coisas envolvidas -- duas partes da explicação. Nós queremos saber quão provável, ou relativamente provável, duas explicações diferentes são. Uma delas é que Sally Clark era inocente -- o que, a priori, é muitíssimo provável -- a maioria das mães não matam seus filhos. E a segunda parte da explicação que é que ela sofreu de um evento incrivelmente improvável. Não tão improvável como um em 73 milhões, mas ainda assim bem improvável. A outra explicação é que ela era culpada. Agora, nós provavelmente achamos a priori que é improvável. E nós certamente pensamos isto no contexto de um julgamento criminal que é improvável, por causa da presunção da inocência. E então se ela estava tentando matar as crianças, ela conseguiu. Então a chance que ela seja inocente não é uma em 73 milhões. Nós não sabemos quanto é. Isto tem a ver com pesar a força de outra evidência contra ela e a evidência estatística. Nós sabemos que as crianças morreram. O que importa é quão provável ou improvável, relativamente uma a outra são as duas explicações. Elas são ambas implausíveis. E há uma situação em que os erros em estatísticas tiveram realmente profundas e realmente desafortunadas consequências. De fato, há outras duas mulheres que foram condenadas com base na evidência deste pediatra, que em seguida foram soltas na fase apelação. Muitos casos foram revistos. E isto é particularmente atual porque ele está enfrentando uma acusação de descrédito no Conselho Britânico Médico Geral.
Então apenas para concluir -- qual é a moral da história disto tudo? Bom, nós sabemos que o acaso, e a incerteza, e as chances fazem parte de verdade na nossa vida cotidiana. Também é verdade -- e, embora, vocês, como um grupo, são especiais em muitas maneiras, é muito típico em não entender corretamente os exemplos que dei. É bem documentado que as pessoas entendem errado. Eles cometem erros de lógica no pensamento sobre a incerteza. Nós podemos lidar com as sutilezas da linguagem brilhantemente -- e há questão interessantes sobre a evolução de como chegamos até aqui. Nós não somos bom em pensar com incertezas. E isto é um problema na nossa vida diária. Assim como vocês ouviram em muitas das apresentações, as estatísticas apoiam uma quantidade enorme de pesquisa na ciência -- nas ciências sociais, na medicina e de fato, muito na indústria também. Todo o controle de qualidade, que tem tido um grande impacto no processamento industrial, é apoiado pelas estatísticas. É algo que a gente não faz bem. E no mínimo, nós deveríamos reconhecer isto, e nós tendemos a não fazer. Voltando ao contexto legal, no julgamento de Sally Clark todos os advogados simplesmente aceitaram o que os especialistas disseram Então se um pediatra vem e fala para o juri, "Eu sei como construir pontes. Eu construí uma ali na estrada. Por favor, dirija o seu carro sobre ela." eles diriam, "Bem, pediatras não sabem como construir pontes. Isto é o que os engenheiros fazem." Por outro lado, ele veio e disse de verdade, ou de maneira implícita, "Eu sei como pensar sobre a incerteza. Eu sei estatísticas." E todos disseram, "Bom, está tudo bem. Ele é um especialista." Então nós precisamos entender onde nossa competência está e não está. Exatamente os mesmos problemas que surgiram nos primeiros dias de identificação por DNA quando cientistas, e advogados e em alguns casos, juízes, rotineiramente apresentaram evidências erradas. Normalmente -- assim se espera -- inocentemente, mas evidências erradas. Cientistas forenses disseram: "A chance que este cara seja inocente é uma em três milhões." Se você acredita neste número, assim como o de 73 milhões para um, isto não é o que ele significa. E há casos celebrados de apelação no Reino Unido e em outros lugares por causa disto.
E apenas para fechar no contexto do sistema legal. Está tudo bem dizer, "Vamos fazer o nosso melhor para apresentar a evidência." Mas mais e mais, nos casos de identificação por DNA -- e este é outro caso -- nós esperamos que os júris, que são pessoas normais -- e está documentado que nós somos realmente ruins nisto -- nós esperamos que os júris sejam capazes de lidar com os tipos de pensamento que surgem. Em outras áreas da vida, se as pessoas discutissem -- bom, exceto na políticas possivelmente mas em outras áreas da vida, se as pessoas discutissem ilogicamente, nós diríamos que isto não é uma boa coisa. Nós até esperamos isto dos políticos e não esperamos por muito mais. No caso da incerteza, nós erramos o tempo todo -- e no mínimo de verdade, nós deveríamos estar cientes disto. E idealmente, nós poderíamos tentar e fazer algo sobre isto. Muito obrigado.
You can share this video by copying this HTML to your clipboard and pasting into your blog or web page. This video will play with subtitles.
You either have JavaScript turned off or have an old version of the Adobe Flash Player. To view this rating widget you
need to get the latest Flash player.
If your browser allows only "trusted sites" to execute Javascript, you should add the "googleapis.com" domain to your whitelist to allow our Flash detection to work properly.
Got an idea, question, or debate inspired by this talk? Start a TED Conversation.
O matemático de Oxford Peter Donnelly revela os erros comuns que os humanos cometem na interpretação das estatísticas - e o impacto devastador que estes erros podem ter nos resultados de julgamentos criminais.
Peter Donnelly is an expert in probability theory who applies statistical methods to genetic data -- spurring advances in disease treatment and insight on our evolution. He's also an expert on DNA analysis, and an advocate for sensible statistical analysis in the courtroom. Full bio »
Translated into Portuguese, Brazilian by Carlos Uldérico Cirello Filho
Reviewed by Leandro Cianconi
Comments? Please email the translators above.
19:50 Posted: Jun 2006
Views 5,343,547 | Comments 428
13:25 Posted: Nov 2006
Views 1,802,602 | Comments 379
15:34 Posted: Jul 2007
Views 352,507 | Comments 124
Just follow the guidelines outlined under our Creative Commons license.
This comment will be attributed to . Not ? Sign Out.