Return to the talk Return to talk

Transcript

Select language

Translated by Margarida Ferreira
Reviewed by Isabel M. Vaz Belchior

0:11 O meu trabalho no Twitter é assegurar a confiança do utilizador, proteger os direitos do utilizador e a sua segurança, tanto de uns em relação aos outros como, por vezes, deles próprios. Vamos falar acerca do que é a escala do Twitter. Em janeiro de 2009 havia mais de dois milhões de novos "tweets", todos os dias nesta plataforma. Em janeiro de 2014, mais de 500 millhões. Víamos dois milhões de "tweets" em menos de seis minutos. Isto representa um aumento de 24 900 por cento.

0:53 A maior parte da atividade no Twitter não representa perigo para ninguém. Não se corre qualquer risco. O meu trabalho é detetar e impedir atividades que o possam fazer. Parece simples, não é? Podem pensar que é fácil, dado que eu disse que a maior parte da atividade no Twitter não representa perigo para ninguém. Porquê perder tanto tempo à procura de possíveis calamidades em atividades inócuas? Dada a escala a que se encontra o Twitter, a hipótese de um-num-milhão acontece 500 vezes por dia. O mesmo acontece com outras empresas que lidam com este tipo de escala. Para nós, estes casos extremos, estas situações raras, que têm poucas hipóteses de acontecer, são sobretudo normas. Digamos que 99,999 por cento dos "tweets" não são perigosos para ninguém. Não representam ameaças. As pessoas podem estar a documentar locais de viagens, como o Heart Reef da Austrália, ou a falar de um concerto a que assistiram, ou a partilhar fotografias de animais bebés amorosos. Depois de pormos de lado esses 99,999 por cento, essa percentagem mínima de "tweets" que restam significam apenas uns 150 000 por mês. A simples escala daquilo com que estamos a lidar

2:19 representa um desafio. Sabem o que é que torna a minha tarefa especialmente desafiante? As pessoas fazem coisas esquisitas. (Risos) E eu tenho que tentar perceber o que é que estão a fazer, porquê, e se há ou não algum risco envolvido, quase sempre sem grande coisa em termos de contexto ou de antecedentes. Vou mostrar-vos alguns exemplos que tratei durante o meu tempo no Twitter — são exemplos reais — situações que, a princípio, pareciam normais, mas a verdade da questão era uma coisa totalmente diferente. Os pormenores foram alterados para proteger os inocentes e por vezes os culpados.

2:59 Vamos começar já.

3:03 [Sua cadela] Se virmos um "tweet" que apenas diz isto, podemos ficar a pensar, "Isto parece uma ofensa". Afinal, porque é que alguém gostaria de receber a mensagem, "Sua cadela"? Eu tento manter-me relativamente ao corrente das últimas tendências e modas, por isso sabia que "sua cadela" também era uma saudação vulgar entre amigos, assim como uma referência ao popular Breaking Bad. Confesso que não esperava encontrar um quarto significado. Acontece que também é usado no Twitter quando as pessoas estão a fazer o papel de cães. (Risos) E, de facto, naquele caso, não só não é ofensivo, como tecnicamente é uma saudação adequada.

3:57 (Risos) Portanto, determinar se uma coisa é ou não ofensiva, sem qualquer contexto,

4:04 é muito difícil. Vejamos o "spam". Temos aqui um exemplo duma conta do clássico comportamento de "spam" que envia a mesmíssima mensagem a milhares de pessoas. Embora isto seja uma maqueta que eu fiz na minha conta, vemos contas a fazer isto muitas vezes. Parece muito simples. Devíamos suspender automaticamente as contas que incorrem neste tipo de comportamento. Acontece que há algumas exceções a esta regra. Acontece que a mensagem também pode ser uma notificação que assinámos para a Estação Espacial Internacional que está a passar lá em cima, porque queríamos sair à rua e ver se conseguíamos vê-la. Não vamos correr o risco de suspender a conta erradamente

4:45 pensando que é "spam". Vamos piorar as coisas. Voltando à minha conta, que exibe de novo um comportamento clássico. Desta vez está a enviar a mesma mensagem e ligação. Isto quase sempre indica uma coisa chamada "phishing". Alguém que tenta roubar informações da conta de outra pessoa, encaminhando-a para outro "website". Obviamente, não é nada bom. Queremos, e suspendemos as contas que se envolvem neste tipo de comportamento. Então porque é que isto é tão grave? Bem, também pode ser um espetador num comício que conseguiu registar em vídeo um polícia a bater num manifestante não violento Está a tentar que o mundo saiba o que aconteceu. Não queremos correr o risco de silenciar esse discurso fundamental classificando-o como "spam" e suspendendo-o. Isto significa que avaliamos centenas de parâmetros quando observamos os comportamentos das contas e, mesmo assim, podemos enganar-nos

5:44 e temos que reavaliar. Dados os tipos de desafios que enfrento, é fundamental que eu não só preveja mas também conceba proteções para o inesperado. E isso não é uma questão apenas para mim, nem para o Twitter. É uma questão para todos nós. É uma questão para todos os que constroem ou criam algo que pensamos que vai ser espantoso e vai permitir que as pessoas façam coisas fantásticas. Então, o que é que eu faço? Faço uma pausa e penso: "Como é que tudo isto "pode correr terrivelmente mal?" Visualizo catástrofes. E é difícil. Há uma espécie de dissonância cognitiva inerente, quando fazemos isso. É como escrever os votos de casamento ao mesmo tempo que o contrato pré-nupcial. (Risos) Mas temos que o fazer, especialmente, se casamos com 500 milhões de "tweets" por dia. O que é que eu quero dizer com "visualizar catástrofes"? Tento pensar se uma coisa, tão benigna e inofensiva como a imagem de um gato, pode levar à morte e o que fazer para impedir isso. Vai ser esse o meu próximo exemplo. Este é o meu gato Eli. Quisemos dar aos utilizadores a possibilidade de juntar fotos aos seus "tweets". Uma imagem vale por mil palavras, basta juntar 140 carateres. Juntamos uma foto ao nosso "tweet". Vejam como ficamos muito mais satisfeitos. Há imensas coisas ótimas que podemos fazer juntando uma foto a um "tweet". O meu trabalho não é pensar nelas.

7:18 É pensar no que pode correr mal. Como é que esta foto pode levar à minha morte? Bem, há uma possibilidade. Há mais coisas naquela foto do que um simples gato. Há dados geográficos. Quando tiramos uma fotografia com o nosso "smartphone" ou câmara digital, há muitas informações adicionais gravadas juntamente com a imagem. De facto, esta imagem também contém o equivalente a isto, mais especificamente, a isto. Claro, não é provável que alguém vá tentar localizar-me, e fazer-me mal com base em dados de uma imagem associada a uma foto que eu tirei ao gato. Mas parto do princípio que acontece o pior. Foi por isso que, quando publicámos fotos no Twitter, tomámos a decisão de eliminar os dados geográficos. (Aplausos) Se eu começar por assumir o pior e trabalhar daí para trás. tenho a certeza de que as proteções que construímos funcionam para os casos esperados

8:20 e inesperados. Dado que passo os dias e as noites a imaginar o pior que pode acontecer, não seria de admirar que a perspetiva que tenho do mundo fosse sombria. (Risos) Mas não é. A grande maioria das interações que vejo — e vejo muitas, acreditem — são positivas, pessoas que se dispõem a ajudar, a passar ou partilhar informações umas com as outras. É só porque, para nós que lidamos com a escala, para nós que temos a tarefa de manter as pessoas em segurança. temos que assumir que acontece o pior, porque, para nós, uma hipótese de um-num-milhão

9:02 é uma possibilidade bastante boa.

9:04 Obrigada. (Aplausos)