Como funciona a privacidade diferencial

Durante anos, a Apple teve um longo compromisso com a privacidade não compartilhado por muitos de seus concorrentes. Enquanto o Google e a Microsoft ficam felizes em sugar dados personalizados que hackers e o governo poderiam explorar, a Apple se recusou a fazê-lo. Como um exemplo, Apple anunciou em sua Conferência Mundial de Desenvolvedores que todos os aplicativos iOS devem criptografar as comunicações da web até o final do ano.

Mas a Apple precisa de dados para personalizar seus serviços e saber quais ajustes seus clientes desejam, então, na terça-feira, o vice-presidente sênior de engenharia de software da Apple, Craig Federighi, discutiu um conceito chamado privacidade diferencial que estará no software iOS 10.

De acordo com a Apple, a privacidade diferencial “ajudará a descobrir os padrões de uso de um grande número de usuários sem comprometer a privacidade individual”. A ideia é que, embora a Apple possa ver os dados do usuário em conjunto para melhorar seus serviços, será impossível para qualquer pessoa encontrar dados sobre qualquer usuário. Isso inclui a própria Apple, bem como hackers e governos.

Os problemas de privacidade

Como é possível obter dados agregados, mas não no nível individual? Para entender isso, precisamos começar com os desafios por trás da proteção da privacidade do usuário.

A maioria das empresas faz algum esforço para proteger sua privacidade e, muitas vezes, tornam seus dados anônimos e se recusam a publicar informações pessoais. Mas as pessoas podem usar os dados revelados para descobrir seus dados pessoais.

É comparável a descobrir a identidade da vida real de um usuário de fórum da Internet. Você não terá seu nome real ou número de telefone, mas pode notar que o usuário do fórum mora em Nova York e foi a um encontro neste restaurante. Usando fatos como esses, você pode restringi-los até descobrir sua verdadeira identidade. E como Wired apontou, os pesquisadores conseguiram fazer algo assim em 2007, quando a Netflix publicou uma lista de clientes “anônimos”.

Isso mostra que, mesmo que uma empresa tente ocultar informações pessoais, os hackers podem usar as informações de que dispõem para obter dados pessoais. E se a empresa tentar ocultar todas as informações de que dispõe, não poderá utilizá-las do seu lado.

Mas e se todas as informações forem obscurecidas?

A ideia por trás da privacidade diferencial

É isso que a privacidade diferencial se propõe a fazer. Ele funciona obscurecendo os dados algoritmicamente com ruído para que os hackers nunca possam realmente descobrir o que uma pessoa disse.

Muitas das ideias por trás da privacidade diferencial são teóricas, elaboradas por cientistas de tecnologia e criptologistas. Mas Cynthia Dwork, a co-inventora da privacidade diferencial de acordo com Engadget, dá um exemplo de como isso poderia funcionar, usando um pesquisador que pergunta a alguém se ela colou em um exame:

Antes de responder, a pessoa é convidada a jogar uma moeda. Se der cara, a resposta deve ser honesta, mas o resultado da moeda não deve ser compartilhado. Se a moeda der coroa, a pessoa precisa lançar uma segunda moeda; se esse for cara, a resposta deve ser “sim”. Se o segundo for coroa, é “não”.

Como uma moeda, a longo prazo, deve dar cara ou coroa cerca de cinquenta por cento das vezes, o agrimensor pode adivinhar aproximadamente quantas pessoas realmente colaram no exame no total. Mas se uma agência mal-intencionada descobrir que determinado indivíduo respondeu “sim”, ele não tem ideia se é porque o indivíduo trapaceou no teste ou porque disse isso depois de receber coroa e cara no cara ou coroa.

Os algoritmos reais de privacidade diferencial são muito mais complicados, mas seriam semelhantes ao exemplo do cara ou coroa. Ao criar “ruído” matemático para obscurecer dados individuais, é impossível para alguém saber qualquer ponto de dados, mesmo que conheça o algoritmo.

Preocupações potenciais

A privacidade diferencial pode significar que a Apple e outras empresas podem obter dados que os ajudam e, ao mesmo tempo, protegem a privacidade de seus clientes. Mas o fato é que muito do trabalho em torno da privacidade diferencial tem sido amplamente teórico, e não houve testes em pequena escala de como ela pode funcionar.

Implementá-lo em grande escala, como a Apple planeja fazer com o iOS, sem testes em pequena escala é arriscado.

No entanto, a privacidade diferencial não é tão útil em pequena escala. O ruído matemático obscurecerá mais fortemente os dados em um tamanho de amostra pequeno, aumentando as chances de dados totalmente imprecisos. Pense no exemplo da moeda acima. Se o topógrafo pesquisou apenas 10 pessoas, é possível que oito pessoas pudessem ter virado a “cauda” e sua pesquisa seria inútil. Mas se ele pesquisou 10.000, é muito menos provável que 8.000 pessoas tenham dado o “rabo” e, portanto, ele pode confiar melhor em seus dados.

A privacidade diferencial é um conceito difícil de entender. Mas se a Apple for bem-sucedida, isso pode mudar seriamente a forma como as empresas adquirem dados. Embora existam empresas felizes em obter dados do usuário, o fato de haver uma maneira de coletar dados sem afetar a privacidade individual pode ter grandes efeitos entre a empresa e o cliente.