Tecnologia ameaça a privacidade das pessoas e abre as portas
à distopia descrita no livro '1984'.
Por outro lado, permite identificar em tempo recorde
terroristas logo após cometerem atentados
Alguém pode tirar sua foto na rua e conseguir saber quem
você é para contatá-lo. Acontece na Rússia. Alguém pode atravessar a faixa de
pedestres quando não for permitido e ver que as autoridades lhe multam e pegam
sua foto atravessando indevidamente nas paradas de ônibus após identificá-lo
com a imagem captada por uma câmera de segurança. Acontece na China. Uma pessoa
pode receber a visita inoportuna da polícia porque o algoritmo falhou e a
identificou erroneamente. Aconteceu nos Estados Unidos, em cinco ocasiões, com
cinco pessoas, em 2015, como admitiu a polícia de Nova York. Tudo isso pode ter
acontecido em outros momentos da história, mas nunca foi tão fácil como agora.
A tecnologia do reconhecimento facial tem inúmeras comodidades, sim, de promessas
de uma maior segurança, certo. Mas, paralelamente, a expansão de toda uma
indústria de segurança que gira em torno dela transforma o pesadelo orwelliano
de uma sociedade de pessoas controladas em algo mais do que uma possibilidade
futura.
Derivada da inteligência artificial, ela deu seus primeiros
passos em meados dos anos sessenta. Aquelas primeiras tentativas de usar um
computador para reconhecer um rosto humano resultaram em uma tecnologia que
alcançou um nível de plenitude assombroso. Prova disso é o iPhone X, que
realiza algo que anos atrás pertencia ao domínio da ficção científica:
desbloquear um celular com a imagem de nosso rosto. “Quando você encontra uma
tecnologia como essa em um aparelho de consumo como o celular”, afirma Enrique
Dans, professor de Inovação no IE Business School, “quer dizer que já se pode
fazer de tudo com ela”.
Na China, país que fixou como meta se transformar no líder
em pesquisa e aplicativos de inteligência artificial em 2030, as pessoas já
podem escanear o rosto com o aplicativo para celular Xiaohua Qianbao e pedir um
empréstimo ao banco virtual operado pela Xiaohua; ir a um Kentucky Fried
Chicken da cidade de Hangzhou e pagar com um sorriso – o Smile to Pay (“sorria
para pagar”) é o mais recente sistema desenvolvido pela empresa de pagamentos
online Alipay −, e controlar a frequência às aulas de alunos da Universidade de
Comunicações de Nanquim.
Ali, a tecnologia avança com os passos firmes da Face++,
startup chinesa que derrotou no fim de outubro equipes do Facebook, Google e
Microsoft em provas de reconhecimento de imagem na Conferência Internacional de
Visão por Computador realizada na Itália. Naquele mesmo mês, a companhia
levantou 460 milhões de dólares (1,5 bilhão de reais) em uma rodada de
financiamento.
Mas a expansão do fenômeno não se limita a esse território.
Lojas de Toronto utilizam a tecnologia para detectar ladrões. O Facebook a usa
faz tempo para etiquetar quem aparece nas fotos. De fato, em 2015 já anunciou
que podia identificar uma pessoa com 83% de sucesso sem ver sua cara: o tipo de
corpo, o penteado e a postura são elementos suficientes. Agora, o novo desafio
dos pesquisadores é conseguir identificar pessoas que usem óculos escuros, véu,
máscara, balaclava (espécie de gorro com finalidades esportivas): na
Universidade da Basileia, Suíça, o professor Bernhard Egger trabalha em um
sistema que cria um padrão do rosto em 3D a partir das zonas descobertas da
face.
Assim, o mercado do reconhecimento facial já movimenta mais
de 3,3 bilhões de dólares (10,6 bilhões de reais) no mundo e poderia chegar a
7,7 bilhões de dólares (24,8 bilhões de reais) em 2022, segundo a consultora
MarketsandMarkets. Bancos, companhias aéreas, telefônicas, fabricantes de
computadores, todos se abrem a esta nova forma de identificação biométrica que
significa um salto à frente em comparação com a impressão digital e a íris.
Mas o rosto não é a mesma coisa que a impressão digital.
Quando vamos renovar nosso documento de identidade, concordamos em ceder esse
dado biométrico às autoridades. Mas nosso rosto pode ser captado por qualquer
um sem nosso consentimento. Por meio de qualquer câmera na rua, em qualquer
lugar.
Esta tecnologia tem duas modalidades básicas, como explica
por telefone de Michigan o grande especialista Anil K. Jain, professor de
engenharia informática e diretor do grupo de pesquisas biométricas da Universidade
de Michigan. Uma é a de autenticação ou detecção de rosto (face detection), na
qual o sistema compara duas imagens: a que temos armazenada no telefone − no
caso do iPhone − e um modelo em 3D criado a partir do rosto que se apresenta
diante da tela. E a outra é a de busca de rosto (face search), na qual se cruza
uma imagem com as que estão armazenadas em um banco de dados para ver se
coincidem − para identificar desconhecidos. “Nesta segunda é muito mais fácil
cometer erros”, explica Jain. “São necessários computadores potentes e grandes
bancos de dados com milhões de rostos.”
Essa segunda modalidade foi a que desencadeou um debate
inflamado sobre a privacidade e as liberdades. Sua combinação com a crescente
autoexposição nas redes sociais está acabando com a era do anonimato. O melhor
exemplo é dado pelo aplicativo FindFace, que no ano passado causou muita
polêmica na Rússia: uma pessoa pega o celular e tira uma foto do passageiro à
sua frente no metrô; o algoritmo do aplicativo compara a imagem com as
existentes na rede social Vkontakte (que conta com mais de 400 milhões de
perfis) e, com uma eficácia de 70%, permite saber quem é essa pessoa. Uma
ferramenta perigosa em tempos marcados pelo assédio.
Tecnologia permite identificar em tempo recorde terroristas
que acabam de cometer um atentado
E tem mais. Em 2014, os professores Alessandro Acquisti,
Ralph Gross e Fred Stutzman demonstraram com o estudo Reconhecimento Facial e
Privacidade na Era da Realidade Aumentada o quanto é fácil identificar um desconhecido
na era das redes sociais. Com uma webcam e um bom programa de reconhecimento
facial, puderam identificar um de cada três alunos que circulavam pela
Universidade Carnegie Mellon. Tiveram apenas de cruzar a imagem obtida com as
oferecidas pelo mecanismo de busca do Google ou pelos perfis do Facebook. Em
alguns casos, o algoritmo permitia até mesmo acessar o número do Seguro Social
da pessoa fotografada.
Dito isso, nem tudo é perigoso. O aperfeiçoamento dos
algoritmos e das técnicas de análise de dados e a ampliação exponencial dos
bancos de imagens de rostos têm proporcionado às forças de segurança um
instrumento formidável para identificar em tempo recorde criminosos e
terroristas que acabam de cometer um atentado. O professor Anil K. Jain, de
fato, publicou em 2013 um trabalho científico no qual demonstrou que era
possível identificar um dos dois irmãos que detonaram duas bombas na maratona
de Boston em abril de 2013 usando, simplesmente, as imagens divulgadas pelos
canais de televisão. “A precisão da detecção de rostos chega às vezes a 90% com
as imagens analisadas nas delegacias”, diz. Ou seja, na modalidade de face
detection. No entanto, quando se trabalha com imagens de uma câmara de vídeo de
segurança da rua (face search), a coisa muda. “Aí tudo dependerá da qualidade
da imagem que se obtenha.”
Para que o aparato de segurança que está sendo configurando
neste início do século XXI funcione a plena capacidade, são necessários
algoritmos cada vez mais precisos, sim. Mas a chave é manter os bancos de dados
bem abastecidos. De rostos. E a China já dispõe de um banco de dados com um
bilhão de fotos de seus cidadãos, o maior do mundo. O gigante asiático conta,
além disso, com uma ampla rede de câmeras para captar imagens na rua. A Face++,
segundo o Financial Times, está ajudando o Governo chinês a rastrear o 1,3
bilhão de habitantes do país através de imagens de câmeras de segurança.
Escanear placas de carro, escanear rostos. O pesadelo imaginado por Orwell em
seu livro 1984 vai tomando forma.
Os norte-americanos não ficam atrás. Um relatório feito no
ano passado pelo Law’s Center on Privacy and Technology, o centro sobre
privacidade e tecnologia da faculdade de direito da Universidade de Georgetown,
estima que 117 milhões de cidadãos já estejam nos bancos de dados que a polícia
pode usar. Em conversa telefônica de Nova Iorque, o diretor executivo do
centro, Álvaro Bedoya, afirma que o total a esta altura já chega a 125 milhões.
“Isto nunca ocorreu na história dos EUA”, protesta. “Os bancos de dados de DNA
e impressões digitais eram compostos por pessoas com antecedentes penais. Está
sendo criado um banco de dados biométricos de pessoas que respeitam a lei,
atravessou-se o Rubicão.”
Bedoya, um destacado jurista, considera que a tecnologia só
deve ser usada para crimes graves, não de forma ilimitada: “Na Rússia ela é
usada para identificar manifestantes. Nos EUA, também. Caminhamos para uma
sociedade de controle. Pode-se identificar qualquer um, a qualquer momento, por
qualquer motivo”.
A tecnologia também é usada em ações de policiamento
preventivo. O uso de inteligência artificial permite seguir alguém através das
câmeras de segurança existentes em espaços públicos e analisar seus movimentos,
sua linguagem corporal. Com essa enorme coleta de dados se pretende, por meio
de modelos estatísticos, prever onde pode ocorrer um crime e quem pode
cometê-lo.
“Na Rússia ela é usada para identificar manifestantes. Nos
EUA, também”, alerta o jurista Álvaro Bedoya
O problema é onde vai parar nosso rosto. O jornal britânico
The Guardian teve acesso a documentos que indicam que o procurador-geral da
Austrália manteve conversas com empresas telefônicas e bancos para o uso
privado de seu serviço de verificação facial em 2018. E os especialistas em
proteção de dados se preocupam com o uso que as empresas possam fazer dos
bancos de rostos de seus clientes. Uma investigação do jornal The Washington
Post revelou em novembro que Apple estava compartilhando informações de rostos
com alguns aplicativos e, como consequência da investigação jornalística,
realizou uma mudança, exigindo que um aplicativo informasse seus usuários sobre
isso em sua política de privacidade.
Facebook, Google e Snapchat, por sua vez, são três das
empresas que já foram processadas em Illinois por capturar e armazenar imagens
dos usuários sem seu consentimento. Por acaso podemos confiar em que as
empresas da nova economia digital não comercializarão nossos rostos?
“O problema é que há uma total falta de transparência”, diz
Kelly Gates, professora da Universidade da Califórnia em San Diego e autora do
livro Our Biometric Future: Facial Recognition Technology and the Culture of
Surveillance (“nosso futuro biométrico: tecnologia do reconhecimento facial e a
cultura da vigilância”). “A polícia, assim como o Exército, experimenta, mas
não sabemos o que estão fazendo.”
Essa pesquisadora, que agora estuda as técnicas de análise
forense de vídeo, ressalta que há uma proliferação de vídeos e dados
procedentes de drones, câmeras de rua e de estabelecimentos comerciais cuja
análise é terceirizada para empresas privadas. “Os cientistas dizem que é uma
tecnologia com a qual se cometem muitos erros. Não há uma ciência que a
respalde e, mesmo assim, ela continua sendo utilizada”, assinala Gates.
Que seja feito tudo para que não aconteça na realidade o que
ocorre na distopia assinada por Terry Gilliam, Brazil, filme de 1985 no qual um
erro de dados leva à detenção do senhor Buttle quando o objetivo era deter o
senhor Tuttle. Algo que, nas mãos de um integrante do Monty Python, é muito
engraçado, mas no mundo real, não tem graça nenhuma. Gates é incisiva: “Está
sendo buscada uma segurança perfeita que nunca será alcançada. Pensar que, em
contextos de violência, tudo isto é a grande solução é como comprar mais
aparelhos de ar condicionado para resolver os problemas representados pela
mudança climática”.
No fim das contas, a questão é em quais mãos recai o uso
desta tecnologia e de nossos dados. Com ela, países com problemas de direitos
humanos e restrições às liberdades têm um tremendo instrumento de perseguição
de dissidentes. O controle, como se não fosse suficiente aquele que pode ser
exercido por meio dos dispositivos que já temos, atravessa uma nova fronteira.
Alguém imagina esta tecnologia nas mãos de um Governo de extrema direita na
Europa? Ou em um país governado por fundamentalistas muçulmanos?
Fonte: El País - 9
JAN 2018
Comentário:
O livro “1984” de George Orwell retrata a sociedade como ela
vive sob um regime totalitário e tem todos seus passos são minuciosamente
monitorados por telas que estão em toda parte. O livro analisa a questão do
controle da informação repassada a sociedade e os métodos utilizados para
manipular as verdades divulgadas.
A democracia atual está
praticamente sob influência das redes sociais que não reconhecem seus limites e
que procuram regulamentar todos os
aspectos da vida pública e privada, sempre que possível. É o totalitarismo
democrático.