Na semana passada, a revista científica Nature publicou um estudo que afirma ser possível usar algoritmos de reconhecimento facial para detectar a orientação política das pessoas. Claro, ele fez barulho – e não apenas por apontar problemas com a tecnologia. Há críticas sobre o propósito e os métodos da pesquisa. Nada, porém, que seja inédito para o autor.
O estudo foi feito por Michal Kosinski, de 38 anos, professor da Universidade Stanford. O polonês descreveu em 2013 o uso de curtidas e testes no Facebook para decifrar a personalidade de uma pessoa – a estratégia foi usada posteriormente pela consultoria política Cambridge Analytica (CA) para influenciar a opinião pública em episódios como as eleições americanas de 2016. Ele sempre negou participar do projeto, mas seu nome ficou ligado ao escândalo.
Após virar “profeta” de um dos maiores escândalos da história da rede social, Kosinski passou a dedicar seus estudos a potenciais perigos à privacidade causados por tecnologias de reconhecimento facial. Em 2017, ele causou controvérsia ao publicar uma pesquisa que afirmava ser possível usar o reconhecimento facial para detectar a orientação sexual das pessoas. Na época, grupos LGBTQ+ dos EUA consideraram o estudo falho e perigoso.
De sua casa, na Califórnia, ele falou com exclusividade ao jornal O Estado de S. Paulo sobre o novo artigo, os riscos da tecnologia e as eleições americanas.
Espero que as pessoas tenham mais sangue frio desta vez. Eu ouço com muito cuidado a todas as críticas, pois é assim que se melhora. Porém, a maioria das críticas que recebo são apenas compreensões errôneas sobre o que estou fazendo. As pessoas me criticam por criar riscos à privacidade sem perceber que não estou criando novos algoritmos. Pesquiso algoritmos amplamente utilizados. Estou dizendo que há riscos neles. Não estou aqui para espalhar medo. Existe ótimo potencial para o uso desses algoritmos, mas eles têm um custo. E temos de fazer esse custo visível.
O reconhecimento facial não reconhece apenas os nossos rostos em fotos em que aparecemos. Ele nos liga aos grupos que pertencemos, o que revela características muito íntimas. Um oficial de imigração poderia não apenas relacionar a sua foto com os seus registros, mas também poderia descobrir características que tradicionalmente mantivemos privadas. O que estou tentando dizer é: o sistemas legal, o sistemas social e a cultura evoluíram para lidar com situações como essa? Estamos prontos para um contexto no qual nossas visões políticas estejam estampadas em nossas caras? Isso tem de começar uma discussão importante: como garantir que o mundo pós-privacidade seja habitável?
Saber o que a máquina está processando não seria apenas importante, mas ideal. Saber como a IA resolve vários problemas é importante, pois ela já nos superou em várias áreas. Infelizmente, tenho certeza de que nunca entenderemos completamente o seu funcionamento, pois ela processa os sinais, detecta padrões e realiza cálculos que somos incapazes de fazer. O fato, porém, de não entendermos algo não significa que isso não possa estar certo. O fato de pombos não entenderem humanos não significa que os humanos não tenham sucesso no que estão fazendo. Infelizmente, comparado à IA, nós somos os pombos.
Eles são maravilhosos. Eu mesmo estou tentando decifrar como a IA trabalha, mas entendo que não a compreenderei inteiramente. Infelizmente, quanto mais usamos a IA, mais longe ela fica da nossa capacidade de compreensão.
Houve avanços e retrocessos. As pessoas começaram a se interessar – ao menos, isso se tornou algo comum entre os legisladores. Eles perceberam que reconhecimento facial vai além de apenas combinar um rosto com diferentes imagens. Por outro lado, os computadores estão melhorando a cada mês, isso significa que esses algoritmos estão melhorando – e o acesso a eles é cada vez mais fácil. O que estava disponível apenas para governos, agora pode ser acessado por todo o mundo.
Curtidas no Facebook tinham índice de acerto de 85% na detecção de orientação política. O reconhecimento facial tem índice de 72%. Então, o rosto não é tão revelador quanto curtidas no Facebook. Porém, ter acesso a essas curtidas dá trabalho – você precisa ter acesso às contas e trabalhar os dados. Você só não tem trabalho se você é o Facebook, o Google ou o governo. Por outro lado, os rostos são públicos por padrão. Infelizmente, isso significa que, embora menos revelador, esse dado é mais acessível. Tem o potencial para ser uma ferramenta útil para extrair informações. O que eu publiquei já está sendo feito por startups. Não estou apresentando nada novo.
Eu submeti esse artigo para publicação há um ano. Artigos são lidos, são rejeitados, há comentários, é preciso voltar aos comentários Não é possível planejar uma data. Adoraria publicar com mais velocidade.
Nada, exceto pelo fato de que houve mais ação desses agentes. Houve mais comunicação online, mais marketing e mais radicalização. Além disso, o candidato que representa os formadores de opinião e o mundo da tecnologia ganhou. Isso significa que você não precisa de um bode expiatório para a derrota, um grande fator para o barulho das eleições passadas. Hillary Clinton gastou três vezes mais em serviços como o da Cambridge Analytica, mas nem isso pode fazer você ganhar se você não tem uma mensagem que captura o imaginário e os medos das pessoas.
