Meio&Mensagem

Igor Ribeiro
13 de março de 2017 - 10h16

Se você deixar a inércia te levar, Austin em março pode ser uma experiência idílica. Diversidade de gente, de ideias, lugares legais, pessoas amáveis, ótima música e comida e, como se não bastasse, tem o South by Southwest, talvez o evento mais open-minded e disruptivo que há. Entre os diversos painéis que falam sobre o quanto a inteligência artificial vai revolucionar nosso cotidiano, circulam robôs fofos como a Pepper, com o Watson embarcado, e surgem os androides falastrões do doutor Hiroshi Ishiguro. É então que o SXSW te dá um choque de realidade com a palestra “Dark days: AI and the rise of fascism” (Dias sombrios: AI e o crescimento do fascismo). É impossível comprar pela internet da mesma forma depois de ouvir a pesquisadora australiana Kate Crawford.

A inteligência artificial tem crescido exponencialmente e, com ela, a diversidade de aplicações que propicia. Em sua interação com big data, machine e deep learning, a AI tem gerado muitos benefícios. Desde a simples indicação da seleção de seriados com mais potencial de agradar o consumidor, até a formulação do plano de logística de um grande varejista, passando pelo aperfeiçoamento de sistemas de saúde, educação, segurança… Mas o quanto de fato conhecemos sobre o funcionamento desses processos?

Entre esses enigmas, Kate aponta um supercomputador localizado em Barcelona, na Espanha, que visitou. O Mare Nostrum é um dos mais poderosos do mundo e fica numa capela católica dentro da Universidade Politécnica da Catalunha, secularizada para outras finalidades. “É curioso que um superprocessador esteja lá porque, como acontece com religião, depositamos nossa fé na tecnologia sem que consigamos vê-la. No passado, transferimos poder à igreja, mas hoje vivemos a idolatria dos dados”, disse.

Ainda mais profundo que comparativos religiosos, Kate estabeleceu um paralelo entre AI e regimes autoritários — ou seja, fascistas. Ela listou três características em que se assemelham: ambos desejam poder; por meio do controle da população; e clamando neutralidade, sem revelar seus métodos.

Frenologia high tech
A pesquisadora citou, por exemplo, os sistemas capazes de indicar se um cidadão é um potencial criminoso ou não. Assim, no plural, porque há vários métodos para fazer isso. Um deles envolve algoritmos, produzido por pesquisadores da Universidade de Xangai. Outro foi desenvolvido por uma empresa chamada Faception, que promete dizer se uma pessoa é uma DJ, um padeiro ou um terrorista apenar por uma análise facial (ela vende seus serviços a quem interessar possa). Outro método se chama frenologia e talvez você não conheça porque no início do século 20 foi considerada uma pseudociência, que analisava características comportamentais de um indivíduo, principalmente agressividade, por meio das medidas de seu crânio. Cientistas de Hitler tentaram dar sobrevida à frenologia num esforço para fundamentar a ideologia ariana, mas foi reenterrada definitivamente junto ao regime nazista.

A obsessão pela identificação e catalogação das pessoas também é um ponto em comum. Kate remonta ao Império Romano, primeira notícia que se há de registro de cidadãos, passa pela criação do sistema de impressão digital e sua sistematização pela polícia britânica no século 19 e chega aos regimes autocráticos dos tempos atuais. Como comparação, diz, players do universo digital fazem censos populacionais toda hora, seja por sua navegação através dos sites, suas compras na internet, seus dados cadastrados em diversos sites. “O próprio Facebook virou uma máquina de alistamento de terroristas e tem se tornado uma preocupação para governos, além da própria plataforma”, comentou.

Por fim, a falta de transparência: assim como ocorre em governos autoritários, empresas de tecnologia usam dados de milhares de pessoas sem pedir autorização, com finalidades comerciais ou de vigilância. Kate lembrou a Cambridge Analytica, empresa de pesquisa britânica que colhe dados de mídias sociais para criar clusters de audiência com diversas finalidades. “Eles criam targets usando, por exemplo, brincadeiras do Facebook sobre qual personagem da Disney você se parece”, apontou. Usando metodologias similares, a Cambridge Analytica vendeu serviços para a campanha de Donald Trump e do Brexit. A pesquisadora ainda mencionou a Palantir, empresa particular que trabalhou com a NSA, a agência de espionagem digital americana, e que está construindo o sistema anti-imigração de Trump, conforme noticiou o Intercept.

Citou ainda o Uber, que tem enganado autoridades e passageiros com seus “carros fantasmas”: em cidades nas quais é proibido, usa dados para identificar a movimentação da polícia e oferecer rotas alternativas a motoristas; onde é permitido, aponta nas telas dos passageiros, assim que abrem o app, veículos que na verdade não estão lá. Essas estratégias visam unicamente, segundo Kate, o negócio da empresa, que nunca confirmou nem comunicou essa análise de dados.

Sistema imunológico
Para a pesquisadora, a resistência à escalada dessas tecnologias virá da própria população, que deve funcionar como um sistema imunológico, mobilizando as forças que estiverem disponíveis, sejam consumidores em geral, sejam ativistas hackers. Um exemplo, disse, tem sido a mobilização de americanos progressistas contra as políticas anti-imigração dos Estados Unidos, “fazendo centenas de pessoas se locomoverem até o aeroporto sem precisar viajar, coisa rara de se ver”, brincou. Comunicou também a criação de uma instituição dedicada ao tema, a AI Now, “para estudar o impacto da inteligência artificial na sociedade nos próximos anos”. Ela explica que a proximidade é essencial para poder endereçar problemas que ocorrem atualmente e não se perder por projeções futuristas. A iniciativa é apoiada por diversas universidades, como MIT, NYU e UCLA, e por empresas privadas, como Google e Microsoft – na qual a própria Kate é pesquisadora.

Ao fechar o dia de painéis de futuro inteligente com esse conteúdo – ainda mais depois que os robôs de Ishiguro debateram, ao vivo, a condição humana e a vida artificial –, o SXSW manda um recado à geeks, cientistas e tecnocratas: nem tudo é festa e, na empolgação natural com o que a revolução tecnológica promete nos trazer, deixamos escapar de nossa atenção as implicações éticas de nossa catarse coletiva. As respostas dessas incômodas perguntas se escondem nas fendas do poder e Kate não só sabe disso, como reconhece os diversos parceiros envolvidos nessa luta. Em seu painel, agradeceu, por exemplo, a jornalistas e pesquisadores com os quais tem colaborado e convida mais interessados a se unirem pela desmistificação da inteligência artificial. Quanto mais compreendemos, afinal, mais evoluímos.