Meio&Mensagem

14 de março de 2017 - 11h16

Aqui no SXSW, entre palestras com robôs, experiências de VR, pitches de start up, é difícil não ficar encantada com a tecnologia e suas possibilidades.

É fascinante olhar alguns anos a frente e ver todas as mudanças que estão acontecendo, as inovações e novidades, é um festival que celebra isso.

Mas, de vez em quando, somos chamados a sair desse mundo encantado e refletir sobre o impacto de toda essa tecnologia lá na vida real, fora de Austin. E não estou falando sobre as possibilidades distópicas de Ex-machina e Her, mas de questões pragmáticas e próximas como sustentabilidade, empregos e política.

Bill Ford (o bisneto do próprio), em uma conversa franca e interessante sobre o futuro da mobilidade, foi direto ao ponto: “não sei se estamos preparando a sociedade para o impacto do tipo de mudança que está se desenhando.” Mesmo com o foco em novos sistemas de transportes e veículos autônomos, a preocupação de Bill tem um alcance maior. Se este tipo de mudança implica em uma redução drástica de alguns tipos de empregos (motoristas, caminhoneiros e qualquer um que pode ser substituído por um algorítimo), estamos preparando as pessoas para terem novas habilidades e mudarem de carreira? Como o Sistema de educação forma pessoas mais aptas para esse mundo?

E quando fala especificamente dos sistemas de direção autônoma, Bill também prevê que vamos nos confronter em breve com questões morais, que nem sempre são simples: como IA lida com acidentes e escolhe, numa situação extrema, quem se machuca mais, por exemplo, em acidente envolvendo pedestre e motorista. Para ele, os avanços em mobilidade são menos uma questão de tecnologia (que evolui a passos largos), e sim uma questão de viabilidade e sustentabilidade do negócio (de seguradoras a empregos).

Num outro papo sobre como as novas mídias estão redefinindo o luxo, o Diretor Criativo da Levi’s, a fundadora do site de moda sustentável Zady, e a editora chefe da Refinary29, discutiram moda e sustentabilidade. Segundo eles, luxo para Millenials e demais novas gerações está ligado a autenticidade e sustentabilidade. Não é mais possível ignorar os impactos de uma indústria tão grande e relevante. Tão importante quanto a tendência, é a responsabilidade das marcas com novos padrões de menor impacto ambiental e social. Maxine Bedat da Zady falou que ser sustentável não é parar de comprar moda, mas sim pensar se a peça é algo que vai durar, que ela tem quer ter integridade, mas também ser bonita e desejável. Jonathan Cheung da Levi’s resumiu de forma simples: great design made to last.

E finalmente, numas das palestras mais provocativas que vi até agora, Kate Crawford nos mostrou as armadilhas e perigos dos usos politicos da coleta de dados e inteligência artificial. De um jeito claro e didático, Kate fez um paralelo entre diversas iniciativas atuais e os modelos facistas. Parece exagero ou loucura a primeira vista, mas ela trouxe diversos exemplos. Para ela são 3 grandes questões que temos que estar atentos:

1) Não existe Sistema de inteligência artificial sem bias (ou preconceito), como ela diz, temos ‘bias encoded’. Os Sistemas de IA são ensinados por um ser humano, logo não é isento. Ela falou de estudos que tentam catalogar pessoas, como por exemplo, um na China que identifica características físicas que indicam tendências criminosas. Qualquer semelhança como os manuais nazistas de como identificar um judeu não é mera coincidência.

2) Registros, registros e registros: não é mistério para ninguém que somos trackeados a cada clique. Esse mar de dados mais a necessidade humana de catalogar em grupos as pessoas (desde a antiguidade, censo etc), tem gerado produtos como o ‘social credit scores’ (que considera seus posts para liberar ou não crédito), o novo Sistema de imigração Americana, até a Cambridge Analytica que se diz responsável por influenciar os votos no Brexit e na eleição de Trump.

3) Poder sem responsabilidade: sistemas de inteligência artificial dão às pessoas uma falsa sensação de transparência e verdade. É como se elas não fossem responsáveis por suas decisões porque a ciência dá a desculpa de que aquilo está correto. Numa lógica simplista (mas seguindo o exemplos do facismo), se o Sistema diz que você não pertence àquele grupo ou lugar, ele está certo, e eu posso te expulsar sem ser culpado ou responsável se algo acontecer a você.

Junta nessa caldeirão a guinada política à direita no mundo, os tweets do Trump, ódio aos refugiados na Europa, etc, e você tem um potencial enorme, segundo ela, da volta de práticas facistas apoiadas pela ciência e uma ameaça verdadeira aos sistemas democráticos.

É para ter medo de todas essas implicações, ou da tecnologia? Não. O discurso é de consciência e alerta, não de pânico. Estar consciente dos impactos e entender como as coisas funcionam são os primeiros passos para preparar a nova realidade. E ver pessoas comprometidas e trabalhando para isso é tão encantador quanto a tecnologia em si.

O future é fantástico sim, mas a transição tem desafios. O que eu e você podemos fazer para ajudar nessa transição? Esse é um convite difícil de não aceitar.