Publicidade

Como os avanços tecnológicos podem servir a todas as pessoas?

A mesma tecnologia que consegue definir exatamente a identidade de uma pessoa através da leitura de seu rosto é altamente ineficiente quando se depara com as nuances fenotípicas de outras pessoas diferentes das que criaram os algoritmos


14 de março de 2018 - 10h58

Escrito em colaboração por Camila Gadelha e Gabriela Guerra

As implicações sociais da Quarta Revolução Industrial têm sido uma discussão constante em fóruns e painéis de todo o mundo, inclusive aqui no SxSW. Além de profissionais focando em como regulamentar o que parece inexplicável, como o Andrew Burt, Chief Privacy Officer & Legal Engineer da Immuta, grandes nomes dos negócios e da política, como o prefeito de Londres, Sadiq Khan e o fundador e CEO da Tesla e da SpaceX, Elon Musk, fizeram suas aparições em Austin, Texas, para contribuir com o diálogo.

A autoridade londrina acredita que ao passar por esses momentos turbulentos de inovação, a gente acaba saindo do outro lado melhor do que chegou. Na Inglaterra, por exemplo, a classe média surge dentro do contexto da Primeira Revolução Industrial e altera paradigmas de mobilidade social, apesar das transformações do século XVIII terem criado outros problemas como poluição, trabalho infantil e a exploração dos trabalhadores.

Acho que a grande questão, então, é justamente essa. Como aproveitar as oportunidades desses avanços tecnológicos, mas garantindo que eles sirvam a todas as pessoas, evitando a criação de novas desigualdades?

O cenário atual não parece nada animador. A desigualdade em países como o Brasil tem atingindo novos patamares, com níveis crescentes de desemprego e uma concentração de renda cada vez mais desequilibrada entre as pessoas mais ricas e as mais pobres. Junto a esse cenário, também é visível uma série de novas implicações das tecnologias emergentes que impactam direitos elementares de cidadãos, como o direito à privacidade.

Em algumas cidades da China, por exemplo, já foi feito o mapeamento de 100% do território com o uso de câmeras de segurança. Não existe ponto cego. Quando lembramos que reconhecimento facial é a nova biometria, a situação fica muito mais Black Mirror do que a gente gostaria.

No entanto, essa mesma tecnologia que consegue definir exatamente a identidade de uma pessoa através da leitura de seu rosto é altamente ineficiente quando se depara com as nuances fenotípicas de outras pessoas diferentes das que criaram os algoritmos.

Isso porque esses modelos preditivos que criamos se parecem com quem somos. Nossos vieses cognitivos são extrapolados quando passam a processar uma quantidade muito maior de dados do que somos capazes. Eles repetem nossos erros, mas em larga escala. Um exemplo disso é o algoritmo racista do Google que reconhece pessoas negras como “gorilas”.

Precisamos levar isso muito a sério. A criação de ferramentas de regulamentações parece ser a única forma possível de evitar esses efeitos extremamente negativos que, para o Elon Musk, podem inclusive nos matar. “Eu não costumo ser favorável a regulamentações, mas é necessário que exista um corpo público que garanta que todo mundo esteja desenvolvendo Inteligência Artificial de maneira segura”, sugeriu o empreendedor.

As formas de fazê-lo podem ser variadas, mas apesar de ainda não termos chegado a uma resposta única que possa servir de exemplo global, algumas sugestões já parecem mais maduras do que outras. O Andrew Burt é um tecnologista, professor de Yale, escritor do New York Times, e atualmente uma das pessoas tentando criar um modelo de como regulamentar AI, que essencialmente trata a Inteligência Artificial como uma criança que só deve ganhar responsabilidades conforme for adquirindo informação e “tempo de vôo”.

Essa conversa certamente não termina por aqui, ainda bem. A delegação brasileira é a terceira maior do SxSW e envolve pessoas de várias indústrias, com influência suficiente para entrar nesse diálogo e direcioná-lo de forma positiva para evitar que a Quarta Revolução Industrial tenha efeitos tão segregadores quanto a primeira.

Publicidade

Compartilhe

Patrocínio