Tem medo da máquina? Calma, algoritmos são mais humanos do que pensamos

A ideia de máquinas tomando decisões por nós e sendo "inteligentes" assusta muita gente. Filmes, seriados, histórias, todas trazem a mesma visão: em algum momento, a inteligência artificial que criarmos vai se virar contra nós. Skynet, né? Mas muito mais do que o impacto desses algoritmos inteligentes, será que nos damos ao trabalho de considerar que o real perigo hoje pode estar na limitação das pessoas que as criam?

Antes de discutirmos máquinas inteligentes, vale falarmos sobre o próprio conceito de aprendizado: aprender é o ato de adquirir novos ou reforçar existentes conhecimentos, comportamentos, habilidades ou valores. Ou seja, para aprender, precisamos em algum momento passar por aquela experiência ou de alguém que passou e saiba ensinar. E para ensinarmos algoritmos, transformando dados em ação, temos basicamente 3 formas com as quais ela aprende e replica esses conhecimentos:

– ensinamos de forma supervisionada, como se disséssemos – essa base tem gatos, essa tem cachorros – agora classifica para mim essas fotos em gatos ou cachorros. É comumente utilizada para rapidamente identificar fraudes em transações. 

– de forma não supervisionada, como se entregássemos várias experiências em uma base de dados e pedíssemos pra máquina encontrar a sua forma de organizá-las (e não necessariamente vamos compreender por quê foi organizado daquele jeito). Pode ser utilizado quando queremos classificar pessoas em grupos, como por exemplo, definir se uma pessoa pode receber crédito ou não; ou o tipo de conteúdo que você é exposto nas redes sociais baseado no seu comportamento (falamos disso semana passada).

– ou por reforço, como se déssemos uma recompensa à máquina toda vez que ela acertar a resposta que buscamos. É um dos métodos utilizados para treinar uma máquina a dirigir (temos leis de trânsito muito claras).

E isso é maravilhoso, pois significa estender a nossa inteligência para processos que descobrem padrões de câncer antes não conhecidos, identificação de perigo em aeroportos, aplicação de processos mais transparentes e meritocráticas de seleção do que de uma pessoa decidindo por outras.

Tudo que leva tempo, esforço e que podemos errar pois nosso cérebro cansa, podemos acelerar ou buscar errar menos.

Mas entenda que cada uma dessas formas de ensinar contém limitações, pois o ato de classificar algo pode simplificar de forma incorreta uma informação, contendo muito mais a nossa opinião, do que representando a realidade.

Por exemplo, imagine que você deve definir se uma série de fotos são de homens ou mulheres, mas o conceito de gênero que você conheceu a vida toda é binário, e você não conhece outros tipos de identidade – uma pessoa trans provavelmente seria classificada de forma incorreta.

Aplicada a esta lógica está o caso da Joy Buolamwini, uma pesquisadora do MIT Media Lab que usa a ciência para evidenciar e combater algoritmos enviesados – ela verificou em seus estudos que câmeras e algoritmos de identificação facial, não classificam rostos negros, pois foram construídos para pessoas brancas.

Para conduzir seus estudos e desenvolver o algoritmo, ela era obrigada a utilizar uma máscara branca sobre o rosto.

Ou ainda, você está ensinando uma máquina a pré-classificar currículos de profissionais para contratar para sua empresa, e você irá utilizar o histórico de pessoas bem sucedidas do passado para que ela determine se a pessoa deve ser contratada ou não. Mas o seu histórico é composto 90% por homens brancos e não possui representatividade de negros – a probabilidade é de que a máquina dê um peso maior ao perfil masculino branco, reforçando um viés histórico.

Podemos ainda ter regras específicas de quem deve receber crédito ou não, baseado no histórico de pagamento, mas não conhecemos a história de abuso ou de falta de oportunidade de uma pessoa – o algoritmo não saberia "apostar" em você neste cenário ou lhe dar uma chance.

Basicamente, o que estou dizendo é que, diferentemente do ser humano, que tem a capacidade de questionar o que lhe é ensinado e em algum momento da vida pode optar por mudar ou ampliar a sua capacidade de enxergar o mundo – com empatia, justiça e estudo – tudo que você ensina para uma máquina, ela aprende e replica.

Se você ensinar coisas ruins, ela replicará conhecimentos ruins, coisas boas… e nossa discussão vai muito além do tradicional "bem" e "mau", mas deve considerar o uso dessas tecnologias com responsabilidade,  pois é inevitável, cada vez mais teremos máquinas tomando decisões sobre as nossas vidas.

Trabalhei em um projeto independente ano passado exatamente para discutir esse dilema – como seres enviesados (nós), são capazes de ensinar máquinas sem viés? Discutimos isso em uma série de filmes que você pode assistir aqui. E a resposta é muito simples: não somos.

E uma vez que esses algoritmos estiverem decidindo pela vida de milhões, como por exemplo, quem pega a próxima corrida disponível no aplicativo do Uber, vamos começar a buscar compreender as regras que se aplicam as suas escolhas, aprendendo, inclusive, a burlá-las (como acontece com a fila de carros do Uber).

Mas acredito que isso seja um passo muito importante para começar a compreender as regras que nós mesmos criamos: algoritmos são espelhos da nossa sociedade.

E pela primeira vez, começamos a ter a oportunidade de questionar e rever os critérios por trás da máquina. Pois se não fizermos isso agora, alguém vai decidir quais são os critérios por nós e reforçaremos ainda mais o que nos separa, ao invés de o que nos une.