Os Algoritmos Têm Preconceito: Eles São Informáticos E Elas, Donas-De-Casa

É uma verdade universalmente conhecida que um homem solteiro, possuidor de uma enorme fortuna, necessita de uma esposa”. A pessoa que o escreveu é mais liberal e artística do que a média… É mais organizada e trabalhadora assim como é… Qual é a pérola ‘escondida’ da inteligência artificial?

A expectativa de que seja um homem é de 99%… o Coloquemos à prova ao mesmo algoritmo com outra mulher, dessa vez pra época presente; Christine Lagarde. O que extrai conclusões depois de averiguar um discurso próprio sobre a economia mundial? Será que é pelo motivo de falam de economia e crescimento e isso é muito masculino?

Provavelmente… E se ocorre que a forma que têm de entender as máquinas por si só (machine learning) também contém vieses sexistas (e de outro tipo) que vemos na sociedade? Isso vai o artigo que escreveram Bolukbasi, Chang, Zou, Saligrama e Kalai, (Universidade de Boston e Microsoft), uma referência por esse campo emergente de busca. Para poder entrar no mundo dos algoritmos você deve aprender um tanto melhor como é o seu machine learning. Como as garotas aprendem dos seus pais, muitos algoritmos aprendem os dados com os que se lhes alimenta.

No processamento natural da linguagem, uma das técnicas mais utilizadas consiste em aprontar a máquina com milhares e milhares de textos pra que acesse padrões e aprenda por si mesma o idioma. É conhecido como mapeamento de palavras (word embedding, em inglês). “É uma rede artificial pra captar a estrutura de uma frase.

A máquina é alimentada com um monte de textos que representam a linguagem que está a ser estudado”, explica Álvaro Barbeiro, Chief Data Scientist do Instituto de Engenharia do Conhecimento. “O sistema aprende que expressões estão próximas a novas e as transforma em números para que a máquina possa apreender a linguagem. É usado bastante, visto que é um sistema muito produtivo”. Dito de forma diferente, o que faz com que o sistema/algoritmo é agrupar frases por tópicos.

Algo como ordenar um armário (nesta hora que está tão na moda), temos a seção de casacos, camisolas, t-shirts, cachecóis, meias… e, posteriormente, estabelecemos combinações. Mas e se a máquina nos diz, ao ver umas calças que o sujeito é um homem?

1. Rede Nacional de Ensino e Pesquisa (RNP); e
2. Aprendizagem e auto-aperfeiçoamento dos próprios algoritmos
3. Carregar e Arquivar documentos ODF em XML[67]
4. 4 Composições 4.Um Estilo musical e influências
5. dois Implante catalítico tiroidal
6. (464b) De comprimento e a brevidade da vida (De longitudine et brevitate vitae vitae)
7. Main Page [1,906,729]

como É que a mulher não poderá utilizar calças? Não, é em razão de é mais possível estatisticamente que seja um homem. No post de Bolukbasi et al. O estudo podes ser um primeiro contacto com o universo dos algoritmos sem ser excessivamente técnico. Também, está cheio de exemplos de como a técnica de mapeamento de palavras nutrida com fatos do Google News (a base mais extensa do que as que existem) está cheia de preconceito e sexismo. “Há centenas ou mesmo milhares de postagens escritos a respeito de mapeamento de palavras e tuas aplicações, desde a procura na internet por observação de currículos.

Mas nenhum destes estudos foi conhecido o amur, sexistas que são esses mapeamentos e o traço que representam, desta forma, à hora de colocar vieses em sistemas do universo real”. Não foi a única associação sexista que encontraram no sistema.

Também encontraram as seguintes: Costura – Carpintaria. Enfermeira – Médico. Loira – Bonitão. Designer de interiores – Arquiteto. “O algoritmo é naif, assim que refletirá as características da amostra. Em nosso post analisamos Twitter, Web Crawl, a Wikipédia e o Google News e encontramos muitos tipos de vieses em todos os casos.