A inteligencia artificial está aprendendo preconceitos humanos?

Um estudo de Princeton parece revelar que sim.

A inteligencia artificial está aprendendo preconceitos humanos?
Escrito por: Ms Redação 13 de abril de 2017 20h05 Comentários

Se você está planejando dar boas-vindas aos futuros robô da inteligência artificial achando que eles são mais justos do que nossos líderes atuais, essa notícia é ruim.

Sistemas de Inteligência Artificial (IA) estão herdando nossos preconceitos.

Talvez não vejamos robôs que queimem cruzes nos gramados dos grupos minoritários, mas podemos precisar de um esforço sério para fazer a IA transcender os piores aspectos da humanidade, ao invés de replicá-los.

Uma equipe da universidade de Princeton fez relatório sobre o que aconteceu quando eles expuseram um programa de IA chamado Global Vectors Word Representation (GloVe) a grandes quantidades de texto para que ele pudesse aprender associações entre palavras.

Infelizmente, como os textos vieram da Internet, nosso mundo foi refletido de volta para nós. "Os nomes femininos estão associados mais com os termos familiares, enquanto que os nomes masculinos estão associados mais com termos de carreira", disse o primeiro autor Dr. Aylin Caliskan. Em pouco tempo, GloVe estava fazendo suposições humanas comuns, como assumir o gênero de alguém com base em sua profissão. Similar tendências raciais também apareceram.

Ao contrário dos seres humanos, os robôs podem nascer tendenciosos, com os preconceitos de seus criadores sendo programados. No entanto, os autores apontam, mesmo aqueles construídos sem tais problemas podem desenvolver atitudes problemáticas a partir dos dados que são alimentados.

O problema da IA ??preconceituosa não é apenas teórico. Caliskan demonstrou que ao traduzir de línguas sem pronomes de género, o Google tradutor faz os mesmos pressupostos, com a tradução de trabalhos de alto status como masculino, enquanto alguém que detém um trabalho tradicionalmente feminino (e menos bem pago) é traduzido como "ela". Isto é presumivelmente a consequência das palavras que viu, ao invés de um programador instruindo o sistema de que as mulheres não podem ser médicas.

O estudo fornece alguma confirmação da hipótese de Sapir-Whorf, a idéia que a língua que nós usamos molda nosso pensamento.

Problematicamente, isso indica que todos nós provavelmente estamos absorvendo preconceitos simplesmente a partir da linguagem que usamos.

Você pode querer ver...
Veja a 1ª imagem de um buraco negro da história, um verdadeiro 'monstro' maior que o Sistema Solar
Ciência Há 5 mêss
Veja a 1ª imagem de um buraco negro da história, um verdadeiro 'monstro' maior que o Sistema Solar Primeira imagem de um buraco negro é finalmente tirada e ele é considerado um verdadeiro ‘monstro’ pelos Astrônomos.
Natal: como não engordar nessa época?
Curiosidades Há 9 mêss
Natal: como não engordar nessa época? De acordo com uma pesquisa realizada por cientistas, se você prestar atenção em dicas simples sem exagerar nas bebidas e comidas o ganho de peso é muito menor no fim de ano.
Pelos: por que temos?
Ciência Há 9 mêss
Pelos: por que temos? Essa pergunta foi respondida, pelos menos parcialmente, por pesquisadores da Universidade da Pensilvânia que publicaram um estudo na revista científica Cell Reports.
Aplicativo promete detectar anemia sem agulhas
Curiosidades Há 9 mêss
Aplicativo promete detectar anemia sem agulhas De acordo com os autores, os resultados são animadores e que pretendem disponibilizar para download até o fim do primeiro semestre de 2019.
Novos sóis e novos planetas: vida fora da Terra?
Curiosidades Há 9 mêss
Novos sóis e novos planetas: vida fora da Terra? O estudo demonstra que esses planetas sejam rochosos, havendo um equilíbrio para a existência de vida nesses planetas.
Primeira pomada contra picada de aranha
Ciência Há 9 mêss
Primeira pomada contra picada de aranha Pesquisadores do Instituto Butatã (IB) anunciaram a produção de uma pomada capaz de salvar uma pessoa de uma picada de aranha-marrom (Loxosceles sp).
Últimas postagens
1
5 canais que estão no Youtube e que são no mínimo inusitados
2
Quais são os próximos filmes da Marvel que já foram confirmados?
3
Os 5 lugares mais sujos da sua casa
4
O futuro da Marvel – Novo trailer Homem-Aranha: Longe de Casa
5
Os empregos mais estranhos do mundo
6
Redmi lança versão “Avengers Edition” para Redmi 7 e Note 7
7
Ferramentas incríveis escondidas no Google
8
Quanto tempo cada herói apareceu em Vingadores: Ultimato
9
Vingadores Ultimato em busca do recorde de Bilheteria
10
Samurai 8: The Tale Of Hachimaru – Novo mangá de Kishimoto
Parceiros
Publicidade