A inteligencia artificial está aprendendo preconceitos humanos?

Um estudo de Princeton parece revelar que sim.

A inteligencia artificial está aprendendo preconceitos humanos?
Escrito por: Ms Redação 13 de abril de 2017 20h05 Comentários

Se você está planejando dar boas-vindas aos futuros robô da inteligência artificial achando que eles são mais justos do que nossos líderes atuais, essa notícia é ruim.

Sistemas de Inteligência Artificial (IA) estão herdando nossos preconceitos.

Talvez não vejamos robôs que queimem cruzes nos gramados dos grupos minoritários, mas podemos precisar de um esforço sério para fazer a IA transcender os piores aspectos da humanidade, ao invés de replicá-los.

Uma equipe da universidade de Princeton fez relatório sobre o que aconteceu quando eles expuseram um programa de IA chamado Global Vectors Word Representation (GloVe) a grandes quantidades de texto para que ele pudesse aprender associações entre palavras.

Infelizmente, como os textos vieram da Internet, nosso mundo foi refletido de volta para nós. "Os nomes femininos estão associados mais com os termos familiares, enquanto que os nomes masculinos estão associados mais com termos de carreira", disse o primeiro autor Dr. Aylin Caliskan. Em pouco tempo, GloVe estava fazendo suposições humanas comuns, como assumir o gênero de alguém com base em sua profissão. Similar tendências raciais também apareceram.

Ao contrário dos seres humanos, os robôs podem nascer tendenciosos, com os preconceitos de seus criadores sendo programados. No entanto, os autores apontam, mesmo aqueles construídos sem tais problemas podem desenvolver atitudes problemáticas a partir dos dados que são alimentados.

O problema da IA ??preconceituosa não é apenas teórico. Caliskan demonstrou que ao traduzir de línguas sem pronomes de género, o Google tradutor faz os mesmos pressupostos, com a tradução de trabalhos de alto status como masculino, enquanto alguém que detém um trabalho tradicionalmente feminino (e menos bem pago) é traduzido como "ela". Isto é presumivelmente a consequência das palavras que viu, ao invés de um programador instruindo o sistema de que as mulheres não podem ser médicas.

O estudo fornece alguma confirmação da hipótese de Sapir-Whorf, a idéia que a língua que nós usamos molda nosso pensamento.

Problematicamente, isso indica que todos nós provavelmente estamos absorvendo preconceitos simplesmente a partir da linguagem que usamos.

Você pode querer ver...
Chineses pretendem lançar lua artificial para iluminar as ruas
Entretenimento Há 1 dia
Chineses pretendem lançar lua artificial para iluminar as ruas A ideia é criar um ponto turístico, assim como diminuir o gasto com postes de luz.
O aquecimento global poderá causar a falta da cerveja
Entretenimento Há 2 dias
O aquecimento global poderá causar a falta da cerveja É, parece que agora a coisa ficou séria...
Cientistas descobriram a chave para o sucesso acadêmico
Ciência Há 3 dias
Cientistas descobriram a chave para o sucesso acadêmico Acredite, não é uma surpresa...
Dynamoterror, o parente do T.rex recém descoberto
Ciência Há 1 semana
Dynamoterror, o parente do T.rex recém descoberto Conheça mais sobre o dinossauro que tem o nome mais legal de todos os tempos.
Descoberto esqueleto de garota enterrada
Curiosidades Há 1 semana
Descoberto esqueleto de garota enterrada "como vampira" no sec. 5 Era comum que antigamente os corpos fossem enterrados de forma estanha para evitar que as doenças saíssem de seu túmulo.
Pesquisa indica que vacina da tuberculose pode reverter diabetes
Ciência Há 1 semana
Pesquisa indica que vacina da tuberculose pode reverter diabetes A vacina, inventada a quase 100 anos, contém uma versão enfraquecida de um vírus capaz de melhorar o consumo do açúcar no sangue.
Últimas postagens
1
Mulher faz incriveis fantasias de crochê para os filhos
2
Inaugurada no Vietnam cafeteria inundada com peixes vivos
3
Angulas - A comida caríssima que não tem gosto
4
Confira o trailer do Spotify que foi banido por ser assustador
5
Cubra os ouvidos: Homem bate recorde de nota musical mais alta
6
Chineses pretendem lançar lua artificial para iluminar as ruas
7
O aquecimento global poderá causar a falta da cerveja
8
Templo milenar esculpido em uma única rocha faz viraliza
9
O site que cobra 99 cents para você ver quem pagou também
10
Homem se enterra vivo na Índia para virar um deus
Parceiros
Publicidade