A inteligencia artificial está aprendendo preconceitos humanos?

Um estudo de Princeton parece revelar que sim.

A inteligencia artificial está aprendendo preconceitos humanos?
Escrito por: Ms Redação 13 de abril de 2017 20h05 Comentários

Se você está planejando dar boas-vindas aos futuros robô da inteligência artificial achando que eles são mais justos do que nossos líderes atuais, essa notícia é ruim.

Sistemas de Inteligência Artificial (IA) estão herdando nossos preconceitos.

Talvez não vejamos robôs que queimem cruzes nos gramados dos grupos minoritários, mas podemos precisar de um esforço sério para fazer a IA transcender os piores aspectos da humanidade, ao invés de replicá-los.

Uma equipe da universidade de Princeton fez relatório sobre o que aconteceu quando eles expuseram um programa de IA chamado Global Vectors Word Representation (GloVe) a grandes quantidades de texto para que ele pudesse aprender associações entre palavras.

Infelizmente, como os textos vieram da Internet, nosso mundo foi refletido de volta para nós. "Os nomes femininos estão associados mais com os termos familiares, enquanto que os nomes masculinos estão associados mais com termos de carreira", disse o primeiro autor Dr. Aylin Caliskan. Em pouco tempo, GloVe estava fazendo suposições humanas comuns, como assumir o gênero de alguém com base em sua profissão. Similar tendências raciais também apareceram.

Ao contrário dos seres humanos, os robôs podem nascer tendenciosos, com os preconceitos de seus criadores sendo programados. No entanto, os autores apontam, mesmo aqueles construídos sem tais problemas podem desenvolver atitudes problemáticas a partir dos dados que são alimentados.

O problema da IA ??preconceituosa não é apenas teórico. Caliskan demonstrou que ao traduzir de línguas sem pronomes de género, o Google tradutor faz os mesmos pressupostos, com a tradução de trabalhos de alto status como masculino, enquanto alguém que detém um trabalho tradicionalmente feminino (e menos bem pago) é traduzido como "ela". Isto é presumivelmente a consequência das palavras que viu, ao invés de um programador instruindo o sistema de que as mulheres não podem ser médicas.

O estudo fornece alguma confirmação da hipótese de Sapir-Whorf, a idéia que a língua que nós usamos molda nosso pensamento.

Problematicamente, isso indica que todos nós provavelmente estamos absorvendo preconceitos simplesmente a partir da linguagem que usamos.

Você pode querer ver...
Mulher que médicos pensava estar grávida carrega cisto de 25kg
Entretenimento Há 1 semana
Mulher que médicos pensava estar grávida carrega cisto de 25kg Ela nunca notou que algo parecia estar errado, até começar a ter um tamanho maior do que qualquer um consideraria normal.
Descoberta nova bactéria na Estação Especial Internacional
Ciência Há 1 semana
Descoberta nova bactéria na Estação Especial Internacional A bactéria que não existe na Terra (ainda) é resistente a antibióticos.
Novo dinossauro brasileiro é nomeado
Entretenimento Há 1 semana
Novo dinossauro brasileiro é nomeado "Thanos" A nova criatura pré-histórica foi descoberta em São José do Rio Preto.
Banheiros do futuro poderão detectar câncer pela urina
Entretenimento Há 1 semana
Banheiros do futuro poderão detectar câncer pela urina Um dos principais métodos para testar a saúde humana é através da urina, no futuro poderemos ter estes testes em casa.
Implantes cerebrais permitem que PCDs usem a internet
Ciência Há 1 semana
Implantes cerebrais permitem que PCDs usem a internet Pacientes tetraplégicos puderam controlar tablets comerciais apenas com o cérebro.
Criadas as primeiras crianças geneticamente modificadas
Ciência Há 2 semanas
Criadas as primeiras crianças geneticamente modificadas Segundo o Cientista He Jiankui ele ajudou a criar duas gêmeas com genética modificada.
Últimas postagens
1
11 imagens que mostram o drama de esperar a namorada nas compras
2
Lembra do Knickers? Acharam um boi ainda maior do que ele
3
A história da mulher que é alérgica ao frio
4
O piloto alemão que arriscou tudo para salvar inimigos na WWII
5
9 imagens que mostram um pouco as dificuldades da paternidade
6
Mulher que médicos pensava estar grávida carrega cisto de 25kg
7
Empresa na China multa funcionários que não andam o suficiente
8
Time de futebol finge morte de jogador para adiar jogo
9
Você conhece a réplica em tamanho real da arca de Noé?
10
Descoberta nova bactéria na Estação Especial Internacional
Parceiros
Publicidade