O alerta veio de Bahar Gholipour, jornalista do Huffington Post, especializada em neurociência e psicologia. Ela reuniu um volume impressionante e preocupante de casos em um artigo publicado (ou republicado) no site Futurism. Fiz a tradução e adaptação abaixo.
Durante alguns anos na década de 1980, os candidatos à Escola de Medicina do Hospital St George em Londres foram selecionados através de um método de alta tecnologia. Um programa de computador, um dos primeiros de seu tipo, examinava seus currículos, realizando a seleção inicial de cerca de 2.000 candidatos por ano. O programa analisou os registros de admissão para conhecer as características das solicitações bem-sucedidas e foi sendo ajustado até suas decisões coincidirem com as da equipe de admissão.
Mas o programa tinha aprendido a procurar mais do que boas notas e sinais de realizações acadêmicas. Quatro anos após a implementação do programa, dois médicos do hospital descobriram que o programa tendia a rejeitar candidatas e aqueles com nomes que não eram europeus, independentemente do mérito acadêmico. Até 60 candidatos a cada ano podem ter sido recusados para uma entrevista simplesmente por causa de seu gênero ou raça, disseram os médicos. O programa havia incorporado os preconceitos de gênero e raça nos dados utilizados para treiná-lo – “aprendera” que mulheres e estrangeiros não seriam bons médicos.
Três décadas depois, enfrentamos um problema semelhante, mas os programas com vieses internalizados agora são mais difundidos e tomam decisões com consequências ainda maiores.
Amazon ou Google, quem vai ganhar a guerra pela casa conectada?
Talvez seja cedo para cravar uma coluna, mas o fato é que a batalha está acirrada. E o principal troféu em disputa parece ser os assistentes ativados por voz. Na CES 2018, realizada na semana passada em Las Vegas, as duas empresas mostraram que estão mudando seus posicionamentos. Até então, elas não eram grandes nomes em feiras de eletrônicos, uma vez que o negócio de hardware delas era, até então, secundário ao software. Mas isso mudou nesta edição, com as duas empresas tendo espaços cativos e capilarizados no evento. A Google contou com um grande estande que abrigava uma série de produtos, como aspiradores, lâmpadas, termostatos e alto-falantes de empresas parceiras, todos habilitados por voz. Mas quem está na dianteira neste momento é a Amazon, que tem mostrado mais apetite quando se fala em aplicações conectadas, pois Alexa, na verdade, virou um verdadeiro ecossistema, com a Amazon de posicionando-a como uma assistente virtual universal. Dois exemplos: a Kohler, empresa especializada em produtos de luxo para cozinha e banheiro, apresentou um espelho ativado pela Alexa, através do qual pode-se e pedir a ela para dar descarga na privada ou encher a banheira e até mesmo alterar a temperatura da água e tudo isso a partir de uma conversa trivial com o seu espelho; e a A Sanbot Robotics, fabricante chinesa de robôs de serviço, apresentou nesta semana o seu Sanbot Nano, alimentado com a Alexa. O pequeno robô é vendido para se tornar um sistema que integra todas as coisas inteligentes da sua casa, além de fazer companhia para crianças e idosos. Fonte: IDGNow
