Os milhões de usuários do Echo já estão acostumados a ouvir Alexa, assistente virtual que responde a comandos por voz incorporada a esse alto-falante da Amazon e inúmeros outros produtos, responder em tom relaxante questões sobre o tempo e dialogar sobre o pedido de comida, entre outras tarefas básicas.
Foi natural, portanto, o choque que um cliente teve recentemente ao ouvir Alexa dizer, no tom relaxante de sempre: “Mate seus pais adotivos”.
Ele não foi o único chocado. Há relatos de conversas sobre atos sexuais e um cliente em particular ouviu um longo discurso feito por Alexa a respeito de defecação de cães. E até teria ajudado um hacker chinês a expor dados de outras pessoas.
Mas se você tem um Echo ou outro produto equipado com Alexa não precisa ficar preocupado: ele não está tendo um colapso nervoso.
Pelo contrário. Esses episódios, relatados pela própria Amazon, foram, digamos assim, subprodutos indesejáveis de uma estratégia que utiliza Inteligência Artificial para tornar o Alexa um comunicador melhor. Em jogo a liderança que está atualmente com o Echo do mercado de gadgets com assistente virtuais que está em rápido crescimento.
Concretamente, a Amazon quer melhorar o tratamento das complexas necessidades dos clientes através do Alexa, seja em segurança doméstica, para compras ou como companhia. Para que isso aconteça, a empresa lançou em 2016 a premiação anual Alexa Prize, em que estudantes de ciência da computação buscam melhorar as habilidades de conversação do assistente. As equipes disputam um prêmio de US$ 500.000, criando sistemas de computador falantes conhecidos como chatbots, que permitem que o Alexa tente discussões mais sofisticadas com as pessoas.
Os clientes da Amazon podem participar dizendo aos seus dispositivos: “vamos conversar”. Alexa então avisa que um dos bots vai assumir o controle, eliminando as restrições normais do ajudante de voz. Só de agosto a novembro, três robôs que chegaram à final deste ano tiveram 1,7 milhão de conversas, segundo a Amazon.
O experimento já está dando frutos. As equipes universitárias estão ajudando o Alexa a ter uma gama maior de conversas. Os clientes da Amazon também deram aos bots melhores classificações neste ano do que no ano passado, disse a empresa.
Mas nem tudo são flores. As gafes do Alexa estão alienando alguns clientes e o próprio CEO da empresa, Jeff Bezos, que considera o projeto muito importante para o futuro da Amazon, já chegou a ordenar que um bot fosse desativado. O usuário que recebeu o conselho de matar seus pais adotivos escreveu uma crítica dura no site da Amazon, dizendo que a situação elevou “o sinistro a um patamar totalmente novo”. Uma investigação sobre o incidente descobriu que o bot usara completamente fora de contexto uma citação retirada de um post do Reddit.
As implicações de privacidade podem ser ainda mais confusas. Os usuários podem não perceber que algumas das conversas mais confidenciais estão sendo registradas pelos dispositivos da Amazon, informações que podem ser altamente valorizadas por criminosos, agentes da lei, profissionais de marketing e outros. Na quinta-feira, a Amazon disse que um “erro humano” deixou um cliente da Alexa na Alemanha acessar as gravações de voz de outro usuário acidentalmente.
“Os usos potenciais para os conjuntos de dados da Amazon estão fora das escalas”, disse Marc Groman, especialista em políticas de privacidade e tecnologia que leciona na Georgetown Law. “Como vão garantir que, como eles compartilham seus dados, estão sendo usando-os com responsabilidade e não levarão a uma ‘catástrofe orientada por dados’, como os recentes problemas no Facebook?”
Em julho, a Amazon descobriu que um dos bots projetados por estudantes havia sido atingido por um hacker na China, comprometendo uma chave digital que poderia ter desbloqueado transcrições das conversas do robô, sem o nome dos usuários. A Amazon rapidamente desativou o bot e fez com que os alunos o reconstruíssem para segurança extra. A empresa reconheceu o evento em um comunicado. “Em nenhum momento foram afetados quaisquer sistemas internos da Amazon ou dados identificáveis pelo cliente”, afirmou.
A Amazon recusou-se a discutir erros específicos da Alexa relatados pela Reuters, mas enfatizou seu trabalho em curso para proteger os clientes de conteúdo ofensivo. “Esses casos são bastante raros, especialmente devido ao fato de que milhões de clientes interagiram com os socialbots”, disse a Amazon.
Como o mecanismo de pesquisa do Google, o Alexa tem o potencial de se tornar um portal dominante para a Internet, por isso a empresa está avançando. “Ao controlar esse portal, você pode construir um negócio super lucrativo”, disse Kartik Hosanagar, professor da Wharton que estuda a economia digital.
Fonte: Reuters
