Os avanços da inteligência artificial nos processos de relacionamento com clientes têm feito nascer uma multiplicidade de assistentes virtuais cada vez mais presentes e operantes. Entretanto, o que seria inimaginável, as personas também vêm sofrendo vários tipos de assédios, e de forma crescente. Como isso se trata, na verdade, de um reflexo do nível de violência contra a mulher que ocorre no mundo real, foi criado, no Brasil, em parceria com a Unesco, um projeto de alcance mundial que visa debater e conscientizar as sociedades sobre o problema. Além disso, a 99 desenvolveu um algoritmo para identificar em sua plataforma denúncias de assédio automaticamente. Essas ações foram expostas, hoje (25), durante a 129ª live da série de entrevistas dos portais ClienteSA e Callcenter.inf.br, que contou com Joice Cristina, gestora executiva de relacionamento com clientes da MRV, Pâmela Vaiano, diretora de comunicação da 99, e Guilherme Jahara, sócio-fundador e diretor criativo do estúdio DarkKitchen.
Guilherme iniciou o bate-papo explicando as origens do projeto “Hey update my voice”, uma parceria entre a SunsetDDB, da qual ele saiu recentemente, e a Unesco, que visa combater o assédio cibernético. A iniciativa partiu do estudo “I´d blush if I could” (Eu ficaria corada se pudesse), mostrando que a criação de chatbots com vozes femininas acontecem dentro de um viés de gênero. São os atendimentos por meio de inteligência artificial que crescem exponencialmente e que têm refletido o comportamento preconceituoso e machista na sociedade. O título do estudo foi tirado da resposta programada na “Siri” a partir das consultas ao Google e que já passou por um update.
“O projeto nasceu para jogar luz numa questão que as pessoas consideravam sem importância”, ressaltou o executivo, “por acontecer no mundo da inteligência artificial. Entretanto, o que vemos nisso é na verdade o comportamento humano.” Conforme mostra levantamento da Unesco, 90% da força de trabalho nas áreas de tecnologia é composta por homens, o que explicaria o fato de as máquinas virtuais nascerem com essa tendência de gênero. E, em caso de sofrerem assédio, não conseguem responder de acordo. Como as assistentes virtuais vão ganhando cada vez mais espaço, avançando pelas mídias sociais, vai ficando patente o modo de agir inadequado. “E é esse comportamento humano que define o projeto.” O projeto está no ar desde janeiro, pelo site heyupdatemyvoice.org, com etapas que envolvem a conscientização a partir das grandes organizações que possuem bem-sucedidos cases de personas cibernéticas em todo o mundo.
Depois de parabenizar o projeto, cujo lançamento no início do ano ela acompanhou, Pâmela fez questão de ressaltar porque, ao contrário de uma aparente irrelevância, é tão importante nos preocuparmos com questão de assédio sobre uma máquina. “Ao ensinarmos a essa persona a questão da ética e aspectos do comportamento social, estamos fomentando as atitudes das mulheres na vida real.” A construção do chatbot com esse viés de gênero surge, na sua avaliação, porque entende-se que a voz feminina corrobora para uma visão de subserviência da mulher. “Isso fortalece os preconceitos de que a pessoa do sexo feminino nasceu para servir, inclusive com seus corpos. É um tema urgente porque sabemos que a tecnologia é dominada por homens e, se vivemos em uma sociedade feita por pessoas capazes de assediar máquinas, imagine o ciclo de violência contra a mulher que está por detrás disso. No final das contas, é o que tem colaborado para uma cultura de estupro.”
Na MRV, segundo contou Joice, levando em conta exatamente essas realidade de que a grande maioria das equipes de TI é formada por homens, foi criada uma curadoria constituída de mulheres para analisar a questão. Partindo do conhecimento do projeto da Unesco, chegou-se à constatação de que o assédio virtual é reflexo de um comportamento na sociedade. “Muitos até estranham quando chamamos essa atitude cibernética como assédio. Por isso, trata-se uma questão de educação, um papel social de mudar esse comportamento machista.” De acordo com ela, são mais de 50 mil acessos via chatbot ao mês na empresa, dentre os quais percebe-se o crescimento do comportamento inaceitável no relacionamento. “Assédio é crime e sabemos que 73% das mulheres em todo o mundo já sofreram esse tipo de agressão criminosa alguma vez. Em resumo, é urgente e necessário fortalecer o movimento de empoderamento da mulher na sociedade.”
Para Guilherme, é fundamental que essas personas consigam responder à falta de educação. Tanto requer conhecimento sobre o problema que, aqui no Brasil, o Instituto Maria da Penha foi o primeiro a apoiar. No seu entendimento, ele é muito mais amplo do que simplesmente ficar olhando para a construção das assistentes virtuais. E, concordando com a afirmação, a diretora da 99 lembrou que, até pouco tempo atrás, todas as pesquisas sobre o problema nas empresas só focavam em temas relativos ao assédio moral. “Desde 2014 está estipulado que a importunação sexual é crime e, mesmo assim, quando a mulher faz a denúncia, corre sempre o risco de ainda ser subestimada e ridicularizada.” E, respondendo a uma questão sobre uma sondagem feita em junho último pelo Instituto de Pesquisa de Risco Comportamental, apontando que metade dos profissionais nas empresas já praticaram ou toleram as várias formas de assédio, ela entende esses dados são subnotificados. “A complacência com o problema abrange muito mais pessoas, com certeza.”
Detalhando um pouco do que ocorre com o chatbot desenvolvido pela MRV, a assistente artificial “Mia”, Joice disse que existe há alguns anos e vem absorvendo demandas por todos os canais de atendimento, numa base de mais de 450 mil clientes. “Nosso squad em torno desse bot, uma curadoria constituída por mulheres, foi se incomodando com o surgimento e ampliação desse problema. As respostas não eram satisfatórias diante das atitudes importunas e começamos a estudar como categorizar e identificar as várias formas de assédio. Desenvolvemos um projeto de compreender qual nosso papel social de transformar o comportamento das pessoas. Mudar o mundo para melhor passa por essa atitude.” Segundo ela, foram registrados mais de 50 assédios mensais sobre o bot, uma quantidade considerada alta. E foram preparadas respostas que orientam e informam ao infrator a perceber o quanto esse tipo de comportamento reflete o que ele faz na vida real. E, também, conscientizar essa pessoa de que está incorrendo em um crime e poderá sofrer as consequências.
A diretora da 9 também detalhou o case da empresa, que investiu em inteligência artificial para facilitar denúncias e bloquear instantaneamente agressores. Foi criado o Rastreador de Comentários, algoritmo contra o assédio sexual, que vasculha avaliações de passageiras, passageiros e motoristas, identificando denúncias automaticamente. O sistema consegue ler os comentários deixados no app após o término das corridas e detectar uma série de palavras e contextos que possam estar relacionados a assédios. A iniciativa, que também contemplou a criação de um protocolo de atendimento humanizado, foi desenvolvida em parceria com a consultoria feminista Think Eva, braço da organização Think Olga.
No encerramento da live, os executivos foram unânimes em exortar a todos os profissionais, nas empresas, a lutarem de alguma forma para combater todos os tipos de violência e preconceitos, na construção de uma sociedade cada vez melhor. O vídeo com a entrevista, na íntegra, está disponívelem nosso canal no Youtube. Aproveite para também se inscrever e ficar por dentro das próximas lives. Em virtude do jantar de confraternização do Prêmio ClienteSA 2020 – que terá transmissão ao vivo pelo canal -, na segunda-feira (28), a série de entrevistas terá sequência na quarta-feira (30) com Juliana Sandano, superintendente executiva de ciclo de vida do cliente do Banco Original e, na quinta-feira, será a vez de Pierre Lucena, presidente da Porto Digital.
