Especialistas debatem as consequências da adoção acelerada e do excesso de convicção na inteligência artificial
O avanço da inteligência artificial vem transformando processos e decisões em ritmo vertiginoso, levantando dilemas inéditos. O recente episódio envolvendo uma grande consultoria global, obrigada a devolver milhões após entregar um relatório repleto de informações falsas geradas por IA, fez ligar o sinal de desconfiança e trazer muitos questionamentos. Afinal, a tecnologia que encanta, também erra — e o desafio está em entender se a falha está nos algoritmos, nos dados, na governança ou, sobretudo, na forma como os humanos escolhem usá-la. Essas reflexões fizeram parte da 51ª edição do ClienteSA News, que reuniu Fernanda Marinho, diretora de eficiência e inovação da Lobo de Rizzo Advogados, e Victoria Luz, consultora de IA, ao lado dos cohosts Vilnor Grube, CEO da ClienteSA, Rodrigo Tavares VP sênior de CX da Recarga Pay e Wellington Paes, CEO do Conexão Customer.
Abrindo o bate-papo, Rodrigo fez um breve resumo do caso que ganhou a mídia, este mês, envolvendo a Deloitte. No mesmo dia em que anunciou o uso do Claude (Anthropic) por 500 mil funcionários, a consultoria foi obrigada a devolver U$ 10 milhões de um contrato com o governo australiano devido a um relatório de 237 páginas com informações falsas geradas por inteligência artificial. Na sequência, ele sugeriu que as discussões procurassem responder de quem é a culpa por mais esse caso de “a IA alucinou”.
Primeira a propor uma resposta, Victoria afirmou que IA é apenas mais uma ferramenta, sendo que seu uso está mais maduro em alguns mercados, usando-a como um meio e não como fim, enquanto no Brasil ainda se está aprendendo a navegar nas descobertas sobre como utilizar. “Entretanto, mesmo onde já se avançou, como no caso da Austrália, acabam acontecendo problemas dessa magnitude. Se a responsabilidade é da própria tecnologia ou do ser humano que a usa, é um bom debate. Há uma abundância de casos de ROIs positivos de projetos com inteligência artificial usada de forma bem consciente, uma série de boas práticas em curso. Isso mostra que não basta delegar apenas para a tecnologia, mas precisamos assumir nosso protagonismo também nos erros e acertos.”
Corroborando, Fernanda comentou que, quando pensamos nas falhas e nos riscos envolvidos no uso da IA, passa desde algo muito simples tal como “revise se o dado é fidedigno” até a interpretação de vieses. “Aí coloca-se uma complexidade maior do que pode acontecer desde que estou escrevendo um prompt, até escolhendo variáveis e interpretando resultados, gerando insights a partir daquelas informações.” Trazendo a análise para o contexto do caso da Deloitte, ela lembrou que, em se tratando de uma das Big Four, ela, que vende bem mais que um relatório, mas credibilidade, cometeu um erro que, a seu ver, é inadmissível, do ponto de vista de cultura, governança e processos. “Todas as empresas que estão dispostas a usar IA como um meio, uma ferramenta, está sujeita a erros e basta eleger os mitigadores que se usará, seja no processo de revisão ou no momento de assumir a responsabilidade pelos resultados.” E resumiu afirmando tratar-se de um processo de reaprender a trabalhar.
Complementando as falas das convidadas, foi a vez de Wellington afirmar que há um problema sério de educação no Brasil. “Há muita preguiça para estudar buscando evoluir no trabalho e muita desconfiança em relação ao que está sendo entregue. A tendência é a de terceirizar a culpa, como no caso da Deloitte, porque a maioria das pessoas não passaria da quinta pergunta a respeito de IA, que está sendo usada como uma modinha em muitos casos ainda. E essa é a razão da desconfiança em cima da tecnologia.” O debate prosseguiu, aprofundando a questão da responsabilidade no caso Deloitte/governo australiano, que segundo Rodrigo, pegando uma resposta consultando a própria IA, é de 70%/30%. Também se discutiu o papel das lideranças em meio a tudo isso, entre outros assuntos, sempre contando com muita interação da audiência. O vídeo, na íntegra, está disponível no YouTube, no canal ClienteSA Play, compondo um acervo em cultura cliente que já passa de 3,9 mil vídeos.
