Como consumidores, também temos um papel importante para garantir que a IA no varejo seja ética e inclusiva
Autora: Juliana Fernanda Velozo
A Inteligência Artificial (IA) já é parte do nosso dia a dia, mudando a forma como compramos e interagimos no varejo. Ela promete personalização, conveniência e eficiência, mas, como toda tecnologia, carrega os valores (e os vieses) de quem a desenvolve. Isso significa que, sem diversidade nos times de desenvolvedores, essas inovações podem acabar reproduzindo discriminações históricas, em vez de resolvê-las.
Para esse artigo, decidi explorar o impacto positivo da IA no varejo enquanto discutimos por que ela precisa ser inclusiva para atender a todos de forma justa e ética.
Supermercado sem filas e exclusões
Imagine entrar em um mercado, pegar o que precisa e sair sem passar pelo caixa. Essa realidade já existe em lojas autônomas, como as da startup “Minha Quitandinha”, em que sensores e IA identificam os produtos que você escolheu. No entanto, em outros contextos e indústrias, já houve relatos de falhas em tecnologias semelhantes que, por falta de calibração adequada dos sensores, não reconheceram clientes com tons de pele mais escuros. Estes casos são um lembrete claro: sem equipes diversas, a tecnologia pode excluir grupos inteiros.
Moda que reflete estilo e inclusão
A Zara, rede de lojas de roupas, utiliza IA para analisar dados de vendas e tendências, ajustando suas coleções com rapidez. A ideia parece incrível, mas é preciso cuidado. Um estudo recente mostrou como algoritmos de recomendação de moda frequentemente sugerem roupas baseadas em estereótipos de gênero, perpetuando padrões antiquados sobre como mulheres e homens “devem” se vestir. Diversidade nas equipes que criam essas soluções pode desafiar tais vieses e permitir que a tecnologia reflita a pluralidade dos consumidores.
Personalização sem perpetuar discriminação
Quando o consumidor usa terminais de auto pagamento e recebe sugestões de produtos complementares, está vendo a IA em ação. Mas sem dados diversos, as sugestões podem reforçar preconceitos. Um exemplo marcante veio de algoritmos de recomendação nos Estados Unidos que, baseados em dados históricos, sugerem diferentes faixas de preço para consumidores dependendo de sua localização, perpetuando discriminações raciais e econômicas. A IA não é neutra, e quem a desenvolve precisa garantir que ela seja ética. Mas por que isso importa? Basicamente, a IA tem o potencial de transformar positivamente o varejo de três formas: praticidade, ao garantir menos filas e processos mais rápidos; personalização por meio de recomendações adaptadas ao que você realmente precisa; e inovação, garantindo experiências novas e empolgantes.
Mas também pode reforçar desigualdades, seja por erro ou negligência. Uma tecnologia que não considera diferentes gêneros, raças ou contextos culturais não resolve problemas – ela cria novos. Por isso, a diversidade nos times de desenvolvimento não é um luxo, é uma necessidade.
Como contribuir para um varejo mais justo e transparente
Como consumidores, também temos um papel importante para garantir que a IA no varejo seja ética e inclusiva. Aqui estão algumas formas de agir:
- 1. Priorizar marcas que promovem inclusão: apoie empresas comprometidas com a diversidade em suas equipes e práticas;
- 2. Questionar soluções de IA: peça transparência sobre como os dados são coletados e usados;
- 3. Falar sobre experiências negativas: se notar discriminação em uma experiência digital, reporte à empresa e exija mudanças. Órgãos como o Procon e o Disque Direitos Humanos também estão aptos para lidarem com este tipo de denúncia.
Dados do setor de tecnologia no Brasil mostram que apenas 15% a 20% das posições em tecnologia são ocupadas por mulheres, mais de 90% das equipes são compostas por pessoas brancas e menos de 1% inclui pessoas com deficiência. Esse cenário cria algoritmos baseados nos vieses e experiências de um grupo homogêneo, resultando em decisões que podem reforçar desigualdades.
Por isso, é urgente implementar políticas que não apenas incluam, mas também desenvolvam a diversidade nos times responsáveis por definir e decidir sobre tecnologia e práticas no varejo. Equipes diversas criam soluções mais completas e justas, garantindo que ninguém fique de fora. A diversidade de pensamentos de hoje é o que cria as soluções transformadoras de amanhã.
Juliana Fernanda Velozo é vice-presidente de varejo, travel & transportation para América Latina na Thoughtworks.
