Em maio de 2019, a Unesco lançou um estudo chamado “I’d Blush If I Could” (algo como Eu Ficaria Corada se Pudesse) cuja ideia foi analisar as mensagens enviadas a Siri, a assistente virtual inteligente da Apple, e outros bots similares disponíveis no mercado. Paralelamente a isso, os especialistas também verificaram o comportamento dos robôs diante dos comentários agressivos.

Uma das conclusões do estudo é que as assistentes foram programadas basicamente por homens (que representam 90% da força de trabalho na criação de IA) e têm a premissa de estar sempre conectadas aos seus usuários – e isso se reflete na resposta. Quando elas são verbalmente assediadas ou recebem mensagens agressivas, suas respostas são tolerantes, subservientes e passivas.

O resultado foi decisivo para que a Unesco lançasse a campanha “#HeyUpdateMyVoice”. O objetivo é estimular o uso de perfis de assistentes neutros, evitando assim mensagens ofensivas e tentando interromper a misoginia que ocorre tanto na vida real quanto no mundo dos chatbots.

A campanha da Unesco já estimulou o surgimento de bots neutros, mas o problema está longe de uma solução definitiva. Mais: o mundo dos chatbots, assim como ocorre na realidade, tem outros problemas que a incessante busca pela diversidade nas relações, sejam eles de gênero, raça e até idade.

Bots: um assunto para os jovens?

Felizmente, o debate sobre o assunto já existe. Esse foi justamente um dos últimos paineis do Super Bots Experience 2020, com o tema “A importância da diversidade na construção de bots”. O painel, mediado pelo jornalista Fernando Paiva, editor do site Mobile Time, contou com a participação de Roberto Aran, head de produtos da Plusoft.

Em sua fala, Aran falou rapidamente sobre a evolução do mercado de TI e destacou que as equipes responsáveis por produzirem chatbots representam justamente o grupo mais jovem. E isso tem feito a diferença para a rápida evolução desse debate na sociedade.

“Eu estou no mercado de TI há 20 e poucos anos. As equipes de bots representam a geração mais nova, logo possuem uma cabeça diferente. Eles vivem a importância da diversidade de uma maneira bem diferente, o que é ótimo. Há espaço para inclusão muito grande, mas existem barreiras a serem quebradas”, explica.

Anderson Passos, head de inovação e dados da Ativa Investimentos, concordou com Aran e lembrou que o assunto está na pauta do mundo corporativo. “Acho que existe um despertar provocado por diversas outras marcas que se posicionaram e que estão alavancando o tema. E quando falo de inclusão, não estou dizendo apenas das marcas, mas nas formações de equipes”, explicou.

Já Caio Calado, consultor e designer de experiências conversacionais e gerente de comunidade Bots Brasil, destacou a falta de insumos que contribuam para o debate sobre o tema, tais como estudos que mostrem o verdadeiro perfil médio do profissional de UX e chatbot. “O que sabemos é meio empírico. O mercado de UX é extremante branco e hétero. Assim, eu pergunto: hoje temos discussão sobre quem está projetando essas experiências?”, disse.

Louise Zeni, head de conversas da Outra Coisa, também lembrou sobre a quase exclusividade de homens no mercado de bots e a escassez de estudos sobre o perfil de quem exerce a atividade. No entanto, ela destacou outro fator crucial para a falta de diversidade: a educação. “Grande parte do material (para o exercício da atividade) é em inglês. Isso cria barreiras para alcançar a diversidade entre pessoas de classes sociais distintas”, disse.

Caroline Capitani, vice-presidente de design digital e inovação da Ilegra, por sua vez, afirma que tivemos avanços importantes nos últimos anos, muito embora isso tenha ocorrido a passos lentos. “De fato, temos um caminho longo para percorrer, haja visto a questão de gênero para buscar equidade. Leva tempo esse equilíbrio. Para os bots serem mais diversos, as empresas precisam ser mais diversas. Estamos em ‘baby step’, mas estamos avançando”.

Por que toda assistente é mulher?

Em outro momento do painel, os painelistas foram convidados a opinar sobre o uso de perfis femininos na construção de um assistente virtual inteligente, caso de Siri, Cortana, Lu (Magazine Luiza) e tantos outros. Por que elas são sempre mulheres?

Na avaliação de Louise, os robôs refletem como somos, logo exibem o arquétipo que colocou a mulher quase que exclusivamente no papel de “cuidadora” e “amorosa”. “Isso está baseado no arquétipo de construção social da mulher, muitas vezes destinada a domesticidade, a casa e ao eletrodoméstico. Quanto ao homem, compete o gerenciamento do universo. Isso foi construído e está enraizado. Isso precisa mudar, mas demora muito para ser desconstruído”, disse.

Caio concordou com Louise. “Por que quando é para ajudar é a mulher e quando é para decidir é um homem?”, questionou.

Já Anderson falou da importância da prévia construção de uma persona baseada no público-alvo. É isso que vai definir se utilizar o chatbot será mulher ou homem. Curiosamente, isso nem sempre acontece. Hoje, por exemplo, pouco mais de 55% da população brasileira é parda e negra. No entanto, são raros os chatbots negros.

“Ele pode ser branco, mas o seu público talvez não se identifique com ele. Falta esse olhar para a construção de quem é o seu público”, disse.

Carol citou o esforço da Unesco sobre os abusos machistas sofridos por Siri e outros assistentes virtuais, além da recomendação de criação de bots neutros. “Temos que começar a descontruir os nossos chatbots e os nossos preconceitos tanto no mundo físico quanto no digital”, disse.

Linguagem inclusiva

Os painelistas também discutiram a necessidade do chatbot adotar uma linguagem mais inclusiva, que, entre outras coisas, seja livre de expressões machistas, feministas ou vícios linguísticos preconceituoso.

Roberto Aran, da Plusoft, defendeu a necessidade de desconstrução desses vícios de linguagem, mas falou sobre um problema muito comum: a “pressa” do contratante que deseja ver o seu chatbot funcionando o mais rápido possível.

“Existe uma questão de produto do mercado, de demanda, de ter o bot. As empresas querem colocar um chatbot no mercado, mas, muitas vezes, essa velocidade impede que seja considerado o uso da melhor linguagem inclusiva possível. Se não for construído da melhor forma possível, você pode gerar um problema na imagem”, disse.

Caroline, de maneira pertinente, citou a importância do uso de uma linguagem inclusiva para o público 50+, justamente o grupo que emergiu após a pandemia do novo coronavírus.

“Temos que pensar no público 60+. A pandemia os impediu de irem às lojas. Eles têm dificuldades que precisamos considerar, como perda natural da visão. Temos que pensar na experiência nesse tipo de usuário também”, afirmou.