Uma influencer de 29 anos afirma que foi impedida de criar uma conta bancária por aplicativo por ser bonita demais. Segundo Eduarda Jochims, no momento de fazer o reconhecimento facial, o aplicativo dava um erro e dizia que não era possível carregar a foto. Ela fez outras tentativas, mas o acesso foi bloqueado. A influencer conta que só entendeu o que estava acontecendo ao ligar para o banco e o atendente dizer que o sistema identificou uma foto gerada por inteligência artificial (IA).  

"Não entendi nada, ficamos um bom tempo conversando. Só depois entendi que me confundiram com uma foto criada por IA. A atendente ainda brincou: “você é bonita demais para ser verdade””, disse Eduarda em entrevista.

Como nome do banco não foi divulgado, o jornal não conseguiu contato para pedir um posicionamento. 

O caso aconteceu no Rio de Janeiro e foi divulgado na quarta-feira (9). Eduarda conta que essa não é a primeira vez que isso acontece com ela. A influencer afirma que perdeu a antiga conta em uma rede social e não conseguiu recuperá-la porque pediram uma selfie, mas recebeu uma notificação dizendo que se tratava de inteligência artificial.  

“Já sofri uma certa discriminação pela minha aparência. Até hoje não sou bem-vinda em alguns grupos. Sempre era excluída por ser bonita e chamar a atenção. Acho que muita gente se sente ameaçada ou diminuída. Fico triste porque não quero competição com ninguém”, afirma Eduarda.

Desistiu da conta 

A influencer contou que o banco desbloqueou o aplicativo e pediu para ela tentar novamente, garantindo que isso não ia acontecer mais. Porém, Eduarda afirma que não tem mais interesse de criar a conta por mede de ser bloqueada novamente.  

“Como é um banco digital, não tem opção de fazer presencialmente. Mas não tentei fazer novamente a conta porque perdi o interesse. Pensei: e se acontece isso de novo? Se acontece e minha conta fica bloqueada? Seria mais complicado ainda”, ressalta. 

Reconhecimento facial 

O caso levanta questionamentos sobre os sistemas de reconhecimento facial e as implicações que podem ter na vida dos usuários. Ao O POPULAR, o jornalista, mestre e doutor em Comunicação e Cultura Contemporânea, Raniê Solarevisky, explicou que há uma limitação técnica em boa parte dos sistemas de IA em uso hoje para que consigam operar de maneira mais diversa, auditável e amigável em relação às diferenças. A maior parte deles depende do reconhecimento de padrões, comparando as entradas (um rosto para reconhecer, um pedido de geração de texto) com os vários exemplos que tem armazenado em seu banco de dados sobre aquele assunto.

"Nesse sentido, são esses dados que vão determinar as respostas que o sistema é capaz de gerar. Quanto mais diversos os dados dessa base, mais o sistema é capaz de oferecer respostas que os usuários julgam mais precisas. Para garantir que isso funcione dessa forma, muitas empresas usam supervisores humanos para checar se a IA está fazendo as associações corretas. No entanto, à medida que os volumes de dados, usuários e solicitações crescem, de maneira associada ao aprendizado de máquina sem supervisão, fica mais difícil saber quais associações estão sendo feitas pelos sistemas.

Máquina não interpreta

Conforme Raniê, se uma aplicação que reconhece padrões associou o rosto da influnencer a uma imagem gerada por IA, isso não tem nada a ver com beleza, uma vez que a máquina não interpreta ou atribui significados da maneira como os humanos fazem.

"O que é belo é absolutamente subjetivo, e basta ver como a ideia de beleza se modifica ao longo do tempo para perceber isso. Se o sistema achou que a foto era gerada por IA, é porque a imagem (e não a moça em questão, quem é ela, sua suposta beleza ou feiúra) se parecia muito com as dezenas de milhares de imagens geradas por IA que o sistema tinha no seu banco de dados", explica.