No último fim de semana, alguns usuários do Twitter resolveram testar o algoritmo da plataforma, e o resultado mostrou um viés racista do sistema que opta por mostrar mais imagens de pessoas brancas do que pretas/negras. O teste consistia em fazer uma montagem com a foto de uma pessoa branca e uma pessoa negra separadas por uma longa faixa branca na vertical, de forma que a inteligência artificial teria que escolher uma das fotos para mostrar na linha do tempo do site. Os usuários, então, perceberam que algoritmo sempre escolhia o rosto da pessoa branca, independentemente da posição que estivesse na montagem e mesmo quando se tratava de uma pessoa negra famosa, como, por exemplo, o ex-presidente dos Estados Unidos Barack Obama. 

Com a repercussão, o Twitter se manifestou publicamente, assumindo o erro e anunciando que iria revisar seu algoritmo. O episódio reacendeu o debate sobre racismo e discriminação nas redes e nas ferramentas digitais. Outros casos recentes também colocaram o assunto em questão: em março deste ano, a rede TikTok foi acusada de esconder pessoas consideradas feias, deficientes e até casas consideradas pobres de sua plataforma. Em janeiro, um homem negro foi preso nos Estados Unidos após um erro do sistema de reconhecimento facial, que o confundiu com um ladrão de joias.

No programa Expresso 104,5, da Rádio UFMG Educativa, a estudante de ciência da computação Nina da Hora, que é divulgadora científica, educadora e hacker antirracista, explicou como a tecnologia acaba reproduzindo e reforçando o racismo, o preconceito e as desigualdades. A entrevista foi ao ar nesta quarta-feira, 23.

Nina da Hora tem duas iniciativas para combater o racismo e as desigualdades no mundo da tecnologia: o Ogunhê, podcast sobre as contribuições de cientistas africanos para o mundo, e o Computação da Hora, canal no Youtube em que ela ensina conceitos da computação de modo simples e gratuito. O trabalho dela também pode ser acompanhado pelo site pessoal da educadora.