Fermino Neto
Um sistema de reconhecimento facial é uma técnica cuja base vem de que cada pessoa tem um padrão característico em que, usando algum sistema de análise profunda de imagem, se pode identificar tal indivíduo. Em tese, o uso da ferramenta parece bom, mas temos algo a pensar em favor do aperfeiçoamento ético de seu uso.
Pessoas de pele negra não encontram vida fácil no sistema, seja para serem identificadas entre 8 bilhões de seres ou para se comunicarem na internet. Desde os tempos mais antigos, o progresso tecnológico costuma ser perverso com o negro.
Relaciona-se ao sistema o retrato falado. Dado uma gama de características, era desenhado o rosto do suposto criminoso. Da mesma forma, surgem sistemas que identificam esses padrões tendo usabilidade em vários fatores, como para celular, que desbloqueia a tela com um rosto específico ou até mesmo, como no exemplo citado, para identificar possíveis crimes.
Apesar dos benefícios, esse tipo de tecnologia traz a discussão sobre a exatidão dessa analise de imagem e a privacidade, levantando debates sobre controle social, quebra de liberdade individual e se vale realmente a pena toda essa vigilância em prol da segurança desse tipo de sistema.
Vamos ater somente à segurança, ficando para depois pensarmos nos prejuízos sócio econômicos da desigualdade de condições de popularidade e de vendas de produtos e serviços no próspero mercado digital.
Em 2023, Daron Acemoglu e Simon Johnson, no livro “Poder e Progresso” apontaram um conjunto de casos em que a tecnologia jogou pesado contra os afrodescentes.
Entre os séculos XVI e XVII, um novo design para as embarcações fez crescer o transporte pelos oceanos. Ficou maior a produtividade dos novos navios. Mas esses mesmos navios viajavam carregados com milhões de escravos. A tecnologia abriu caminho para um arranjo de trabalhos forçados e humilhação por mais de 300 anos.
No século XVIII, Eli Whitney criou a descaroçadora de algodão. Com ela cresceu a produtividade das plantações, que transformou os Estados Unidos no maior exportador de algodão. Porém a maior extensão de áreas plantadas aumentou a brutalidade contra os escravos, que deveriam trabalhar muito mais. Jamais os negros sofreram tanto.
Em comum entre o novo design dos barcos e a descaroçadora estavam a produtividade e o sofrimento do negro, dado o sistema de opressão que proporcionou a acumulação de fortunas.
O progresso tecnológico volta a oprimir o negro. Numa simples postagem de rede social, a Inteligência Artificial (IA) escolhe quem deve aparecer e quem deve ser escondido, como se fosse nos velhos tempos em que a cor da pele decidia quem devia apanhar e quem podia bater. Essa tecnologia também não é neutra. Está longe de ser um match matemático perfeito. É o racismo mesmo estrutural em sua pior versão.
O portal G1, no dia 1 de setembro do ano passado, alertara sobre o potencial de erros da identificação facial, que usa a IA.
O chicote tecnológico é cruel, exclui, segrega, machuca e marca por dentro, ferimento indelével, pois o reconhecimento facial ou biométrico leva em conta um banco de dados com perfis de pessoas na maioria negras, mesmo que a maior parte seja inocente. A Inteligência Artificial escolhe quem deve apanhar.
O algoritimo é treinado para errar contra o negro. Até o erro é enviesado. Pode passar de 50% para os homens, de 40% para as mulheres negras e pessoas trans, mas é de apenas 0,3% para os brancos. Essa é uma das razões de, no mundo negro, compararmos a ferramenta ao racismo algorítmico, quando a IA é aplicada para discriminação nas redes sociais.
E é terrível a justificativa policial: “perda mensal aceitável”, como na fala da PM do Rio de Janeiro no Fantástico de 21 de abril de 2024. Em síntese, por este ângulo, é produtiva a abordagem decorrente da IA, como eram os navios carregados de escravos e a descaroçadora de algodão, independente do sofrimento e da tortura psicológica para a pessoa negra. É muita crueldade. É um discurso racista.