FOTO: VIOLETASTOIMENOVA/GETTY IMAGENS

Se você pesquisar“cabelo bonito” nos sites de buscas, é provável que encontre imagens de pessoas brancas de cabelos lisos. Em contrapartida, se pesquisar “cabelo feio”, encontrará pessoas negras com cabelos crespos.

Essa dinâmica se deve ao que pesquisadores chamam de racismo algorítmico . Um desses estudiosos é Tarcízio Silva , Tech+Society Fellow da Fundação Mozilla, curador da plataforma Desvelar e doutorando em ciências sociais na Universidade Federal do ABC. Ele tem como principal campo de estudo a relação entre tecnologia e sociedade, a partir de uma perspectiva antirracista e afrocentrada.

Silva é autor de “Racismo algorítmico: Inteligência artificial e discriminação nas redes digitais ”, lançado pela Edições Sesc em 2021. No livro, ele parte da premissa de que a forma como os espaços virtuais se organizam parte de uma lógica de supremacia branca, que opera através de interfaces e sistemas automatizados. Nesse sentido, plataformas de mídias sociais e tecnologia de inteligência artificial podem reforçar a violência em detrimento de grupos não-brancos.

Nesta entrevista ao Nexo , concedida por escrito na terça-feira (15), Silva fala sobre os efeitos do racismo algorítmico e de como ele deriva do racismo estrutural.

Quem define a estrutura dos algoritmos? Qual é a responsabilidade desses atores ao mapear a informação?

Tarcízio Silva Os algoritmos que utilizamos no nosso dia a dia hoje em grande medida são definidos por um conglomerado de corporações comumente chamadas de big techs que, graças a investimento desproporcional de capital financeiro, conseguiram se estabelecer em escala com a capacidade de coletar, armazenar e processar dados pessoais, tendências sociais e os mais variados tipos de informações a partir de uma lógica tecnocientífica corporativa.

Esta concentração envolve não apenas os dados, mas a capacidade de transformá-los em modelos de ordenação do mundo relacionados a objetivos de maximização do lucro e reestruturação das infraestruturas de trocas – de comunicação, produtos, serviços e até afetos.

A responsabilidade por impactos de sistemas algorítmicos deve ser, portanto, de empresas e organizações que os vendem e implementam. O mapeamento de cadeias de decisão e objetivos incorporados em dispositivos e softwares pode e deve ser realizado para um melhor controle social da tecnologia.

O que é racismo algorítmico? Como ele se manifesta e qual é o seu impacto na população negra em ambientes digitais?

Tarcízio Silva Defino racismo algorítmico como o modo pelo qual a atual disposição de tecnologias e imaginários sociotécnicos em um mundo moldado pela supremacia branca fortalece a ordenação racializada de conhecimentos, recursos, espaço e violência em detrimento de grupos não-brancos.

A principal questão, muito além das linhas de código, é a promoção acrítica de implementação de tecnologias digitais para uma gestão do mundo que favorece a reprodução dos desenhos de poder e opressão que já estão em vigor.

Sobre ambientes digitais de comunicação em específico, as plataformas de publicidade (Facebook, YouTube, Twitter, etc) permitem então a ordenação dos conteúdos, feita através de centenas de sistemas algorítmicos organizados, ao fim e ao cabo, para otimizar métricas automatizadas de venda de anúncios e geração de dados.

Quando a moderação de conteúdo racista ou extremista não é feita como deveria, e as plataformas fogem da responsabilidade, a comoção da violência discursiva, enunciados racistas inclusos, se torna padrão para usuários e para algoritmos que aprendem a sua replicação.

Na lógica de otimização contínua baseada em aprendizado de máquina, dispositivos levam como pressuposto que os dados que alimentam o sistema representam um mundo reproduzível. Esse mundo reproduzível vem do histórico de um determinado tipo de decisão para otimizar o aprendizado continuamente em prol de métricas de negócio ou gestão pública.

A estrutura dos algoritmos causa efeitos políticos? Quais?

Tarcízio Silva Sim, na verdade o próprio modo como lidamos e construímos a inteligência artificial no Ocidente é enquadrado por decisões e ideologias políticas. A própria noção de inexplicabilidade dos sistemas, por exemplo, que se baseia na dificuldade que grandes modelos oferecem para sua auditoria, é um argumento diversionista considerando que devemos entender os sistemas algorítmicos não a partir de seus códigos, mas a partir dos tipos de mundo que eles constroem.

Em outras palavras, quais são as premissas, quais são os dados que são extraídos e explorados? Quais são os objetivos finais e quem é potencialmente excluído de algum tipo de recurso público ou valor através da implementação do sistema?

Então, quando falamos de reconhecimento facial, por exemplo, não podemos pensar em termos de precisão da identificação de um indivíduo em específico, mas sim a inserção dessa tecnologia em contextos de encarceramento de massa motivados pelo racismo estrutural e por grande histórico de violência estatal e genocídio negro.

Os sistemas tecnológicos que permitimos a implementação enquanto sociedade estão imersos nas ideologias correntes nos nossos imaginários sociotécnicos do que aceitamos e do que achamos desejável.

Alguns autores usam um conceito chamado “democracia digital”. O que é isso? É algo que existe na realidade?

Tarcízio Silva A ideia de democracia digital busca abarcar problemas de pesquisa e campos de estudo para entender os impactos que os aparatos digitais trazem para a manutenção da democracia e de valores democráticos, assim como as ameaças que podem estar relacionadas a incidências das tecnologias.

Particularmente, avalio central discutirmos a dataficação e a digitalização de muitas esferas de valor na sociedade. É um processo liderado por um punhado de empresas que formam um oligopólio global sobre comunicação, produção científica em inteligência artificial e dispositivos digitais.

Impulsionados por capital financeiro, grupos de big techs e startups de mídia, publicidade e inteligência artificial já colecionam inúmeros casos vulgares de incidência e interferências em processos políticos.

Vão de incentivo à violência e genocídio até a mediação de questões como disseminação de desinformação em processos eleitorais. O debate sobre democracia digital hoje é perpassado pelo papel que sistema de algorítmicos, sob discricionariedade do setor privado, exercem na relação de poder entre diferentes atores sociais.

O que causa mais dano, os insultos racistas que às vezes tomam as redes sociais ou o racismo algorítmico?

Tarcízio Silva Em minha conceituação, o racismo algorítmico engloba boa parte das razões pelas quais os insultos racistas discursivos – por texto ou imagens – são tão comuns em ambientes online, em especial as plataformas de publicidade como Facebook, Twitter e YouTube.

O que acontece quando a própria visualização dos conteúdos nocivos é promovida através de decisões editoriais algoritmicamente codificadas para gerar métricas de negócio?

A falsa ideia de neutralidade da tecnologia cai como uma luva no racismo estrutural ao permitir que considerações sobre antirracismo não sejam levadas em conta em fases como ideação, planejamento, coleta e processamento de dados, design, desenvolvimento de modelos e implementação dos sistemas.

Ambientes digitais gigantescos das big techs não são apenas intermediários, pois realizam modulação editorial dos discursos e conteúdos em benefício próprio.

Ao mesmo tempo, alegam “ser apenas tecnologia” para fugir da responsabilidade social dos meios de comunicação. Um ponto essencial para o futuro da internet é mudarmos a chave sobre como vemos a responsabilidade social das big techs, considerando todos seus impactos em torno do mundo.

Dessa forma, quando tratamos de insultos racistas e racismo algorítmico, o que é mais importante é amadurecer meios de responsabilizar as big techs por todo o processo.