TECNOFEUDALISMO E GOVERNANÇA ALGORÍTMICA: PODER, EXCLUSÃO E VULNERABILIDADES NA ERA DO CAPITALISMO DIGITAL.
O Tecnofeudalismo anuncia a consolidação de um novo regime econômico e político, no qual grandes plataformas digitais assumem o papel de verdadeiros Senhores Virtuais (Varoufakis, Tecnofeudalismo: O Capitalismo em Mutação, 2023). Os algoritmos estão longe de ser ferramentas neutras, uma vez que operam como dispositivos de dominação ao reproduzir racismo, sexismo, estereótipos de gênero e assimetrias de poder estruturantes da sociedade.
A consolidação do poder algorítmico pode ser observada em casos emblemáticos ocorridos em diferentes contextos nacionais. Nos Estados Unidos, o sistema COMPAS foi amplamente criticado por atribuir índices de reincidência desproporcionalmente elevados a pessoas negras, influenciando decisões judiciais, de modo a reafirmar o racismo algorítmico. Também naquele país, a ferramenta de recrutamento automatizado Amazon Recruiting Tool foi descontinuada após a identificação de vieses que penalizavam candidaturas femininas.
Na Holanda, o sistema SyRI (System Risk Indication), destinado à detecção de fraudes em benefícios sociais, e o escândalo conhecido como Toeslagenaffaire, envolvendo mecanismos automatizados de análise de risco aplicados a auxílios infantis, revelaram como tecnologias de classificação podem produzir discriminação sistêmica contra populações vulneráveis e migrantes.
No campo político, o caso Cambridge Analytica|Facebook evidenciou o potencial de exploração massiva de dados pessoais para influenciar processos eleitorais e comportamentos sociais. Já no mercado de trabalho, plataformas digitais como Uber, iFood, Rappi e Deliveroo ilustram a expansão da gestão algorítmica, mediante sistemas que determinam remuneração, distribuição de tarefas, avaliações e até desligamentos sem transparência adequada. Citados episódios demonstram que algoritmos e plataformas digitais não atuam como instrumentos neutros, mas como estruturas de poder capazes de reproduzir desigualdades históricas, influenciar decisões públicas e privadas e ampliar situações de vulnerabilidade.
Safiya Noble demonstra que as tecnologias de análise automatizada perpetuam padrões históricos de discriminação, como a hipersexualização racializada. (Algorithms of Oppression: How Search Engines Reinforce Racism, 2018). Ruha Benjamin (Race After Technology, 2019) nos revela como tecnologias supostamente neutras podem automatizar racismo e exclusão, criando novas formas de desigualdade digital.
A esta análise, soma-se Shoshana Zuboff, cuja teoria do capitalismo de vigilância revela como a extração massiva de dados e a vigilância comportamental criam assimetrias profundas entre plataformas e utilizadoras, intensificando a dependência e a perda de autonomia (The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power, 2019). Sanções impostas pelos EUA contra magistradas do Tribunal Penal Internacional, por julgarem crimes de guerra no Afeganistão e expedirem de mandados de prisão contra líderes israelenses, culminaram em bloqueios digitais pela Visa e Mastercard, ao passo que exteriorizam como as Big Techs atuam como extensões punitivas do Estado.
Assim, a presente proposta pretende sistematizar pesquisas e abordar como algoritmos, no capitalismo de vigilância, produzem e consolidam desigualdades que potencializam práticas de racismo, capacitismo, transfobia, misoginia, etarismo, aporofobia entre outros atos discriminatórios.
