TECNOFEUDALISMO E GOVERNANÇA ALGORÍTMICA: PODER, EXCLUSÃO E VULNERABILIDADES NA ERA DO CAPITALISMO DIGITAL.
O Tecnofeudalismo anuncia a consolidação de um novo regime económico e político, no qual grandes plataformas digitais assumem o papel de verdadeiros Senhores Virtuais (Varoufakis, Tecnofeudalismo: O Capitalismo em Mutação, 2023). Os algoritmos estão longe de ser ferramentas neutras, uma vez que operam como dispositivos de dominação ao reproduzir racismo, sexismo, estereótipos de género e assimetrias de poder estruturantes da sociedade.
A consolidação do poder algorítmico pode ser observada em casos emblemáticos ocorridos em diferentes contextos nacionais. Nos Estados Unidos, o sistema COMPAS foi amplamente criticado por atribuir índices de reincidência desproporcionalmente elevados a pessoas negras, influenciando decisões judiciais, de modo a reafirmar o racismo algorítmico. Também naquele país, a ferramenta de recrutamento automatizado Amazon Recruiting Tool foi descontinuada após a identificação de vieses que penalizavam candidaturas femininas.
Na Holanda, o sistema SyRI (System Risk Indication), destinado à deteção de fraudes em benefícios sociais, e o escândalo conhecido como Toeslagenaffaire, envolvendo mecanismos automatizados de análise de risco aplicados a auxílios infantis, revelaram como tecnologias de classificação podem produzir discriminação sistémica contra populações vulneráveis e migrantes.
No campo político, o caso Cambridge Analytica|Facebook evidenciou o potencial de exploração massiva de dados pessoais para influenciar processos eleitorais e comportamentos sociais. Já no mercado de trabalho, plataformas digitais como Uber, iFood, Rappi e Deliveroo ilustram a expansão da gestão algorítmica, através de sistemas que determinam remuneração, distribuição de tarefas, avaliações e até desvinculações sem transparência adequada. Os episódios citados demonstram que algoritmos e plataformas digitais não atuam como instrumentos neutros, mas como estruturas de poder capazes de reproduzir desigualdades históricas, influenciar decisões públicas e privadas e ampliar situações de vulnerabilidade.
Safiya Noble demonstra que as tecnologias de análise automatizada perpetuam padrões históricos de discriminação, como a hipersexualização racializada (Algorithms of Oppression: How Search Engines Reinforce Racism, 2018). Ruha Benjamin (Race After Technology, 2019) revela-nos como tecnologias supostamente neutras podem automatizar o racismo e a exclusão, criando novas formas de desigualdade digital.
A esta análise soma-se Shoshana Zuboff, cuja teoria do capitalismo de vigilância revela como a extração massiva de dados e a vigilância comportamental criam assimetrias profundas entre plataformas e utilizadoras, intensificando a dependência e a perda de autonomia (The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power, 2019). Sanções impostas pelos EUA contra magistradas do Tribunal Penal Internacional, por julgarem crimes de guerra no Afeganistão e emitirem mandados de prisão contra líderes israelitas, culminaram em bloqueios digitais pela Visa e Mastercard, evidenciando como as Big Techs atuam como extensões punitivas do Estado.
Assim, a presente proposta pretende sistematizar investigações e abordar como os algoritmos, no capitalismo de vigilância, produzem e consolidam desigualdades que potenciam práticas de racismo, capacitismo, transfobia, misoginia, etarismo, aporofobia, entre outros atos discriminatórios.
