Mediação algorítmica e aprendizado de máquina
Defesa da dissertação de mestrado em sociologia Mediação algorítmica e aprendizado de máquina: uma caracterização baseada em patentes da Google sobre técnicas de modulação de atividade. Pesquisa realizada no Programa de Pós-Graduação em Sociologia (PPGS) do Instituto de Filosofia e Ciências Humanas (IFCH) da Universidade Estadual de Campinas (Unicamp).
Autor: Rafael Gonçalves (PPGS, linha “Ambiente e tecnologia”)
Orientador: Pedro Peixoto Ferreira (Departamento de Sociologia, DS/IFCH/Unicamp)
Data: 29/01/2025 às 14:00
Local: Sala de Teses I (Prédio de pós-graduação, IFCH/Unicamp)
Banca:
Bárbara Geraldo de Castro (DS)
Henrique Zoqui Martins Parra (Ciências Sociais/Universidade Federal de São Paulo, Unifesp)
Rafael de Almeida Evangelista (Laboratório de Estudos Avançados em Jornalismo, Labjor/Unicamp, suplente)
—
Marta Mourao Kanashiro (Labjor)
Diego Jair Vicentin (Faculdade de Ciências Aplicadas, FCA/Unicamp, suplente)
Financiamento: Processo nº 2023/01858-0, Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP)
Resumo:
Esta pesquisa de mestrado é uma investigação sobre as características da tradução de ações operada pela mediação de algoritmos, em particular, de técnicas de aprendizado de máquina (AdM) utilizadas para modulação de atividade patenteadas pela Google. A passagem do século XX para o XXI provocou transformações a um só tempo tecnocientíficas e político-econômicas que foram denominadas, por diferentes autoras, como “mundo de ciborgues” (Haraway), “sociedades de controle” (Deleuze) e “virada cibernética” (Garcia dos Santos). Em especial, o desenvolvimento tecnocientífico protagonizado pelo complexo industrial-militar (e, progressivamente, corporativo), sobretudo do norte global, amparou-se na noção de informação para inventar novas formas de apropriação econômica e controle político, inclusive sobre processos virtuais, antes de sua efetivação: é o caso da informação genética e digital, e do próprio sistema de propriedade intelectual. Nesse sentido, o campo da inteligência artificial e, particularmente, o AdM – mecanismo utilizado para o processamento automático de dados – ocupam um papel cada vez mais central, sendo hoje utilizados amplamente para classificação, predição e geração de dados em diversas áreas. Aliado ao fato de que a maioria das pessoas carrega consigo um smartphone a maior parte do dia, abre-se a oportunidade de utilização dessas técnicas para prever e afetar a atividade de usuárias nessas situações algoritmicamente mediadas, problema conhecido como “modulação de comportamento” ou de atividade.
Diante disso, este trabalho analisa sociotecnicamente nove técnicas patenteadas pela Google – entendida como primeira e principal empresa a aliar métodos de inteligência artificial para quantificar e abstrair aspectos da vida social com a acumulação capitalista – a fim de caracterizar a modulação de atividade operada pelo AdM. Nosso trabalho é um estudo qualitativo de patentes amparado em um instrumental teórico-metodológico da “teoria ator-rede” (Latour) e em um programa de pesquisa interessado nos “processos tecnicamente mediados de associação” (Ferreira). Nossa caracterização propõem entender o AdM como a operação simultânea de três processos: captura, imaginação e modulação. A captura descreve a criação e extração de dados que é feito de modo ativo e unilateral, abstraindo e quantificando informações digitais heterogêneas em dados, bases de dados, e parâmetros numéricos que codificam o funcionamento do AdM. A imaginação denota como o AdM funciona criando uma imagem de mundo a partir dos dados capturados que é representação, tanto quanto potencial de ação retroativa sobre o sistema de computação. O terceiro e último processo é a modulação propriamente dita, em que a imagem criada se atualiza na forma de predições comportamentais, classificações estereotipadas e controle de fluxos informacionais que moldam continuamente a atividade da usuária.
Como conclusão mais geral, propomos também o termo “mediação algorítmica” como conceito explicativo da agência de algoritmos. Em contraste com outras propostas que, por exemplo, atribuem a algoritmos algum nível de agência por meio da constatação de que eles possuem vieses; propomos considerar que todos os algoritmos agem socialmente, na medida em que, dentro de um sistema de computação, eles são os mediadores da informação digital. Desse modo, concluímos apresentando mediações algorítmicas particulares ao AdM – estereotipia, reprodução do passado e racismo e sexismo algorítmico – e apontando para a necessidade de refletirmos, para além da ideia de desenviesamento, sobre a possibilidade de criação de mediações algorítmicas alternativas, que contestem a tecnologia dominante, em favor de um mundo mais diverso e politicamente responsável.
O LaSPA é sediado no Instituto de Filosofia e Ciências Humanas (