Para aqueles que são familiarizados com distopias na literatura, tanto clássica quanto contemporânea, a discussão sobre como autoritarismo e tecnologia andam lado a lado não é distante. Para exemplificar essa questão e clarear a reflexão inicial deste texto, podemos pensar em uma obra amplamente conhecida e debatida: Fahrenheit 451, de Ray Bradbury. A ideia não é me alongar nessa história, mas acho importante partirmos de um diálogo do livro para tratar de outro assunto bastante pertinente:
— Eu só estava imaginando: o que o Sabujo pensa à noite lá embaixo? […]
— Ele não pensa em nada que não queiramos que ele pense.
— Isso é triste, porque tudo o que introduzimos nele é caçar, localizar e matar.
(Fahrenheit 451, de Ray Bradury. Tradução por Cid Knipel)
O trecho acima é um diálogo entre dois importantes personagens: Montag, o protagonista, e Capitão Beatty, seu chefe e comandante do quartel de bombeiros. Sabujo representa aqui a ameaça tecnológica mencionada no primeiro parágrafo, já que se trata de um cão de caça mecânico treinado para matar transgressores, os chamados livre-pensadores. A máquina é criada única e exclusivamente para farejar os inimigos dos governantes, programada para matá-los em larga escala – e também chama a atenção o fato de que Sabujo é constantemente descrito como desprovido de sentimentos. Mas certamente o pior desse diálogo e contexto é imaginar que se utilizou a tecnologia para dar vida a uma máquina que, a partir de qualquer rastro, é capaz de gerar danos inimagináveis à população.
Quando Sabujo é criado com tal intenção, a tecnologia deixa de ser neutra e se torna uma ferramenta de imposição de visões de mundo, servindo como instrumento de poder e dominação – sobretudo porque o cão só caçaria, supostamente, os opositores. Saindo do campo da literatura e analisando atentamente o nosso cotidiano, observamos que nossa realidade não está muito distante desse tipo de controle, ainda que em proporções diferentes. Tendo plena consciência de que a tecnologia já possui certo grau de poder sobre nós e atingimos um patamar em que nos tornamos dependentes dela, podemos passar para um próximo ponto de análise. Afinal, quem controla os passos e rumos dessa tecnologia tão presente em nossa rotina?
Os detentores desse grande poder são as Big Techs, empresas gigantes cuja regulação se faz mais do que necessária. Se você não está familiarizado com o assunto, exemplifico e discuto abaixo uma situação bastante recente que escancara a urgência dessas regulações.
Após ser eleito, Donald Trump definiu algumas prioridades para o início de seu governo, e estabelecer um atrito ainda maior com o México foi uma delas. Em seu discurso de posse, o então presidente dos Estados Unidos mencionou que o Golfo do México não mais teria esse nome: sob seu comando, o local passaria a ser chamado de Golfo da América.
Diante dessas declarações polêmicas e absurdas, as principais plataformas de geolocalização do mundo, controladas por Big Techs, alteraram seus mapas repentinamente, legitimando um dos lados de um conflito político. O mapa é, vale lembrar, a forma como a sociedade enxerga a realidade. Sendo assim, vale o questionamento: é seguro deixar as definições do nosso mundo nas mãos de empresas bilionárias, com interesses políticos e econômicos que não nos beneficiam?
Mas, afinal, agora que estamos há anos inseridos nessa dinâmica em que apenas um dos lados conhece a verdade, como escapar desse controle que a literatura há tanto tempo denuncia? Como regular empresas que nos controlam e nos conhecem tão bem, se nós não as conhecemos na mesma medida?
A maneira como as plataformas e seus algoritmos funcionam internamente são como o lado escuro da lua: sabe-se que ele existe, mas não é possível enxergá-lo.
É preciso regular o Irregulável mundo novo
Para destrinchar esse assunto e compreender a fundo a questão da regulação das Big Techs e as consequências devastadoras da falta dela, Irregulável mundo novo – A regulação das Big Techs na infosfera, de Pietra Vaz Diógenes da Silva, certamente será uma leitura bastante esclarecedora. Fruto da dissertação de mestrado da autora, o livro descomplica a filosofia e o direito ao mesmo tempo que explora os desafios da regulação das Big Techs. Afinal, quais caminhos precisam ser percorridos para que o ser humano conquiste sua autonomia digital?
Apesar do teor acadêmico, Irregulável mundo novo coloca-se muito distante de uma linguagem pedante e difícil de compreender. Ainda que recorra a termos técnicos e específicos da área, a autora consegue delinear os raciocínios de forma didática e acessível, permitindo que até mesmo os leitores leigos no assunto, como eu, compreendam com clareza as suas colocações.
As pessoas passaram a ser constantemente vigiadas pelos dispositivos tecnológicos que as cercam, e dos quais se tornaram dependentes. Dessa relação, baseada no tratamento de dados e da personalização, surge o controle e a predição de comportamentos, muito valiosas para as Big Techs. Há sempre uma motivação oculta por trás de estímulos e conteúdos, como a consolidação de um posicionamento político ou o incentivo para o consume de algo.
As leitoras e os leitores entrarão em contato com três grandes capítulos (“Plataformização da vida”, “Ajustando as lentes da teoria da legislação” e “O direito refém das grandes plataformas”), nos quais encontrarão discussões sobre o papel das Big Techs, além de uma reflexão sobre a digitalização de nossas vidas. Ao se aproximar da conclusão do estudo, a autora também busca explorar os caminhos que a legislação deve percorrer para alcançar a regulação necessária.
Façamos a tecnologia à nossa imagem, conforme a nossa semelhança
Durante a leitura, um assunto em específico saltou aos meus olhos, e eu não poderia deixar de mencioná-lo. Ao discutir a moderação de conteúdos ofensivos e violentos nas redes sociais, a autora passa a questionar se essa filtragem das denúncias seria mais precisa e produtiva caso fosse executada por uma inteligência artificial. Para essa questão levantada, de pronto temos uma resposta: “Apesar dos problemas da moderação de conteúdo feita por pessoas, automatizar o processo não seria uma solução satisfatória. Um dos principais motivos para isso consiste no racismo algorítmico, que é a reprodução de atos discriminatórios e opressivos com base na raça por parte de sistemas de inteligência artificial.”
Partindo dessa colocação, Pietra Vaz elenca de quais maneiras esse racismo, tão característico do seu criador, se escancara na internet e na tecnologia. Um exemplo mencionado é o de que a busca por black girls no Google Imagens traz ao usuário, sobretudo, fotos de mulheres negras hipersexualizadas, o que reforça os estereótipos racistas propagados há muitos anos. Outro exemplo gritante, também listado pela autora, diz respeito à forma como cabelos crespos ou turbantes foram rotulados como perucas por dispositivos como o Google Cloud Vision, mais uma vez remetendo a rótulos preconceituosos.
Sendo também alguém muito conectada com a tecnologia e a internet de modo geral, sinto que a leitura de Irregulável mundo novo se faz necessária para que entendamos o que está por trás das redes e plataformas que usamos diariamente, às quais concordamos com os termos sem ao menos lê-los. O contato com e o estudo de livros como o de Pietra Vaz nos possibilita saber o que está ao nosso redor, impedindo que percamos nosso senso crítico e fiquemos alheios às condições a que estamos submetidos.
Adquira Irregulável mundo novo através das redes sociais da autora – confira aqui!
Sobre a autora
Pietra Vaz Diógenes da Silva é mestra em Direito na Universidade Federal de Minas Gerais (UFMG), com bolsa CAPES, na área Comunicação, Produção Normativa e Multimedialidade. Bacharel em Direito pela UFMG, com Formação Transversal em Direitos Humanos. Pesquisadora do Observatório para a Qualidade da Lei.
