Atlas of AI descortina a materialidade da inteligência artificial
Resenha do mais recente livro de estudiosa das implicações sociais e políticas da inteligência artificial.
Publicado em Abril de 2021, “Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence” é o mais recente livro de Kate Crawford, estudiosa das implicações sociais e políticas da inteligência artificial, professora na University of Southern California e pesquisadora sênior na Microsoft Research. Nessa obra, escrita ao longo de 5 anos, a autora analisa a infraestrutura e as relações sociais de exploração que viabilizam os sistemas de inteligência artificial. Seu argumento central é de que esses sistemas são “um registro de poder” (CRAWFORD, 2021, p. 8, tradução nossa) e, através das suas investigações pelos diferentes “níveis topográficos”, problematiza as narrativas que advogam pela neutralidade e objetividade da IA.
A ideia de um atlas alicerça as análises apresentadas no livro. Por um lado, porque o leitor é guiado pelas partes interligadas, algumas vezes subterrâneas e marginalizadas, que sustentam o que pode parecer o surgimento espontâneo de uma tecnologia super inteligente. Por outro, porque o livro representa uma visão particular de mundo, o que, segundo Crawford, nenhuma abordagem da IA poderia deixar de ser: “ao evocar um atlas, eu estou sugerindo que nós precisamos de novas formas de entender o império da inteligência artificial.” (CRAWFORD, 2021, p. 10, tradução nossa).
O livro está dividido em cinco capítulos sobre as camadas que estruturam a IA, além da conclusão e do capítulo sobre a ambição da conquista do Espaço. No primeiro, Terra, a autora examina a inteligência artificial como indústria de extração, em contraste com o mito da IA limpa. O lítio para a fabricação de componentes e dispositivos e o látex para a fabricação dos cabos de energia submarinos são parte de um conjunto de processos de extração indispensáveis para o funcionamento de todo o sistema de computadores. Nas minas do estado de Nevada como no Congo, na Indonésia e na Austrália Ocidental, esses processos envolvem um alto grau de exploração do trabalho, violência contra populações locais e impactos ambientais. Tais problemas de ordem social e ecológica tornam-se ainda mais agudos no campo da inteligência artificial, na busca por modelos cada vez mais precisos, com o princípio de que “quanto mais (ciclos computacionais), melhor”.
No segundo capítulo somos conduzidos para outro nível, o Trabalho, sem o qual não há inteligência artificial. Diferente de muitos estudiosos do campo, a autora não se coloca a pergunta das chances de as máquinas nos substituírem nas diferentes tarefas, mas sim busca
analisar como o esforço humano cria a impressão de que as máquinas são capazes de fazer o trabalho sozinhas. Nesse sentido, somos introduzidos ao termo “Potemkin AI”, a ideia de que sistemas de inteligência artificial são desenhados pelos seus fornecedores como demonstrações do que seria um sistema automatizado, enquanto, no fundo, estão apoiados no trabalho humano.
Mais do que programadores e engenheiros da computação, os sistemas automatizados dependem também do trabalho precário. O que a automatização realiza, segundo a autora, é uma expansão, através de ferramentas mais modernas, da antiga dinâmica do capitalismo industrial de controle do tempo, padronização e vigilância do trabalho. Além disso, a inteligência artificial é construída sobre uma modalidade de “trabalho escondido” (CRAWFORD, 2021, p. 63, tradução nossa) formado por uma combinação, base de muitos sistemas automatizados, de trabalhadores mal pagos e multidões de consumidores que realizam tarefas não pagas de checagem e correção de algoritmos.
No terceiro capítulo, Crawford discute a dimensão dos Dados e a lógica que se construiu no setor de tecnologia de que todo dado disponível é coletável (muitas vezes sem permissão). Seguindo igualmente o princípio de “quanto mais, melhor”, os conjuntos de dados de treinamento são o fundamento a partir do qual a maioria dos sistemas de Machine Learning retiram sua capacidade de generalização, através de inferências indutivas. Esses conjuntos de dados, por sua vez, são construídos um sobre os outros, com novas classificações sendo adicionadas às classificações antigas mantidas intactas. Hoje, a acumulação de dados tornou-se o bem privado valioso de poucas e poderosas empresas de tecnologia.
Então, além do problema da privacidade, do uso não consentido de dados, Crawford nomeia o problema da comercialização daquilo que é inicialmente público, a “captura dos bens comuns” (CRAWFORD, 2021, p. 120, tradução nossa), em que algumas poucas empresas concentram o poder de construir modelos, extrair percepções e lucro a partir dessa massa de dados. Mais ainda, a percepção das informações pessoais como infraestrutura de IA manifesta a compreensão equivocada de que é possível conhecer um indivíduo com base na coletânea dos seus dados dispersos.
Emerge daí a problemática da Classificação nos modelos de IA, analisada no capítulo quatro. Para a autora, na medida em que os vieses discriminatórios de gênero e raça ganharam repercussão – como no caso emblemático do algoritmo de contratação da Amazon que não recomendava mulheres -, cresceu também no campo tecnológico o debate ético. Porém, ela alerta para os limites dessa abordagem “onde a paridade matemática é
frequentemente proposta para produzir ‘sistemas mais justos’ ao invés de lutar com a estrutura social, política e econômica subjacente” (CRAWFORD, 2021, p. 128, tradução nossa).
O que está em jogo quando classificamos? Quais percepções políticas e sociais estão não ditas? Como os esquemas de ordenamento “naturalizam hierarquias e amplificam desigualdades”? (CRAWFORD, 2021, p. 128, tradução nossa) Essas são algumas das perguntas que se quer responder em Atlas of AI. Se não, quando se toma a tecnologia por objetiva, “o resultado é um ouroboros estatístico: uma máquina de discriminação que se auto-reinforça e que amplfica as desigualdades sociais sob o disfarce da neutralidade tecnológica” (CRAWFORD, 2021, p. 131, tradução nossa). Na criação das categorias da ImageNet e na classificação realizada pelos crowdworkers do Mechanical Turk estão codificadas formas de visão de mundo. Nesse sentido, categorias como gênero e raça estão, de fato, sendo criadas pelos sistemas de Machine Learning quando são tornadas computacionalmente legíveis. Porém, essas são categorias normativas e políticas a respeito das identidades sobre as quais as pessoas não estão efetivamente conscientes.
Crawford analisa que a busca pela detecção e classificação das características humanas complexas deu um novo passo com o desenvolvimento de sistemas de reconhecimento emocional – propósito em alta no campo da inteligência artificial, onde são gastos milhões de dólares em pesquisas. Paul Ekman é o principal nome por trás da teoria que embasa o reconhecimento emocional na IA: sua hipótese aponta que existiriam seis emoções universais, independentes das variações culturais, e que se fazem perceber por microexpressões faciais. No entanto, no capítulo Emoção, a autora se mostra cética quanto às promessas dessa tecnologia e problematiza a validade científica da sua base teórica. A despeito dos sofisticados modelos algorítmicos, ela adverte que “ uma revisão abrangente da literatura científica disponível sobre inferir emoções a partir de movimentos faciais publicada em 2019 foi definitiva: não há evidências confiáveis de que você pode prever com precisão o estado emocional de alguém pelo rosto” (CRAWFORD, 2021, p. 152, tradução nossa).
Na última camada, Kate Crawford discute o papel e a responsabilidade do Estado no desenvolvimento e na implementação das tecnologias de inteligência artificial. Na sua leitura, dos arquivos de Snowden liberados em 2013 evidenciam a prática do Estado de captura massiva de dados para a elaboração de ferramentas tecnológicas de vigilância e classificação. Além disso, jogam luz sobre as relações de interesses entre o governo e empresas privadas e arranjos feitos a fim de escapar dos limites constitucionais. Crawford identifica que a narrativa que acompanha tal modus operandi é a da corrida nacional pela IA – cujos principais protagonistas são Estados Unidos e China. Ao mesmo tempo, ressalta que as aplicações de inteligência artificial (para fins civis e militares) “também produziram fortes incentivos para estreitar a colaboração e o financiamento” (CRAWFORD, 2021, p. 187, tradução nossa), com relações de fronteira e acordos especiais.
A autora mostra de que forma as prioridades militares de certa maneira sempre guiaram o desenvolvimento da inteligência artificial desde a sua origem. Não obstante, o novo fenômeno observado por ela é o do crescimento do comércio de vigilância que extravasa o contexto da vigilância nacional e se infiltra no nível dos departamentos policiais, agências públicas e governos municipais. Assim, as tecnologias de espionagem e rastreamento típicas da lógica militar e de guerra são transportadas para outros contextos: policiamento dos bairros, aplicação das leis, acesso aos benefícios sociais e controle de fronteiras – automatizando o veredicto de quem é um provável criminoso, terrorista ou fraudador. Nas palavras da autora, “essa mudança traz consigo uma visão diferente da soberania estatal, modulada pela governança algorítmica corporativa, e isso favorece o profundo desequilíbrio de poder entre os agentes do Estado e as pessoas que eles deveriam servir.” (CRAWFORD, 2021, p. 209, tradução nossa).
O livro termina tendo enfatizado as forças políticas, econômicas e sociais presentes nos sistemas de inteligência artificial, diferentemente da história que nos é normalmente contada de uma tecnologia inevitável e abstrata. À vista disso, na sua conclusão a autora rejeita as narrativas da utopia ou da distopia tecnológica (de salvação ou de destruição da humanidade pelas máquinas) porque “a questão central é o profundo emaranhado de tecnologia, capital, e poder, do qual a IA é a manifestação mais recente.” (CRAWFORD, 2021, p. 217, tradução nossa).
Assim, Atlas of AI consegue descortinar a materialidade da inteligência artificial e mostra-se interessante a todos aqueles que, como Crawford, acreditam que é preciso “uma nova crítica da tecnologia” (CRAWFORD, 2021, p. 226, tradução nossa). Enquanto Jeff Bezos e outros bilionários vendem a sua “ambição imperial final” (CRAWFORD, 2021, p. 234, tradução nossa) da colonização do Espaço como o destino da humanidade que superaria “todas as fronteiras: biológicas, sociais, éticas e ecológicas” (CRAWFORD, 2021, p. 217, tradução nossa) -, a autora sugere que devemos fortalecer o ponto de vista dos problemas sociais. Nesse sentido, em comparação com a agenda das conferências de tecnologia (matriz ética, transparência algorítmica e diversidade), a autora de Atlas of AI é mais radical e aponta para a necessidade da criação de limitações e regulações guiadas pela ideia da resistência à ideologia da “tecnologia primeiro” (CRAWFORD, 2021, p. 227, tradução nossa).
CRAWFORD, Kate. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. New Haven: Yale University Press, 2021.
