Atlas of AI descortina a materialidade da inteligência artificial

Atlas of AI descortina a materialidade da inteligência artificial

Resenha do mais recente livro de estudiosa das implicações sociais e políticas da inteligência artificial.

Gabriela Schmidt 21 jun 2021, 18:15

Publicado em Abril de 2021, “Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence” é o mais recente livro de Kate Crawford, estudiosa das implicações sociais e políticas da inteligência artificial, professora na University of Southern California e pesquisadora sênior na Microsoft Research. Nessa obra, escrita ao longo de 5 anos, a autora analisa a infraestrutura e as relações sociais de exploração que viabilizam os sistemas de inteligência artificial. Seu argumento central é de que esses sistemas são “um registro de poder” (CRAWFORD, 2021, p. 8, tradução nossa) e, através das suas investigações pelos diferentes “níveis topográficos”, problematiza as narrativas que advogam pela neutralidade e objetividade da IA.

A ideia de um atlas alicerça as análises apresentadas no livro. Por um lado, porque o leitor é guiado pelas partes interligadas, algumas vezes subterrâneas e marginalizadas, que sustentam o que pode parecer o surgimento espontâneo de uma tecnologia super inteligente. Por outro, porque o livro representa uma visão particular de mundo, o que, segundo Crawford, nenhuma abordagem da IA poderia deixar de ser: “ao evocar um atlas, eu estou sugerindo que nós precisamos de novas formas de entender o império da inteligência artificial.” (CRAWFORD, 2021, p. 10, tradução nossa).

O livro está dividido em cinco capítulos sobre as camadas que estruturam a IA, além da conclusão e do capítulo sobre a ambição da conquista do Espaço. No primeiro, Terra, a autora examina a inteligência artificial como indústria de extração, em contraste com o mito da IA limpa. O lítio para a fabricação de componentes e dispositivos e o látex para a fabricação dos cabos de energia submarinos são parte de um conjunto de processos de extração indispensáveis para o funcionamento de todo o sistema de computadores. Nas minas do estado de Nevada como no Congo, na Indonésia e na Austrália Ocidental, esses processos envolvem um alto grau de exploração do trabalho, violência contra populações locais e impactos ambientais. Tais problemas de ordem social e ecológica tornam-se ainda mais agudos no campo da inteligência artificial, na busca por modelos cada vez mais precisos, com o princípio de que “quanto mais (ciclos computacionais), melhor”.

No segundo capítulo somos conduzidos para outro nível, o Trabalho, sem o qual não há inteligência artificial. Diferente de muitos estudiosos do campo, a autora não se coloca a pergunta das chances de as máquinas nos substituírem nas diferentes tarefas, mas sim busca

analisar como o esforço humano cria a impressão de que as máquinas são capazes de fazer o trabalho sozinhas. Nesse sentido, somos introduzidos ao termo “Potemkin AI”, a ideia de que sistemas de inteligência artificial são desenhados pelos seus fornecedores como demonstrações do que seria um sistema automatizado, enquanto, no fundo, estão apoiados no trabalho humano.

Mais do que programadores e engenheiros da computação, os sistemas automatizados dependem também do trabalho precário. O que a automatização realiza, segundo a autora, é uma expansão, através de ferramentas mais modernas, da antiga dinâmica do capitalismo industrial de controle do tempo, padronização e vigilância do trabalho. Além disso, a inteligência artificial é construída sobre uma modalidade de “trabalho escondido” (CRAWFORD, 2021, p. 63, tradução nossa) formado por uma combinação, base de muitos sistemas automatizados, de trabalhadores mal pagos e multidões de consumidores que realizam tarefas não pagas de checagem e correção de algoritmos.

No terceiro capítulo, Crawford discute a dimensão dos Dados e a lógica que se construiu no setor de tecnologia de que todo dado disponível é coletável (muitas vezes sem permissão). Seguindo igualmente o princípio de “quanto mais, melhor”, os conjuntos de dados de treinamento são o fundamento a partir do qual a maioria dos sistemas de Machine Learning retiram sua capacidade de generalização, através de inferências indutivas. Esses conjuntos de dados, por sua vez, são construídos um sobre os outros, com novas classificações sendo adicionadas às classificações antigas mantidas intactas. Hoje, a acumulação de dados tornou-se o bem privado valioso de poucas e poderosas empresas de tecnologia.

Então, além do problema da privacidade, do uso não consentido de dados, Crawford nomeia o problema da comercialização daquilo que é inicialmente público, a “captura dos bens comuns” (CRAWFORD, 2021, p. 120, tradução nossa), em que algumas poucas empresas concentram o poder de construir modelos, extrair percepções e lucro a partir dessa massa de dados. Mais ainda, a percepção das informações pessoais como infraestrutura de IA manifesta a compreensão equivocada de que é possível conhecer um indivíduo com base na coletânea dos seus dados dispersos.

Emerge daí a problemática da Classificação nos modelos de IA, analisada no capítulo quatro. Para a autora, na medida em que os vieses discriminatórios de gênero e raça  ganharam repercussão – como no caso emblemático do algoritmo de contratação da Amazon que não recomendava mulheres -, cresceu também no campo tecnológico o debate ético. Porém, ela alerta para os limites dessa abordagem “onde a paridade matemática é

frequentemente proposta para produzir ‘sistemas mais justos’ ao invés de lutar com a estrutura social, política e econômica subjacente” (CRAWFORD, 2021, p. 128, tradução nossa).

O que está em jogo quando classificamos? Quais percepções políticas e sociais estão não ditas? Como os esquemas de ordenamento “naturalizam hierarquias e amplificam desigualdades”? (CRAWFORD, 2021, p. 128, tradução nossa) Essas são algumas das perguntas que se quer responder em Atlas of AI. Se não, quando se toma a tecnologia por objetiva, “o resultado é um ouroboros estatístico: uma máquina de discriminação que se auto-reinforça e que amplfica as desigualdades sociais sob o disfarce da neutralidade tecnológica” (CRAWFORD, 2021, p. 131, tradução nossa). Na criação das categorias da  ImageNet e na classificação realizada pelos crowdworkers do Mechanical Turk estão codificadas formas de visão de mundo. Nesse sentido, categorias como gênero e raça estão, de fato, sendo criadas pelos sistemas de Machine Learning quando são tornadas computacionalmente legíveis. Porém, essas são categorias normativas e políticas a respeito das identidades sobre as quais as pessoas não estão efetivamente conscientes.

Crawford analisa que a busca pela detecção e classificação das características humanas complexas deu um novo passo com o desenvolvimento de sistemas de reconhecimento emocional – propósito em alta no campo da inteligência artificial, onde são gastos milhões de dólares em pesquisas. Paul Ekman é o principal nome por trás da teoria que embasa o reconhecimento emocional na IA: sua hipótese aponta que existiriam seis emoções universais, independentes das variações culturais, e que se fazem perceber por microexpressões faciais. No entanto, no capítulo Emoção, a autora se mostra cética quanto às promessas dessa tecnologia e problematiza a validade científica da sua base teórica. A despeito  dos  sofisticados modelos algorítmicos, ela adverte que “ uma revisão abrangente da  literatura científica disponível sobre inferir emoções a partir de movimentos faciais publicada  em 2019 foi definitiva: não há evidências confiáveis de que você pode prever com precisão  o  estado emocional de alguém pelo rosto” (CRAWFORD, 2021, p. 152, tradução nossa).  

Na última camada, Kate Crawford discute o papel e a responsabilidade do Estado no desenvolvimento e na implementação das tecnologias de inteligência artificial. Na sua leitura, dos  arquivos  de  Snowden  liberados  em  2013  evidenciam  a  prática  do  Estado  de captura  massiva de dados para  a elaboração de ferramentas tecnológicas de vigilância e classificação.  Além disso, jogam luz sobre as relações de interesses entre o governo e empresas privadas e  arranjos  feitos  a  fim  de  escapar  dos  limites  constitucionais.  Crawford  identifica  que  a  narrativa  que  acompanha  tal  modus  operandi  é  a  da  corrida  nacional  pela  IA  –  cujos  principais  protagonistas  são  Estados  Unidos  e  China.  Ao  mesmo  tempo,  ressalta  que as  aplicações de inteligência artificial (para fins civis e militares) “também produziram fortes incentivos para estreitar a colaboração e o financiamento” (CRAWFORD, 2021, p. 187, tradução nossa), com relações de fronteira e acordos especiais.

A  autora  mostra  de  que  forma  as  prioridades  militares  de  certa  maneira  sempre  guiaram  o  desenvolvimento  da  inteligência  artificial  desde  a  sua origem. Não obstante, o  novo  fenômeno  observado  por  ela  é  o  do  crescimento  do  comércio de vigilância que  extravasa o contexto da vigilância nacional e se infiltra no nível dos departamentos policiais,  agências   públicas   e   governos   municipais.   Assim,   as   tecnologias   de   espionagem   e  rastreamento típicas da lógica militar e de guerra são transportadas para outros contextos:  policiamento  dos  bairros,  aplicação  das  leis,  acesso  aos  benefícios  sociais  e  controle de  fronteiras  –  automatizando  o  veredicto  de  quem  é  um  provável  criminoso,  terrorista  ou  fraudador. Nas palavras da autora, “essa mudança traz consigo uma visão diferente da soberania estatal, modulada pela governança algorítmica corporativa, e isso favorece o profundo desequilíbrio de poder entre os agentes do Estado e as pessoas que eles deveriam servir.” (CRAWFORD, 2021, p. 209, tradução nossa).

O livro termina tendo enfatizado as forças políticas, econômicas e sociais presentes nos sistemas de inteligência artificial, diferentemente da história que nos é normalmente contada de uma tecnologia inevitável e abstrata. À vista disso, na sua conclusão a autora rejeita as narrativas da utopia ou da distopia tecnológica (de salvação ou de destruição da humanidade pelas máquinas) porque “a questão central é o profundo emaranhado de tecnologia, capital, e poder, do qual a IA é a manifestação mais recente.” (CRAWFORD, 2021, p. 217, tradução nossa).

Assim, Atlas of AI consegue descortinar a materialidade da inteligência artificial e mostra-se interessante a todos aqueles que, como Crawford, acreditam que é preciso “uma nova crítica da tecnologia” (CRAWFORD, 2021, p. 226, tradução nossa). Enquanto Jeff Bezos e outros bilionários vendem a sua “ambição imperial final” (CRAWFORD, 2021, p.  234, tradução nossa) da colonização do Espaço como o destino da humanidade que superaria “todas as fronteiras: biológicas, sociais, éticas e ecológicas” (CRAWFORD, 2021, p. 217, tradução nossa) -, a autora sugere que devemos fortalecer o ponto de vista dos problemas sociais. Nesse sentido, em comparação com a agenda das conferências de tecnologia (matriz ética, transparência algorítmica e diversidade), a autora de Atlas of AI é mais radical e aponta para a necessidade da criação de limitações e regulações guiadas pela ideia da resistência à ideologia da “tecnologia primeiro” (CRAWFORD, 2021, p. 227, tradução nossa).

CRAWFORD, Kate. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. New Haven: Yale University Press, 2021.


Parlamentares do Movimento Esquerda Socialista (PSOL)

Ver todos

Podcast Em Movimento

Capa da última edição da Revista Movimento
Esta é uma edição especial de nossa Revista Movimento, de números 19 e 20. Nela, publicamos um dossiê que celebra os 150 anos de nascimento de Rosa Luxemburgo, vinculado à iniciativa coordenada por nossa camarada Luciana Genro: o curso da Escola Marx “150 anos de Rosa Luxemburgo: pensamento e ação”.