Publicado em OutrasPalavras

Na noite de sexta-feira, 12 de junho, a Anthropic recebeu uma carta do Departamento de Comércio dos Estados Unidos, assinada pelo secretário Howard Lutnick. Em nome da segurança nacional, o governo determinava a suspensão de todo acesso aos seus dois modelos mais poderosos, o Fable 5 e o Mythos 5, por qualquer estrangeiro, dentro ou fora do país, incluindo os próprios funcionários não americanos da empresa. Para cumprir a ordem, a Anthropic teve de desligar os dois modelos para todos os seus clientes no mundo. O Fable 5 havia sido liberado três dias antes, de graça, a milhões de assinantes. A companhia acabara de protocolar a sua abertura de capital. E o motivo de tudo, segundo a própria empresa, foi uma técnica estreita de driblar as salvaguardas do modelo, que apenas expõe falhas menores e já conhecidas, encontráveis também em modelos concorrentes e abertos.

O momento é impiedoso. Nas últimas semanas, a Anthropic havia publicado três documentos pedindo, entre outras coisas, que o Estado tivesse autoridade legal para bloquear a implantação de modelos perigosos. Poucos dias depois, foi o Estado que bloqueou os modelos dela. O poder de bloqueio que a empresa queria entregar a Washington voltou-se contra quem o ofereceu e a companhia protesta agora invocando exatamente os princípios de transparência, justiça e fundamento técnico que o seu próprio arcabouço prometia e que esta ordem ignora. É difícil imaginar ilustração mais limpa do argumento que esses textos tentavam disfarçar. Convém, então, voltar a eles.

Os três documentos

Há um gesto que se repete sempre que uma tecnologia se torna grande demais para ser ignorada. A empresa que lidera a corrida toma a frente e propõe, ela mesma, as regras do jogo. Sob a marca política para o salto da IA, a Anthropic publicou um texto voltado à segurança, que defende dar aos governos o poder de bloquear modelos de risco catastrófico, mas só para empresas acima de certo porte, e um segundo, sobre o trabalho, que diante da hipótese de a IA substituir a mão de obra humana propõe respostas graduadas por nível de desemprego, até chegar a renda básica e fundos soberanos no cenário extremo.

Semanas antes, num manifesto, pedira que os grandes laboratórios criassem um mecanismo coordenado para pausar o desenvolvimento caso a IA passasse a se aprimorar sozinha rápido demais. A constatação que abre os três é correta, a de que a política regulatória foi feita para um mundo mais lento. O problema é quem se apresenta para corrigi-la. Quando quem cava o fosso para se separar dos concorrentes menores é também o maior proprietário do terreno que ele isola, convém olhar duas vezes onde a vala é aberta e quem fica de cada lado dela.

A recepção crítica aos textos da empresa já vinha se formando antes mesmo da publicação da diretiva. O ex-responsável pelas diretrizes de IA na Casa Branca, David Sacks, classificou a postura da empresa como captura regulatória baseada no fomento do medo e o então cientista-chefe de IA da Meta, Yann LeCun, disse que a estratégia visava regular os modelos abertos até a extinção. Um ensaio descreveu o regime de auditorias como um fosso regulatório que os gigantes absorvem e os pequenos não.

Mas o episódio da sexta-feira parece dar a essas vozes um capítulo novo, que uma análise contundente já chamava de captura estratégica. Não é a empresa que captura o Estado: é o Estado que captura a empresa cuja tecnologia se tornou crítica. Washington obtém por meio de compras públicas, controles de exportação e designações de segurança o que Pequim obtém por lei e propriedade estatal. O resultado é uma convergência funcional com o modelo chinês alcançada por outro caminho.

Convém, porém, não simplificar a história. Uma reconstituição do Politico revela um quadro mais áspero do que a captura “tranquila”. O alarme partiu da Amazon, que é ao mesmo tempo investidora da Anthropic e respondia a um pedido de avaliação do governo, e suas conclusões teriam passado pelo crivo da agência de segurança nacional. Vieram horas de ligações tensas com o alto escalão, e até as versões do desfecho divergem. O governo diz ter implorado que a empresa retirasse o modelo, ao passo que a Anthropic afirma ter recebido um ultimato de 90 minutos sem detalhes da ameaça, justamente o oposto do processo transparente e fundamentado que o seu próprio arcabouço exigia. Até David Sacks, ferrenho adversário da regulação, saiu em defesa do bloqueio e voltou contra a empresa a bandeira da segurança que ela mesma erguia.

O Washington Post foi além e revelou o pano de fundo que a falha apenas encerrou. Semanas antes, a Anthropic entregara ao governo uma lista de 111 organizações que receberiam acesso ao Mythos, e as autoridades a aprovaram. A lista depois cresceu por conta própria, com cerca de 50 entidades recebendo acesso sem constar dela, e a empresa demorou dias para identificar os novos nomes. Entre eles estava uma operadora de telecomunicações sul-coreana que o governo suspeitava de ter laços com a China. A Anthropic revogou o acesso e nega ter retido nomes, mas a confiança já estava arruinada, e o alerta da Amazon foi lido como o último de uma série de descuidos. Convém registrar que a Amazon que deu o alerta é investidora da Anthropic e que o presidente do seu conselho, Jeff Bezos, é dono do jornal que revelou o episódio.

Há, portanto, uma leitura concorrente e legítima, a de que isto foi fiscalização e não captura de mercado. As duas não se excluem, e nenhuma apaga o ponto que interessa a quem está de fora. Seja captura, seja fiscalização, foi um punhado de autoridades e de gigantes reunidos em Washington que decidiu, da noite para o dia, o que o resto do mundo poderia usar. A Anthropic cavou o fosso imaginando barrar concorrentes, sem perceber que a ponte levadiça que separava o fosso do castelo estava nas mãos do Estado, que pode mantê-la baixa para um rival bem relacionado, como a Amazon, ou erguê-la contra a própria empresa que o construiu, como já fizera ao rotulá-la risco à cadeia de suprimentos pelo Pentágono, ainda que seu modelo viesse sendo empregado em operações de guerra.

A proatividade que protege

Desde o ano passado, a empresa construiu a marca de empresa responsável do setor. Mas poucos meses antes afrouxou a própria política de escalonamento responsável, trocando pausas categóricas por uma abordagem flexível. Logo pediu uma pausa coordenada de todos no exato momento em que abandonava a sua própria. Pedir regras duras para todos enquanto se relaxam as suas é a contradição de fundo.

Some-se a isso a forma como a empresa administra o próprio discurso de risco. O Mythos foi retido do público como ofensivo demais e sua contagem de vulnerabilidades virou prova para justificar a regulação que a empresa propõe, ao mesmo tempo em que o projeto Glasswing distribuía o modelo a um conjunto selecionado de organizações de confiança, ao governo dos Estados Unidos, à OTAN e à agência europeia de cibersegurança, no que me parece um cultivo de dependência junto a quem decide as regras. Foi essa mesma lista de acesso que, como vimos, escapou ao controle da empresa. E o mesmo perigo acabou liberado ao público como Fable 5 às vésperas da abertura de capital. O que a empresa não previu é que o governo levaria o discurso do perigo a sério e recolheria o produto. Oficiais da Casa Branca disseram ter ficado perplexos ao ver Amodei, que já comparara os perigos da própria tecnologia a uma bomba nuclear, recusar-se a desligá-la diante de uma falha conhecida. Quem alardeia a ameaça para vender segurança não deveria se espantar quando o Estado decide tratá-la como ameaça de verdade.

A outra metade

Há ainda a outra metade do pacote, a que trata do trabalho, e que peca pela falta de ambição onde mais importa. No cenário de desemprego sem precedentes, a Anthropic admite não ter respostas e adia o financiamento, ao mesmo tempo em que reconhece, sem encarar a conclusão, que deslocar renda do trabalho para o capital encolhe a base fiscal. Encerra o documento com a frase mais reveladora do conjunto, a de que a sociedade dependerá, para se reerguer, inclusive de sistemas de IA cada vez mais capazes. Ou seja, a mesma tecnologia que produz o desemprego é convocada para curá-lo. Ao risco catastrófico, a empresa quer dar ao Estado poder coercitivo desde já. Ao desemprego oferece cenários e voluntariedade e os US$ 350 milhões anunciados financiarão pesquisa sobre políticas, não as políticas. A empresa que mais contribui para o problema se propõe a financiar o estudo da solução, não a solução em si.

Do lado de fora

O ângulo que mais importa é o que esses documentos deixam de fora e que a diretiva de sexta-feira ilumina de uma vez. Um regime de bloqueio concebido e operado a partir de Washington define quem pode rodar quais modelos, sem assento para as jurisdições afetadas. Não é mais hipótese. Quando o corte veio, o primeiro a ser desligado, antes de qualquer cliente estadunidense, foi o estrangeiro, e o critério foi a nacionalidade, não o risco. A comunidade de software livre já apontava a falha, porque um bloqueio centrado em laboratórios estadunidenses não alcança os modelos abertos, mas pode sufocar a alternativa aberta, justamente a via por onde países sem bilhões para investir entram na cadeia.

Que ninguém imagine ser um problema distante. O episódio atingiu também o Reino Unido, cujo ministro de IA reagiu tratando-o como caso de soberania tecnológica e a própria Comissão Europeia o classificou como mais uma ilustração de por que a Europa precisa de soberania tecnológica mais forte. Se até os aliados mais próximos são, para efeitos da carta, estrangeiros a serem cortados, e já leem o episódio como prova de que precisam dos próprios meios, o que dizer do Sul Global? O documento econômico reconhece que toda política de renda dependerá de infraestrutura pública digital, de identidade, pagamentos e intercâmbio de dados, uma base que Brasil e Índia construíram e que boa parte do Sul ainda persegue. Herdar um arcabouço pensado em Washington e Genebra é herdar os parâmetros de outra realidade fiscal e produtiva.

E o alarme não vem só de fora. Dentro dos próprios Estados Unidos, especialistas em cibersegurança, executivos e investidores assinaram uma carta pedindo a reversão da medida, e o ex-chefe de segurança do Facebook, Alex Stamos, classificou a punição como grotescamente desproporcional ao problema. O que eles temem é o mesmo que interessa a quem está de fora, o de que empresas do mundo inteiro passem a se perguntar se vale a pena construir sobre a IA americana sabendo que podem ser deixadas sem nada da noite para o dia.

O risco não está em a Anthropic estar errada, porque em muitos pontos ela está mais lúcida que seus concorrentes, e a forma abrupta como foi tratada pelo próprio governo merece crítica. O risco está em aceitarmos que os termos do debate sejam fixados por quem mais tem a ganhar com o formato deles e em sermos chamados apenas para referendá-los. Pode ser que, desta vez, o dono do fosso tenha agido por uma razão de segurança verdadeira, diante de um descuido real da empresa, e não por puro apetite de controle. Para quem ficou do lado de fora, no entanto, a lição não muda. A diretiva da semana passada mostrou que o fosso tem dono, e que o dono não é a empresa, é o Estado que a hospeda, com a mão na ponte levadiça. Quando ele a ergueu, deixou o estrangeiro do lado de fora e cortou o suprimento do próprio castelo que o fosso deveria proteger. Resta saber se quem ficou na margem de fora vai esperar a próxima vez que a ponte se levante ou se decide, enfim, construir a sua própria governança de IA.

---