Se o impacto pernicioso das novas tecnologias na política, na democracia e em nossas funções cognitivas faz escândalo hoje, isso se dá principalmente por causa da relação ambígua, até mesmo esquizofrênica, que elas mantêm com seus utilizadores.

Essa relação é movida, às vezes, pela compaixão e pela indiferença, duas lógicas adversas que jogavam antigamente um papel necessário, permitindo às empresas tecnológicas invocar suas boas intenções quando eram acusadas. A coexistência desses dos princípios contraditórios parece cada vez menos defensável, revelando a incoerência de suas visões de conjunto.

A compaixão exibida por elas não é de todo falsa. As gigantes da tecnologia, poderosas como são, dependem muito da publicidade e das vendas, quer dizer, de nossa capacidade de consumir. Portanto, seus interesses são, em certa medida, indexados nesses utilizadores. Sem recursos, esses últimos não poderiam comprar os produtos que são tão alardeados. É por isso que certos magnatas da tecnologia manifestam seu apoio à renda de base universal e tentam resolver os problemas cada vez maiores de proteção social em matéria de educação ou saúde.

O método guarda alguma semelhança com aquele de Henry Ford, que pagava a seus operários maiores salários para que eles pudessem comprar os carros de sua própria marca. Poderíamos estabelecer uma comparação ainda menos lisonjeira com os proprietários de escravos, que tinham que alimentar e cuidar da saúde de sua mão de obra, ao risco de perdê-la por causa de doenças e da exaustão.

Contudo, contrariamente a Henry Ford ou aos proprietários de escravos, os magnatas da tecnologia não querem financiar eles mesmos a renda básica universal, que aparece cada vez mais como sua solução favorita. Um aumento dos impostos poderia contribuir a isso, desde que não à custa de seus próprios lucros – eles precisam desse dinheiro para financiar o turismo no espaço. Quem poderia culpá-los? Toda oligarquia que se preze precisa de uma saída de emergência.

A generosidade do Vale do Silício é, sobretudo, acidental: as poucas vantagens que os utilizadores puderam obter de seus serviços pretensamente baratos, até mesmo gratuitos, são na maioria das vezes temporários, já que seu modelo econômico é largamente financiado pelas sociedades de capital de risco que contam com ele para eliminar a concorrência local e conquistar o mercado mundial.

Quanto à segunda lógica que caracteriza essas empresas, a da indiferença total em relação ao novo excedente da população on line formada por seus utilizadores, decorre da dinâmica de concorrência inerente a esse setor. Se as grandes empresas tecnológicas tendem a monopolizar um nicho em particular (como as redes sociais ou o comércio on line), sua concorrência se situa num nível superior: a dos serviços de informação.

É por isso que muitas dentre elas precisam se engajar em territórios desconhecidos, seguindo as novas tendências, da “informática em nuvens” (do inglês, cloud computing) aos veículos autônomos. Para muitas, como a Amazon com sua panóplia de serviços on line, esses novos setores já geram uma maior margem de lucro que aquela de sua atividade de origem.

O ingrediente misterioso de tal sucesso não é outro senão a inteligência artificial (IA). Esta última é alimentada por dados coletados dos utilizadores de plataformas tecnológicas desenvolvidas pelo Vale do Silício quando ele se endereçava aos consumidores. Agora que ele se desenvolveu, essa capacidade de IA pode servir a interesses muito diferentes, aos do governo ou do setor privado, por exemplo, privando seus antigos queridinhos do benfeitor que subvencionava até aqui seus vídeos de gatinhos.

O Google acaba de lançar uma plataforma de IA destinada às empresas que querem colocar em prática uma infraestrutura de aprendizado automático (machine learning) de modo a construir seus próprios modelos (contra retribuição, certamente). Ele sabe pertinentemente que é ainda rentável buscar simpatia dos utilizadores, fornecendo a eles, por exemplo, ferramentas de IA para encontrar obras de arte que se assemelham ao seu rosto. Assim, esses instrumentos vão se tornando mais precisos e podem em seguida serem vendidos às empresas. Mas por quanto tempo ainda o Google precisará de cobaias?

O progresso da IA torna o Vale do Silício indispensável. É uma coisa as empresas tecnológicas precisarem saber se seus utilizadores podem pagar um par de tênis, ao persegui-los com anúncios em todos os sites. Propor serviços que apenas a IA pode fornecer e que influem nos aspectos essenciais de nossa existência, é outra.

Tomemos como exemplo a luta contra as notícias falsas, os ciberataques, o câncer, o desperdício de energia: a IA, concentrada nas mãos de uma oligarquia, é implantada em todos esses domínios. O mundo sobreviveria sem muito pesar ao desaparecimento dos fornecedores de publicidade e de sites de venda on line, mas hoje ele não pode dispensar soluções que se utilizam da IA para resolver suas numerosas crises.

O Vale do Silício se junta assim a Wall Street na categoria dos setores too big to fail (em português, “muito importantes para desaparecer”), seu enfrentamento, exceto para os políticos centristas, terá também imensas consequências ideológicas. Aliás, nenhuma força política atual saberia como gerir problemas tal como as notícias falsas ou os ciberataques sem a ajuda providencial do Vale do Silício. Nossos dirigentes não estão prontos para adotar a solução mais evidente, que consistiria em procurar as causas do problema, ao invés de atenuar seus efeitos com a ajuda da IA.

O que pensar então do engajamento de Mark Zuckerberg em rever sua plataforma para fazer com que o “o tempo passado no Facebook não seja um tempo perdido”? Os engenheiros do Vale do Silício argumentaram recentemente que eles contribuíam para reforçar o vício dos utilizadores, podemos deduzir a orientação geral que tomará o Facebook 2.0.

Empregando mais uma vez a retórica da compaixão, ele prometerá eliminar seus conteúdos estúpidos utilizando sua potente inteligência artificial para encontrar posts interessantes e agradáveis. E, como sempre, o Facebook nos dirá que quanto mais ele sabe sobre nós, melhores serão suas recomendações.

É esse o nó do problema: neste mundo, os grandes grupos tecnológicos operam serviços de comunicação altamente viciantes de modo a acumular dados sobre nós e afinar suas soluções de IA em todos os lugares, inclusive para responder ao vício que eles mesmos criaram.

A distopia começa de fato quando, sob a pressão da concorrência, os últimos vestígios da lógica da compaixão darão lugar à indiferença: viciados nos conteúdos estúpidos e perdidos num labirinto repleto de memes de procedência duvidosa, nós, o excedente da população on line, teremos que nos virar sozinhos.

Felizmente, para alguns, as empresas tecnológicos venderão serviços de proteção adaptados, baseados na IA. As elites intelectuais irão procurar as curas, o equivalente digital da couve e da quinoa, olhando os sites de artesanatos escondidos aos não iniciados. Todos os outros estarão condenados em se entupir de memes desinteressantes, gerados por máquinas de aprendizado com o único objetivo de nos convencer de comprar a versão de luxo de nossa plataforma favorita para ficarmos tranquilos A vantagem é que o capitalismo digital fornece as soluções aos seus próprios problemas, o inconveniente é que ele o faz segundo os seus próprios termos.

Tradução da Revista Movimento da versão em francês publicada pelo Le Monde Diplomatique.