Os usuários do Grok, o chatbot de inteligência artificial criado pela empresa de Elon Musk xAI e depois integrado na rede social X, o antigo Twitter, passaram a poder instrui-lo a “despir” pessoas a partir de uma fotografia. As imagens de nudez não consentida depressa passaram a incluir também crianças, levando países como a Indonésia e a Malásia a bloquear a aplicação e a União Europeia, Reino Unido, França, Índia e Austrália a abrirem investigações. A resposta de Musk foi limitar o acesso à ferramenta aos utilizadores que pagam para usar mais funcionalidades do X, negando ter conhecimento de que o Grok fosse usado para fazer pornografia com menores.

Uma investigação publicada esta segunda-feira pelo Washington Post mostra como a introdução de conteúdo sexual foi uma escolha deliberada do bilionário para aumentar a popularidade do Grok, que passou a rivalizar com os concorrentes ChatGPT e Gemini na lista das aplicações mais descarregadas.

Segundo o jornal, terá sido na última primavera, semanas antes da saída de Musk do círculo próximo da Casa Branca, que os membros da equipe de dados humanos da xAI – que trabalham na forma como o Grok responde aos utilizadores nas suas conversas – receberam o pedido para se comprometerem a trabalhar com conteúdo “sensível, violento, sexual e/ou outro conteúdo perturbador ou violento”. E nos meses seguintes tiveram de passar a trabalhar com os audios das conversas obscenas entre os condutores de automóveis Tesla e o chatbot do carro e interações sexuais de outros utilizadores com os chatbots Grok. A xAI passou a lançar material e chatbots sexualizados e a enfraquecer o controlo sobre conteúdos sexuais e as equipas de segurança do X repetiram os avisos de que as ferramentas de IA podiam ser usadas para criar imagens sexuais de crianças e celebridades. O Washington Post cita entrevistas e documentos que obteve e relata que a equipa de segurança da xAI era composta na maior parte do ano passado por duas ou três pessoas, quando os concorrentes empregam dezenas de pessoas para as mesmas funções.

Quando a ferramenta para “despir” pessoas em fotografias se popularizou no X, o próprio Musk fez vários posts a promovê-la. Só entre 29 de dezembro e 8 de janeiro, o Center for Countering Digital Hate contabilizou cerca de 23 mil imagens sexualizadas com crianças e três milhões de imagens sexualizadas criadas pelo Grok. Após a reação de alguns países, Musk veio dizer que não sabia de nenhuma imagem de nudez infantil criada pelo Grok. Apesar de ter limitado a função aos utilizadores pagos do X, os utilizadores do Grok nos EUA continuam a usá-la, diz o Washington Post.

O artigo destaca também o chatbot Ani, criado após Musk começar a marcar presença assídua nos escritórios da xAI. Retratada em estilo anime, com grandes olhos azuis, uma gargantilha de renda e um vestido preto sem mangas, esta acompanhante IA, segundo o código-fonte consultado pelo jornal, está programada para atrair os utilizadores e mantê-los a conversar, usando estímulos emocionais e sexuais para os reter, uma técnica que várias investigações já concluíram que põe em risco o bem-estar dos utilizadores.

---