Elon Musk lançou um novo brinquedo digital que está dando o que falar. Trata-se de Grok, uma ferramenta de inteligência artificial (IA) que permite aos usuários criar imagens geradas a partir de simples descrições de texto e compartilhá-las no X (anteriormente Twitter).
E embora a novidade seja notável, a ferramenta não demorou a desencadear uma avalanche de imagens manipuladas que têm preocupado muitos.
Clique aqui para receber as notícias de ciência e tecnologia pelo WhatsApp
Que tipo de imagens o Grok pode criar?
Desde a sua estreia, Grok tem sido usada para produzir imagens surpreendentemente realistas - mas completamente falsas - de figuras políticas como o ex-presidente dos Estados Unidos, Donald Trump, a vice-presidente Kamala Harris e até mesmo do próprio Musk.
Algumas dessas imagens mostraram essas figuras em situações perturbadoras e inapropriadas, como participando dos ataques de 11 de setembro, algo que claramente não é real.
Também foram vistas imagens inofensivas, como Musk desfrutando de um bife em um parque. No entanto, os usuários de X não demoraram a publicar criações perturbadoras, como personagens de desenhos animados em cenas de violência ou imagens sexualizadas.
De acordo com os analistas, essa capacidade do Grok de gerar imagens que parecem autênticas, mas que, fora de contexto, podem ser enganosas, pode ser perigosa.
Grok e os deep fakes
A chegada de Grok reacendeu o debate sobre o uso da inteligência artificial para disseminar informações falsas. Legisladores e especialistas expressaram sua preocupação com o impacto que ferramentas como essa poderiam ter, especialmente em relação às próximas eleições presidenciais dos Estados Unidos.
E é que, ao contrário de outros desenvolvedores de IA que implementaram medidas para evitar a geração de conteúdo político enganoso, o Grok demonstrou ter poucas restrições.
As imagens de políticos realizando atos violentos ou associados a símbolos de ódio têm sido uma das principais preocupações. Embora a xAI tenha adicionado algumas limitações para restringir esses conteúdos, os usuários têm encontrado maneiras de evitá-las.
O próprio Musk mostrou-se entusiasmado com a liberdade que o Grok oferece, celebrando-o como "a IA mais divertida do mundo".
Não está de acordo com as diretrizes de X
Esta "liberdade" oferecida pelo Grok não está alinhada com a política da X contra o conteúdo manipulado que poderia enganar ou confundir as pessoas, embora a sua implementação ainda seja incerta.
Vamos lembrar que Musk foi criticado anteriormente por espalhar declarações falsas relacionadas às eleições e, recentemente, também enfrentou críticas por uma conversa ao vivo com Trump na qual não questionou várias declarações incorretas do ex-presidente.