A “teoria da Internet morta” faz afirmações assustadoras sobre uma web orientada por IA

Se você pesquisar “Camarão Jesus” no Facebook, poderá ver dezenas de imagens de crustáceos gerados por inteligência artificial (IA) misturados em várias formas com uma imagem estereotipada de Jesus Cristo.

Algumas dessas imagens hiper-realistas receberam mais de 20.000 curtidas e comentários. Então, o que exatamente está acontecendo aqui?

A “teoria da Internet morta” tem uma explicação: o conteúdo gerado pela IA e pelos bots ultrapassou a Internet criada pelo homem. Mas de onde vem essa ideia e ela tem alguma base na realidade?

Qual é a teoria da internet morta?

A teoria da Internet morta postula essencialmente que a atividade e o conteúdo na Internet, incluindo contas de redes sociais, são predominantemente criados e automatizados por agentes de inteligência artificial.

Esses agentes podem criar rapidamente postagens junto com imagens geradas por IA projetadas para gerar engajamento (cliques, curtidas, comentários) em plataformas como Facebook, Instagram e TikTok. Quanto ao Camarão Jesus, a IA parece ter aprendido que esta é a mais recente mistura de absurdo e iconografia religiosa a se tornar viral.

Mas a teoria da Internet morta vai ainda mais longe. Muitas das contas que envolvem esse tipo de conteúdo também parecem ser gerenciadas por agentes de inteligência artificial. Isto cria um círculo vicioso de interacção artificial que não tem uma agenda clara e no qual as pessoas já não estão envolvidas.

Agricultura de engajamento inofensiva ou propaganda sofisticada?

À primeira vista, a motivação destas contas para gerar interesse pode parecer óbvia - o envolvimento nas redes sociais leva a receitas publicitárias. Se uma pessoa criar uma conta que receba engajamento excessivo, ela poderá ganhar uma parte da receita de publicidade de organizações de mídia social como a Meta.

Então, a teoria da Internet morta equivale apenas a uma agricultura de engajamento inofensiva? Ou talvez por baixo da superfície exista um esforço sofisticado e bem financiado para apoiar regimes autocráticos, atacar adversários e espalhar propaganda?

Embora o fenômeno Jesus do Camarão possa parecer inofensivo (embora bizarro), pode haver uma fraude de longo prazo por trás dele.

À medida que o número de seguidores dessas contas baseadas em IA aumenta (muitos deles falsos, alguns reais), a alta contagem de seguidores legitima a conta para usuários reais.

Isso significa que há um exército de contas surgindo por aí. Contas com grande número de seguidores que podem ser usadas por aqueles com o lance mais alto.

Isto é crucial porque as redes sociais são agora a principal fonte de notícias para muitos utilizadores em todo o mundo.

Na Austrália, no ano passado, 46% dos jovens entre 18 e 24 anos disseram que as redes sociais eram a sua principal fonte de notícias. Em 2022 eram apenas 28%. Ao fazê-lo, substituíram os meios de comunicação tradicionais, como a rádio e a televisão.

Desinformação espalhada por bots

Já existem provas claras de que as redes sociais estão a ser manipuladas por estes bots sensacionalistas para influenciar a opinião pública através da desinformação - e têm feito isso há anos.

Em 2018, um estudo analisou 14 milhões de tweets de um período de dez meses entre 2016 e 2017. Descobriu-se que os bots nas redes sociais estavam significativamente envolvidos na divulgação de artigos de fontes não confiáveis.

Contas com muitos seguidores legitimaram a desinformação e a desinformação, levando usuários reais a acreditar, interagir e compartilhar conteúdo postado por bots.

Esta abordagem à manipulação das redes sociais foi observada após os tiroteios em massa nos Estados Unidos. Em 2019, um estudo descobriu que as publicações geradas por bots no X (antigo Twitter) contribuem fortemente para a discussão pública e servem para reforçar ou distorcer potenciais narrativas relacionadas com eventos extremos.

Mais recentemente, várias campanhas de desinformação pró-Rússia em grande escala tiveram como objectivo minar o apoio à Ucrânia e alimentar o sentimento pró-Rússia.

Ativistas e jornalistas descobriram ações coordenadas que usaram bots e inteligência artificial para criar e difundir informações falsas, atingindo milhões de utilizadores das redes sociais.

Sobre

Essa influência é significativa. Alguns relatórios descobriram que quase metade de todo o tráfego da Internet em 2022 veio de bots. Com os recentes avanços na IA generativa – como os modelos ChatGPT da OpenAI e o Gemini do Google – a qualidade do conteúdo falso só irá melhorar.

As organizações de mídia social estão tentando combater o abuso de suas plataformas. Em particular, Elon Musk considerou exigir que os usuários do X tenham uma assinatura paga para evitar bot farms.

Os gigantes da mídia social têm a capacidade de remover grandes quantidades de atividades de bots detectadas, se desejarem. (Más notícias para o nosso amigável camarão Jesus.)

Pense na internet morta

A teoria da Internet morta não afirma que a maioria de suas interações pessoais na Internet sejam falsas.

No entanto, é uma lente interessante através da qual se pode ver a Internet. Que já não é para pessoas e é feita por pessoas – nesse sentido, a internet que conhecíamos e amávamos está “morta”.

A liberdade de criar e compartilhar nossos pensamentos na internet e nas redes sociais é o que os tornou tão poderosos. Claro, é esse poder que os maus atores querem controlar.

A Teoria da Internet Morta é um lembrete para sermos céticos e usarmos as mídias sociais e outros sites com espírito crítico.

Cada interação, cada tendência e especialmente o “clima geral” podem muito bem ser artificiais. Projetado para mudar ligeiramente a maneira como você percebe o mundo.