Isso é O passo atrás, um boletim informativo semanal detalhando uma história essencial do mundo da tecnologia. Para saber mais sobre a confusão da IA, siga Robert Hart. O passo atrás chega às caixas de entrada de nossos assinantes às 8h ET. Ative O passo atrás aqui.
No início, os influenciadores da IA eram relativamente fáceis de identificar – e de ignorar. Além das ocasionais explosões de entusiasmo, eles não pareciam mudar muito na forma como as mídias sociais funcionavam. Os primeiros influenciadores virtuais – Lil Miquela com sua franja romba e sardas, Imma com seu bob rosa chiclete e Shudu Gram com sua pele impecável – eram obviamente produções digitais. As colaborações foram anunciadas com alarde. As postagens exigiam estúdios, dinheiro, coordenação e muito polimento.
Com o tempo, percebi que as pessoas falsas na minha linha do tempo começaram a se parecer cada vez mais com todas as outras pessoas nela. Personagens como Emily Pellegrini e Aitana Lopez se aproximaram um pouco mais da realidade – ou pelo menos da realidade daquele amigo viajado e abastado da faculdade com quem você não mantinha contato, sempre postando em bons restaurantes e lugares lindos, ou de Coachella e Wimbledon. Não é exatamente identificável, mas, novamente, a maioria dos influenciadores profissionais também não o é.
Mesmo assim, muitas dessas contas não são de forma alguma padrão. Lopez é produto de uma agência criativa espanhola chamada The Clueless, que gerencia um grupo de influenciadores de IA. O criador de Pellegrini, que atende pelo pseudônimo de Professor EP, me disse que gerenciava os criadores do OnlyFans. Agora ele vende cursos ensinando as pessoas a criar seus próprios influenciadores de IA.
É exatamente isso que as pessoas estão começando a fazer. Muitas pessoas.
A novidade passou. Os primeiros influenciadores da IA se destacaram porque eram muito poucos. Agora eles fazem parte de uma bagunça muito maior de conteúdo gerado por IA que inunda as mídias sociais: baboseiras de baixa qualidade copiadas preguiçosamente de chatbots, imagens e vídeos desleixados e aquele cativante Senhor dos Anéis música disco que tomou conta do meu TikTok por um mês.
As pessoas falsas estão agora por toda parte. Eles estão vendendo lixo eletrônico, roubando dinheiro de homens com fotos falsas, promovendo desinformação e argumentos racistas e atendendo a um nicho cada vez mais estranho e muitas vezes sexual. Claro, existem bastante de armadilhas de sede. Há também muito conteúdo mundano, com avatares simplesmente copiando o que é popular entre os criadores humanos, muitas vezes apenas colocando seus rostos falsos nele.
Isso torna difícil avaliar a escala da influência do criador de conteúdo de IA. As plataformas não publicam números sobre quantos de seus usuários são pessoas falsas, e a maioria dos avatares de IA não se tornam populares ou influentes o suficiente para justificar o tipo de atenção da mídia que a onda anterior recebeu. Bancos de dados como o Virtual Humans rastreiam centenas de avatares populares, mas essas são apenas contas estranhas, esquisitas ou grandes o suficiente para serem notadas. Abaixo deles há um oceano de contas que passam totalmente despercebidas.
Parte do motivo pelo qual essas contas conseguem evitar a detecção é que a tecnologia usada para criá-las melhorou enormemente. Uma imagem estática de uma pessoa falsa agora pode ser boa o suficiente para parecer genuína à primeira vista, especialmente em um feed repleto de influenciadores reais que fazem uso generoso de encenação, filtros e efeitos de edição. O vídeo e o áudio estão se atualizando rapidamente, dando às pessoas virtuais vozes e movimentos que podem enganar os usuários desatentos. As ferramentas também não são mais específicas ou proibitivamente caras. Os produtos convencionais de empresas como Google e OpenAI acompanham serviços especializados de empresas como Higgsfield, HeyGen e ElevenLabs. Com um pouco de esforço, quase qualquer pessoa pode criar um influenciador de IA – ou um estável deles – sem precisar de estúdio, equipamento especializado ou (muito) dinheiro.
Tudo isto deixa as plataformas de redes sociais com um problema que não parecem especialmente interessadas em resolver de frente. Depois de vários anos lutando com imagens, vídeos e áudio gerados por IA, a maioria das principais plataformas agora tem algum tipo de política que abrange mídia sintética. Mas, além de exigir rótulos para conteúdo gerado por IA, essas regras muitas vezes equivalem a pouco mais do que encaixar o material em categorias existentes, abrangendo itens como fraudes, spam, falsificação de identidade e material gráfico. O pessoal de IA, especialmente aqueles projetados para se comportar como pessoas reais, não se enquadram perfeitamente em nenhum desses grupos. Eles não estão necessariamente executando uma fraude, postando conteúdo gráfico ou se passando por alguém – quem eles representariam? E se eles revelarem que suas postagens são geradas por IA, não é óbvio quais regras estariam violando.
Por enquanto, as plataformas parecem satisfeitas em viver na ambiguidade, nem acolhendo nem evitando totalmente os criadores de IA. Cultivaram uma posição contraditória, promovendo a IA como uma ferramenta criativa, ao mesmo tempo que tentavam impedir que uma onda gigantesca de resíduos sobrecarregasse os seus serviços. YouTube, TikTok, Instagram e outras plataformas desenvolveram regras para rotular meios de comunicação sintéticos, especialmente os de tipo realista, ao mesmo tempo que promovem os seus próprios conjuntos de ferramentas de IA, incluindo algumas que podem clonar ou simular utilizadores. Mas essas regras tendem a se concentrar em postagens individuais, e não nas contas e personas por trás delas, deixando os influenciadores de IA em uma área cinzenta.
Nessa incerteza, o ecossistema de influenciadores de IA está prosperando. Algumas empresas de pesquisa de mercado estimam que o mercado de influenciadores virtuais poderá valer mais de 60 mil milhões de dólares até 2030, contra cerca de 12 mil milhões de dólares este ano. A influência cultural também está crescendo. Existem prêmios para influenciadores de IA, concursos de beleza, agências de talentos dedicadas que representam criadores sintéticos e um mercado em expansão de criadores sintéticos que vendem cursos e ferramentas que prometem ajudar as pessoas a criar e administrar seus próprios criadores falsos, muitas vezes com a promessa de renda passiva sem rosto. Algumas delas têm o cheiro levemente piramidal de uma corrida do ouro online, algumas histórias de sucesso visíveis e uma enorme quantidade de pessoas vendendo pás.
Meu palpite é que um acerto de contas está a caminho. O lixo de IA já é irritante, e há um limite para o que uma plataforma pode carregar até que se torne praticamente inutilizável, especialmente devido à sua recusa persistente em permitir que os usuários filtrem o lixo de IA. Pessoas falsas que fingem ser reais são uma versão ainda mais íntima do mesmo problema. Mas, além dos rótulos e da aplicação das regras existentes, as plataformas parecem, em sua maioria, satisfeitas em ver o que acontece. Para as plataformas, engajamento ainda é engajamento, seja de um criador falso ou real. Enquanto os criadores sintéticos continuarem postando e não se desviarem das regras existentes, parece haver pouco incentivo para reprimir.
Há também uma questão de quão sustentável é toda a ideia de ter avatares de IA circulando online. Se tantos são construídos apenas para ganhar dinheiro com usuários humanos, o que acontecerá quando o número de usuários humanos secar? Existem tantas pessoas que estarão dispostas a comprar cursos e ferramentas para construir seus próprios influenciadores, por exemplo. Isso presumindo que as mídias sociais possam sobreviver ao influxo de influenciadores de IA. Por definição, é necessária alguma massa crítica da humanidade para manter as coisas sociais. Se não forem controladas, as redes entrarão em colapso sob o peso destas pessoas falsas, à medida que os utilizadores humanos serão inevitavelmente afastados.
Isso poderá mudar se a raiva pública continuar a crescer. A reação contra deepfakes, personificação e spam sintético já está forçando legisladores e reguladores a prestarem mais atenção, especialmente após incidentes envolvendo deepfakes sexuais não consensuais gerados com ferramentas como o Grok. A Lei Europeia sobre IA poderia ser um impulsionador, pelo menos quando as suas obrigações de transparência para conteúdos gerados por IA entrarem em vigor. Os regulamentos exigirão que os implantadores de sistemas generativos de IA divulguem claramente o conteúdo gerado ou manipulado pela IA, o que poderá pressionar as empresas a intensificar a sinalização de conteúdos de IA ou enfrentar multas potencialmente pesadas. Mas mesmo assim, o foco ainda está principalmente no conteúdo, e não se a conta que o publica representa uma pessoa real.
Tal como acontece com tantas coisas nas redes sociais, o fardo recai sobre os utilizadores. Muitas plataformas delegaram efetivamente aos usuários a tarefa de moderar o conteúdo de IA, contando com eles para detectar e denunciar perfis suspeitos. Mas a automoderação é uma resposta pobre e insustentável para algo concebido para passar despercebido. Já existe um apetite crescente por espaços livres de IA. Se as plataformas se recusarem a traçar fronteiras entre o real e o irreal, espero que os usuários as desenhem.
- Muitos dos influenciadores de IA de maior destaque que encontrei recentemente tinham uma inclinação abertamente política, o que creio que poderia acelerar o acerto de contas regulatório. Danny Bones, um falso rapper nacionalista branco financiado por um partido político de extrema direita no Reino Unido, é talvez o melhor exemplo disso que vi até agora.
- Tal como os influenciadores humanos, muitos avatares de IA são construídos em torno de identidades e comunidades específicas, tais como raça, deficiência, política e nacionalidade, como a menina de fantasia MAGA Jessica Foster, que se apoia fortemente na estética sexualizada do Exército e no Trumpismo. Nem todos os avatares se alinham com seus criadores: o modelo negro de IA Shudu Gram, por exemplo, foi feito por um homem branco. Emily Pellegrini também é produto de um homem, o Professor EP, que me disse que a personagem é construída usando conteúdo que ele licenciou de um criador anônimo do OnlyFans.
- A manchete da recente matéria de Jess Weatherbed para A beira diz tudo: “Vamos filtrar o lixo da IA, seus covardes”.
- A beira relataram recentemente que golpistas estão usando avatares de IA de negros falsos para vender produtos produzidos em massa por meio de envio direto a preços inflacionados nas redes sociais.
- Com fio relataram sobre a crescente indústria de “AI Pimping”, onde criadores humanos estão tendo seu conteúdo roubado e monetizado por avatares de IA sem sua permissão.
- O podcast de Charlie Warzel examinou os incentivos por trás da proliferação de influenciadores de IA e a exaustão que muitos sentem quando se trata de se preocupar se o que consumimos é real ou não.
Fonte: theverge
