Um urso panda reencontra um antigo cuidador e reage com surpresa, quase como se fosse um ser humano. A imagem é extremamente realista.
Um avatar de Jesus aparece em uma praia construindo estátuas de si mesmo.
Músicas infantis sem refrão claro, com letras incompreensíveis e misturando trechos em mais de um idioma.
Bastam cerca de 15 minutos navegando pelos vídeos curtos do YouTube para que clipes desse tipo comecem a aparecer. A busca inicial pode ser por temas como Roblox, Minecraft ou vídeos de animais.
Produzidos em larga escala e replicados por diferentes canais, muitos desses conteúdos acumulam dezenas ou centenas de milhares de visualizações.
Criadores chegam a recomendar o nicho infantil como uma oportunidade de negócio e afirmam ser possível obter renda com esse tipo de vídeo.
Personagens mudam de nome, de voz e até de aparência ao longo da história, sem qualquer explicação.
Ainda não é possível dimensionar com clareza o tamanho e o alcance desse fenômeno.
Uma tentativa de estimar a frequência com que vídeos feitos com IA aparecem para o usuário, com base no alerta visual exibido pelo YouTube para conteúdos desse tipo, mostrou que a maioria deles não apresentava qualquer aviso, mesmo quando havia fortes indícios do uso da tecnologia, como vozes que não correspondiam aos personagens, desenhos que mudavam de forma entre uma cena e outra e movimentos incomuns.
Pesquisadores afirmam que o YouTube não identifica automaticamente vídeos feitos com IA e que muitos criadores não informam quando recorrem à tecnologia.
Uma análise do jornal The New York Times, feita manualmente e também com uma ferramenta de detecção, ilustra a frequência com que esses vídeos aparecem.
Em uma sessão de 15 minutos realizada após a exibição de um vídeo do canal infantil CoComelon, mais de 40% dos vídeos assistidos pareciam conter imagens geradas por IA.
Mesmo com dificuldades na coleta de dados, um estudo conduzido por André Mintz, professor do Departamento de Comunicação Social da Universidade Federal de Minas Gerais (UFMG), e pela estudante de Cinema de Animação e Artes Digitais Juno Bozzi buscou identificar a presença desse tipo de conteúdo em vídeos infantis em português e inglês no YouTube.
A pesquisa partiu de uma base com cerca de 17 mil vídeos encontrados por meio de buscas com palavras-chave relacionadas à inteligência artificial e conteúdo infantil.
Em seguida, os pesquisadores aplicaram novos filtros para identificar apenas vídeos efetivamente voltados às crianças.
Os vídeos analisados apresentavam diferentes níveis de uso da IA. Alguns pareciam ter sido produzidos quase integralmente com essa tecnologia. Outros incorporavam apenas alguns elementos, como cenários das animações.
A maior parte dos conteúdos era musical, com imagens geradas por IA acompanhadas de canções infantis. O estudo também encontrou adaptações de histórias, vídeos educativos, como lições sobre o alfabeto, e conteúdos religiosos.
Uma categoria que chamou a atenção dos pesquisadores foi a dos vídeos de “transformação”, nos quais personagens de desenhos animados são recriados por IA em versões com aparência de crianças. A pesquisa aponta que esses vídeos tendem a repetir imagens genéricas e estereotipadas.
“O que chama a atenção é um certo desprezo pelo espectador infantil, de colocar qualquer coisa e confiar que a criança vai aceitar”, afirma o professor André Mintz.
Crianças pequenas não conseguem distinguir fantasia de realidade
Rachel Franz, diretora do programa Young Children Thrive Offline, da organização americana Fairplay, explica que esse tipo de vídeo se enquadra no chamado “AI slop”, expressão usada para definir vídeos de baixa qualidade produzidos em massa com o uso de inteligência artificial.
Segundo Franz, a preocupação é maior em relação aos efeitos desse conteúdo nas crianças pequenas, período em que o cérebro ainda está em intenso desenvolvimento.
“O cérebro das crianças atinge cerca de 90% do tamanho adulto até os 5 anos, e o que elas encontram nesse período molda seu desenvolvimento e pode impactá-las pelo resto da vida.”
“Crianças pequenas não conseguem distinguir fantasia de realidade. Assistir a AI slop pode condicionar o cérebro delas a acreditar que algo é real quando não é.”
Ela afirma que muitos desses vídeos são produzidos apenas para capturar a atenção infantil, e não para ensinar.
Segundo a especialista, a sucessão de imagens confusas também pode sobrecarregar a quantidade de informações que uma criança consegue processar de uma só vez.
“Quando o cérebro é sobrecarregado com informações, a criança não consegue aprender tão bem quanto ao vivenciar situações reais, no seu próprio ritmo e usando todos os sentidos.”
Ela também relaciona o consumo prolongado desses vídeos ao tempo que deixa de ser dedicado a atividades como brincar, dormir e interagir com outras pessoas.
“Vídeos hipnotizantes de músicas infantis gerados por IA podem moldar o cérebro das crianças no longo prazo, afetando sua capacidade de atenção, sua resiliência e sua habilidade de regular as emoções.”
“Quanto menor a criança, mais atrativo aquilo fica”
Especialistas afirmam que não se pode esperar que as próprias crianças identifiquem e rejeitem vídeos de baixa qualidade.
Conteúdos com cores, movimentos e mudanças rápidas podem capturar a atenção mesmo quando não apresentam uma narrativa coerente ou informações confiáveis.
“Mesmo conteúdos sem significado ou sem base científica vão atrair a criança da mesma forma. E, quanto menor a criança, mais atrativo aquilo fica.”
André Mintz avalia que esse tipo de vídeo se aproveita da dificuldade de muitas famílias em controlar o consumo de conteúdo infantil online.
“Geralmente, quando você vê crianças que assistem muito conteúdo online, é essa situação do pai ou da mãe sem tempo para ficar com a criança, precisando entretê-la enquanto cuida da casa, trabalha ou faz outra coisa.”
Para ele, o problema não está apenas na existência dos vídeos, mas também na forma como esse conteúdo se encaixa no modelo das plataformas.
“Se tem gente assistindo, para o YouTube está bom. Vai ser recomendado, vai aparecer.”
Rachel Franz concorda que o impacto é agravado pelo próprio funcionamento das plataformas.
“Elas são projetadas para fisgar as crianças e mantê-las engajadas pelo maior tempo possível. Elas usam reprodução automática e recomendações algorítmicas para alimentar as crianças com um vídeo atrás do outro.”
“Quando acrescentamos AI slop, que hipnotiza ainda mais as crianças, essa se torna uma batalha perdida. Isso não apenas impacta o desenvolvimento infantil, como torna mais difícil o papel de pais e responsáveis.”
YouTube diz que combater vídeos de IA de baixa qualidade é prioridade
O YouTube afirma que, embora permita conteúdo gerado por IA, mantém padrões mais rígidos para conteúdos destinados ao público infantil.
Segundo a plataforma, combater conteúdos de baixa qualidade produzidos por inteligência artificial é uma prioridade e inclui a remoção de vídeos marcados como “feitos para crianças” quando não atendem aos princípios de qualidade.
A empresa afirma que canais que utilizam IA continuam aptos à monetização, desde que o conteúdo seja original, siga as diretrizes da comunidade e informe adequadamente quando houver uso de conteúdo sintético.
Em entrevista ao canal Creator Inside, o vice-presidente de Confiança e Segurança do YouTube, Matt Halprin, afirmou que são considerados problemáticos conteúdos genéricos ou repetitivos, que busquem manipular emoções ou utilizem personagens criados por IA para abordar temas sensíveis, como finanças, saúde e questões legais.
Para João Victor Archegas, coordenador de Direito e Tecnologia do Instituto de Tecnologia e Sociedade do Rio (ITS Rio), é positivo que a plataforma estabeleça critérios para limitar esse tipo de conteúdo, mas ainda existe uma contradição.
Segundo ele, o YouTube incentiva o uso de ferramentas de IA para criação de vídeos ao mesmo tempo em que tenta conter o chamado “AI slop”, o que dificulta o combate à disseminação desse material.
Para Archegas, o grande desafio continua sendo identificar automaticamente os conteúdos gerados por inteligência artificial e definir critérios transparentes para sua moderação.
