Youtube é pressionado a vetar vídeos de ia para crianças

Especialistas em desenvolvimento infantil querem proibir que vídeos criados com inteligência artificial (IA) sejam exibidos ou recomendados a crianças no YouTube e no YouTube Kids. Mais de 200 especialistas em infância, grupos de defesa e escolas enviaram ontem uma carta a Neal Mohandi, CEO do YouTube, e a Sundar Pichai, diretor executivo da Alphabet, levantando preocupações sobre o que consideram uma falta de conteúdo relevante em muitos vídeos da plataforma gerados por IA e que se apresentam como educativos.
Na carta, os especialistas também criticaram a qualidade considerada baixa dos conteúdos infantis produzidos em massa por geradores de IA, além do aumento de criadores no serviço de vídeos do YouTube que utilizam inteligência artificial para fazer conteúdos voltados a lucrar com os espectadores mais jovens e facilmente influenciáveis.
CAPACIDADE DE ATENÇÃO
Os defensores da segurança infantil temem que materiais gerados por IA " alguns chamados de AI slop (conteúdo massificado de baixa qualidade) " afetem a capacidade de atenção das crianças e sua habilidade de distinguir o que é real do que não é. Argumentam ainda que o tempo diante das telas está substituindo atividades do mundo real, essenciais para o desenvolvimento emocional e social das crianças.
"O YouTube participa de experimento descontrolado ao impulsionar conteúdos gerados por IA sem pesquisas que demonstrem seus benefícios e sem considerar os princípios do desenvolvimento infantil que indicam que eles são, em grande parte, prejudiciais".
A carta foi assinada pelo psicólogo social Jonathan Haidt " cujo livro best-seller "A geração ansiosa" impulsionou um movimento global contra os danos causados por redes sociais e smartphones aos jovens " além de grupos de defesa infantil como Fairplay e a Aliança Nacional para a Promoção da Saúde de Adolescentes (National Alliance to Advance Adolescent Health). A Federação Americana de Professores e diversas escolas também assinaram.
Vídeos gerados por IA ficaram cada vez mais populares no YouTube, especialmente os voltados a bebês e crianças pequenas. Alguns produtores descobriram que terceirizar esse trabalho para sistemas de IA torna o processo muito mais fácil e barato e chegaram a compartilhar tutoriais sobre como construir um negócio baseado na produção de vídeos para esse público.
Em janeiro, o CEO do YouTube afirmou que "gerenciar o AI slop" e "garantir que a plataforma continue sendo um lugar onde as pessoas se sintam bem " é prioridade da empresa, e que nem todo conteúdo feito com IA é "ruim" e que, quando bem utilizado, o uso "pode ser positivo".
O YouTube exige que criadores rotulem conteúdos "alterados e sintéticos" e diz que seus sistemas e políticas de monetização são projetados para penalizar quem produz conteúdo de baixa qualidade ou spam.
Os defensores da proibição argumentam que esses rótulos "provavelmente não são compreendidos por crianças pré-alfabetizadas, que são alvo de grande parte desse tipo de conteúdo".