O problema não é a IA: criança não deveria estar sozinha diante do algoritmo

Uma reportagem recente atribui ao chamado “AI slop” — vídeos baratos, repetitivos e produzidos em massa por inteligência artificial — o risco de declínio cognitivo e até de tendências violentas entre crianças. O alerta parte de um problema real: existem vídeos feitos para capturar atenção, alguns deles violentos, perturbadores ou deliberadamente absurdos. O que não está tão claro é o salto entre reconhecer esse conteúdo e transformar a inteligência artificial em responsável pelo que acontece com quem o assiste.

A IA não inventou conteúdo ruim para crianças. Também não inventou vídeos repetitivos, personagens infantis colocados em situações inadequadas, violência disfarçada de desenho, publicidade camuflada, canais interessados apenas em visualizações nem plataformas que recompensam quem consegue manter alguém olhando para uma tela por mais alguns segundos.

Tudo isso já existia.

O que a inteligência artificial fez foi reduzir drasticamente o custo de produção. Um criador que antes precisava editar, animar, desenhar ou contratar pessoas agora consegue fabricar dezenas ou centenas de vídeos em pouco tempo. A quantidade aumenta, a moderação fica mais difícil e o algoritmo passa a ter ainda mais material para testar até descobrir aquilo que prende a atenção.

É uma mudança importante. Mas quantidade de conteúdo ruim disponível não é a mesma coisa que exposição inevitável.

Criança pequena não deveria decidir sozinha o que pode assistir

Existe uma diferença fundamental entre discutir os efeitos de determinado conteúdo e agir como se uma criança pequena tivesse acesso autônomo e inevitável a tudo o que aparece na internet.

Ela não deveria ter.

Uma criança ainda não possui repertório para distinguir informação de manipulação, entretenimento de publicidade ou uma animação inocente de um conteúdo deliberadamente construído para provocar choque e retenção. Essa capacidade é desenvolvida com educação e amadurecimento. Até lá, quem define os limites são os adultos.

Fazemos isso em praticamente todas as outras áreas da infância. Não entregamos dinheiro a uma criança pequena e esperamos que ela descubra sozinha como administrá-lo. Não permitimos que escolha qualquer alimento em qualquer quantidade porque um supermercado colocou o produto ao alcance dos olhos. Não deixamos que atravesse uma avenida para depois discutir se os automóveis deveriam ser menos perigosos.

Com a internet, porém, surgiu uma estranha expectativa de que a plataforma deveria conseguir substituir a supervisão familiar.

Ela não consegue.

E provavelmente nunca conseguirá.

Mesmo o melhor sistema de moderação terá falhas. Vídeos serão classificados incorretamente, novos formatos surgirão, produtores encontrarão maneiras de contornar filtros e algoritmos cometerão erros. A tecnologia pode reduzir o risco, mas não pode assumir a função de quem decidiu colocar um aparelho conectado à internet nas mãos de uma criança.

Controle parental existe por uma razão

Hoje já é possível limitar bastante o ambiente digital de uma criança sem transformar a casa em uma unidade de vigilância.

Celulares e tablets permitem criar contas infantis, restringir aplicativos, impedir instalações sem autorização, controlar horários e estabelecer limites de uso. Na própria rede doméstica é possível acrescentar outras barreiras, com filtros no roteador, controle de acesso e serviços de DNS capazes de bloquear categorias inteiras de conteúdo antes mesmo que elas cheguem ao aparelho.

Nada disso é perfeito. Também não precisa ser.

A segurança infantil sempre funcionou por camadas. Uma tomada pode ter proteção, um armário pode ficar trancado e determinados objetos podem permanecer fora de alcance. Ainda assim, ninguém conclui que esses mecanismos eliminam a necessidade de um adulto responsável.

O mesmo princípio vale para o ambiente digital.

O erro está em entregar acesso irrestrito e depois tratar o resultado do algoritmo como uma força da natureza.

O verdadeiro problema está na economia da atenção

Há uma crítica importante à inteligência artificial nessa história, mas ela é mais interessante do que simplesmente dizer que “IA faz mal para crianças”.

A IA tornou a produção de conteúdo descartável extraordinariamente barata.

Isso combina perfeitamente com plataformas cuja lógica econômica depende de volume, retenção e repetição. Se um vídeo de uma fruta gritando, dançando ou brigando mantém uma criança olhando durante vinte segundos, o sistema aprende alguma coisa. Se outro mantém durante trinta, aprende novamente. Milhares de vídeos permitem testar esse comportamento continuamente.

O produtor quer visualizações. A plataforma quer permanência. O algoritmo procura aquilo que funciona.

Nenhum deles recebeu a missão de educar seu filho.

Esse conflito existia antes da inteligência artificial, mas agora ganhou uma fábrica quase ilimitada de matéria-prima. É aí que está a mudança trazida pela IA: não na invenção do conteúdo vazio, mas na possibilidade de produzi-lo em escala industrial.

Por isso a discussão sobre responsabilidade das plataformas continua necessária. Sistemas de recomendação voltados para crianças merecem regras mais rigorosas, conteúdos violentos não deveriam escapar facilmente da moderação e empresas que lucram com audiência infantil não podem simplesmente transferir toda a responsabilidade aos usuários.

Mas responsabilizar as plataformas não exige absolver os adultos.

As duas coisas podem ser verdade ao mesmo tempo.

Educação digital não significa esconder a tecnologia

Também seria um erro responder ao problema tentando criar crianças completamente isoladas da inteligência artificial.

Elas crescerão utilizando IA.

Provavelmente a encontrarão na escola, nos mecanismos de busca, nos softwares profissionais, nos videogames, nos serviços públicos, nos sistemas de saúde e em produtos que ainda nem existem. Tentar impedir qualquer contato com a tecnologia pode ser tão pouco educativo quanto permitir acesso irrestrito.

Educação digital significa construir gradualmente a capacidade de entender o que existe atrás da tela. Uma criança pode aprender, conforme sua idade, que aquilo que aparece em um vídeo não precisa ser verdadeiro; que determinados conteúdos foram criados apenas para fazê-la continuar assistindo; que publicidade pode estar misturada ao entretenimento; que imagens e vozes podem ser artificiais; e, principalmente, que nenhuma tela precisa permanecer ligada indefinidamente.

Esse aprendizado não acontece porque o Android ganhou mais uma configuração de segurança.

A ferramenta ajuda. A educação permanece.

Talvez seja justamente essa parte que desapareça quando toda nova preocupação tecnológica precisa encontrar um culpado simples. Primeiro foram a televisão, os videogames, a internet, o YouTube, as redes sociais e o celular. Agora chegou a vez da inteligência artificial.

Cada uma dessas tecnologias trouxe problemas reais e exigiu novos cuidados. Nenhuma delas eliminou uma responsabilidade muito mais antiga.

Crianças precisam de limites porque são crianças.

A inteligência artificial só tornou mais evidente o que deveria ter sido óbvio desde o primeiro tablet entregue com acesso livre à internet: algoritmo nenhum foi contratado para criar nossos filhos.