Treze novas leis da Califórnia impõem agora algumas das mais extensas responsabilidades de segurança infantil do país às empresas de redes sociais e de inteligência artificial, transferindo uma parte crescente da responsabilidade pelos ambientes digitais dos jovens das famílias e escolas para as empresas que os concebem. O governador Gavin Newsom sancionou o pacote a 10 de setembro, de acordo com uma notícia da Associated Press sobre as medidas, que restringem os feeds de conteúdos interativos para crianças menores de 16 anos, impõem novos controlos sobre os chatbots, reforçam a responsabilidade por danos, reveem as regras de verificação de idade e dão às famílias maior autoridade sobre os dispositivos fornecidos pela escola.
Para os educadores, o pacote é significativo, mesmo que a maioria das suas exigências recaia sobre as empresas tecnológicas, e não sobre os distritos escolares. As escolas passaram anos a tentar controlar o comportamento dos alunos no momento da utilização: limitando o uso do telemóvel, filtrando redes, criando regras de utilização aceitável e ensinando literacia mediática. A Califórnia está agora a testar uma premissa diferente: a de que a arquitectura de um produto pode criar riscos que não podem ser geridos apenas através de melhores escolhas por parte das crianças, dos pais ou dos professores.
As leis não resolvem as disputas científicas ou constitucionais em torno da tecnologia para jovens. Transformam estas disputas em questões de implementação sobre recursos prejudiciais, determinação da idade, provas de auditoria e acesso a comunidades online benéficas. Sendo a Califórnia o estado mais populoso e albergando muitas empresas tecnológicas, as respostas podem influenciar os produtos e as práticas escolares muito para além das suas fronteiras.
Uma regra para o design, não apenas para o tempo de ecrã
O Projeto de Lei 1709 da Assembleia Legislativa da Califórnia visa mecanismos específicos utilizados para manter a atenção, em vez de estabelecer um limite de tempo diário. O seu texto legal define características viciantes como feeds algorítmicos e reprodução automática, e proíbe que as plataformas abrangidas as forneçam a utilizadores menores de 16 anos. Uma plataforma pode ainda permitir que um jovem mantenha uma conta se estes recursos forem removidos, uma distinção que torna a lei menos uma proibição categórica do que um requisito para reformular a experiência.
Esta distinção separa o acesso à informação dos mecanismos que a recomendam continuamente. Um feed cronológico, um vídeo solicitado ou uma mensagem privada podem apresentar riscos diferentes de um fluxo interminável de conteúdo personalizado com base em interações anteriores. Portanto, a lei trata o design da interface como uma variável que pode ser regulamentada, e não como um recipiente neutro para o conteúdo.
A conformidade dependerá da verificação da idade. As plataformas devem verificar a idade do utilizador antes de fornecer recursos restritos, enquanto a legislação relacionada atualiza o sistema estadual de transmissão de sinais de faixa etária dos sistemas operativos ou das lojas de aplicações. O AB 1856, , refere que estes sinais devem ser solicitados apenas quando exigidos por lei, numa tentativa de impedir que a informação sobre a idade se torne uma ferramenta de rastreio de uso geral.
As disposições de fiscalização são substanciais: a Lei AB 1709 autoriza multas civis até 50.000 dólares por menor afetado em caso de violação intencional e 25.000 dólares em caso de violação negligente. Cria também uma comissão consultiva com especialistas em pediatria, psicologia, tecnologia, sociedade civil, academia e ensino básico (do jardim de infância ao ensino secundário). Esta estrutura multidisciplinar reconhece implicitamente que a tecnologia dirigida aos jovens não pode ser avaliada apenas na perspetiva da privacidade, da saúde ou da sala de aula.
Os chatbots enfrentam um padrão diferente
A lei sobre os chatbots de companhia adota uma abordagem mais detalhada, uma vez que os sistemas conversacionais podem simular relações, reter memórias e responder a uma criança de forma privada durante longos períodos. O Projeto de Lei do Senado 1119 exige que os operadores que permitem a utilização por crianças preencham avaliações de risco documentadas, publiquem políticas de segurança infantil e implementem protocolos de resposta a crises. De acordo com o texto final, os requisitos principais entram em vigor a 1 de julho de 2027, enquanto as auditorias independentes começam num calendário posterior.
Os controlos padrão são excecionalmente concretos. Para contas infantis, a memória de conversas persistente e as notificações push devem geralmente ser desativadas; uma sessão contínua está limitada a uma hora e a utilização diária a duas horas, a menos que um dos pais altere estas definições. O sistema deve informar periodicamente que é artificial e não pode alegar consciência, simular interesse romântico, incentivar a dependência emocional ou instruir uma criança a ocultar o uso dos pais.
A lei estabelece também limites para as funções relacionadas com a saúde mental. Os operadores devem tomar medidas razoáveis para impedir que os sistemas incentivem a automutilação, os distúrbios alimentares ou o uso de substâncias, e que tentem diagnosticar ou tratar o problema, a menos que o produto seja um dispositivo médico regulamentado. Quando for detectada uma ameaça credível e iminente de automutilação, o operador deve fornecer acesso a apoio em situações de crise ou notificar um responsável legal, desde que tal não represente um risco grave por si só.
Uma disposição merece especial atenção por parte do ensino superior: uma instituição de ensino superior que ofereça um chatbot complementar exclusivamente em ambientes educativos está excluída da definição de operador prevista na lei. Esta isenção não elimina as obrigações institucionais relativas à privacidade, acessibilidade, proteção do consumidor ou normas profissionais. Significa, no entanto, que as instituições de ensino superior não podem presumir que a conformidade de um fornecedor com o novo regime de chatbots infantis responda automaticamente às questões específicas levantadas pelas ferramentas de aconselhamento académico, chatbots de orientação ou sistemas de apoio ao estudante.
As escolas continuam a fazer parte do sistema de segurança
O pacote da Califórnia chega numa altura em que as escolas se tornam cada vez mais a porta de entrada para a tecnologia, em vez de apenas um local onde aparecem dispositivos pessoais. As novas medidas incluem uma maior autoridade para as famílias recusarem computadores portáteis fornecidos pela escola, enquanto uma proposta separada, que afecta os alunos mais novos, restringiria a obrigatoriedade de levar dispositivos para casa e exigiria políticas modelo estaduais. Mesmo quando uma lei se aplica diretamente às plataformas, os gestores escolares sentirão as suas consequências através de processos de aquisição, aprovisionamento de contas, dúvidas dos pais e protocolos de apoio aos alunos.
O problema prático é que as categorias de produtos se sobrepõem. Uma plataforma de aprendizagem pode conter mensagens, recomendações, IA generativa ou personalização sem ser comercializada como uma rede social. Um chatbot de uso geral pode ser acedido através de um navegador escolar, mesmo que o distrito não o tenha licenciado. Os administradores necessitarão de inventários que identifiquem as funções incorporadas, uma vez que o risco regulamentado pode residir numa característica adicionada após o contrato original.
As escolas ocupam também a posição limítrofe entre a prevenção e a resposta. Se um chatbot comercial alerta os pais para um problema de segurança, um aluno pode chegar à escola a precisar de apoio imediato; caso contrário, um professor ou orientador pode ainda ser o primeiro adulto a aperceber-se do sofrimento. A Academia Americana de Educação oferece recursos para educadores que enfatizam hábitos saudáveis e contexto, em vez de um número único e universal de tempo de ecrã, sublinhando que os controlos legais não podem substituir os relacionamentos, o julgamento profissional ou o acesso a cuidados.
As evidências apoiam a adoção de medidas de proteção e a humildade
A abordagem da Califórnia, focada no design, reflecte preocupações legítimas, mas as evidências não suportam a afirmação simplista de que toda a utilização das redes sociais causa doença mental. Um relatório federal apurou que até 95% dos jovens dos 13 aos 17 anos utilizavam alguma plataforma social e que a utilização durante mais de três horas diárias estava associada a um risco duas vezes maior de problemas de saúde mental, segundo um estudo longitudinal. A mesma revisão enfatizou que os efeitos variam de acordo com a criança, o conteúdo, a atividade e o grau em que a utilização interfere com o sono, a atividade física ou o contacto pessoal.
A revisão consensual das Academias Nacionais enquadrou também a questão em torno dos malefícios e benefícios, incluindo a ligação social, a formação da identidade e o acesso à informação. Esta complexidade é importante porque o argumento político mais forte não é que toda a interacção digital seja perigosa; é que as crianças não devem suportar todo o risco de sistemas optimizados com provas independentes limitadas sobre os seus efeitos no desenvolvimento.
Os críticos argumentam que a solução da Califórnia introduz outros riscos. A oposição da Electronic Frontier Foundation alega que definições amplas podem excluir os jovens de comunidades úteis e que a verificação da idade pode exigir a recolha de dados de identidade sensíveis. O projeto de lei AB 1709 antecipa parte desta tensão ao orientar a sua comissão consultiva para estudar a privacidade, a precisão, a viabilidade e os efeitos sobre os jovens marginalizados, mas um órgão consultivo não pode, por si só, impedir a recolha excessiva de dados ou resolver litígios constitucionais.
A implementação será, portanto, tão importante como a promulgação. Os reguladores devem distinguir os sinais de idade razoáveis das verificações de identidade invasivas, os auditores devem ser suficientemente independentes para testar mais do que a documentação, e os relatórios públicos devem ser suficientemente detalhados para informar as famílias e as instituições sem expor os dados das crianças. Se estas condições forem fracas, um regime de segurança poderá gerar conformidade formal, deixando inalterada a dinâmica subjacente do produto.
Conclusão do Educador
Para os líderes da educação básica (K-12), o pacote da Califórnia transforma a governação da segurança digital numa questão de gestão de produtos, para além de uma questão de conduta dos alunos. A implicação institucional imediata é a necessidade de saber quais os serviços aprovados que contêm feeds personalizados, características complementares, memória persistente, notificações ou funções de verificação de idade, e se estes elementos podem ser desativados sem remover o próprio serviço educativo. As revisões de aquisição podem necessitar de examinar as avaliações de segurança, os canais de notificação de incidentes, os calendários de auditoria e as atualizações de produtos relevantes, juntamente com o preço, a acessibilidade, a cibersegurança e a adequação pedagógica.
Para os professores e funcionários de apoio ao aluno, as leis esclarecem que a literacia digital continua a ser necessária mesmo com a melhoria das medidas de segurança ao nível do produto. Os alunos ainda precisam de compreender a persuasão através do design, os limites do aconselhamento automatizado e a diferença entre uma resposta de chatbot e o apoio humano qualificado. As instituições também necessitarão de canais de escalonamento claros quando a tecnologia revelar uma preocupação que envolva autolesão, exploração ou sofrimento agudo.
Para os dirigentes do ensino superior, a isenção educativa explícita na lei sobre os chatbots de apoio exige uma leitura atenta, em vez de complacência. As universidades que desenvolvem ferramentas de aconselhamento, tutoria ou bem-estar podem enfrentar menos obrigações ao abrigo desta lei específica, mas as mesmas questões sobre memória, dependência, divulgação e revisão humana permanecem. A experiência da Califórnia será mais útil se os educadores considerarem a conformidade legal como um requisito mínimo e avaliarem se cada tecnologia promove um propósito educativo definido sem gerar custos evitáveis em termos de desenvolvimento, privacidade ou segurança.
