O Instagram suspendeu o desenvolvimento de uma aplicação planeada para crianças menores de 13 anos, enquanto o Facebook enfrenta um crescente escrutínio sobre a investigação interna no que diz respeito à forma como os seus produtos afetam os adolescentes, principalmente as raparigas. A decisão foi tomada dias antes de uma audição no Senado, na qual os parlamentares questionaram se os incentivos oferecidos pela empresa aos seus produtos são compatíveis com o seu compromisso declarado com a segurança dos jovens.
O responsável do Instagram, Adam Mosseri, anunciou na segunda-feira que a empresa iria pausar o "Instagram Kids", embora tenha insistido que um serviço controlado pelos pais para crianças dos 10 aos 12 anos continua a ser uma ideia válida. O produto proposto exigiria a autorização dos pais, não conteria publicidade e incluiria controlos sobre os contactos e o tempo passado na aplicação, segundo a empresa.
A pausa acontece após a divulgação de estudos internos do Facebook que examinam a imagem corporal, a comparação social e outros efeitos do Instagram nos adolescentes. A controvérsia desviou a atenção da questão de saber se as crianças com menos de 13 anos deveriam ter uma aplicação dedicada para uma questão mais ampla: o que o Facebook já sabe sobre os riscos para os adolescentes que utilizam o Instagram atualmente.
Uma pausa no produto, não um cancelamento
Mosseri afirmou que o Instagram utilizará o período de adiamento para consultar pais, investigadores, legisladores e entidades reguladoras. Defendeu que muitas crianças já mentem sobre as suas idades para aceder a plataformas de redes sociais de utilização geral e que um serviço concebido especificamente para este fim poderia dar aos pais mais controlo do que o sistema actual.
Os críticos veem a mesma premissa de forma diferente. Argumentam que criar um produto de redes sociais especificamente para pré-adolescentes poderia normalizar o uso intensivo mais cedo na infância e expandir a base de futuros utilizadores do Facebook. Por isso, a pausa não resolve a disputa política; cria tempo para um debate que a empresa esperava resolver através do design do produto.
O Instagram afirmou que continuará a desenvolver ferramentas de supervisão parental para as contas de adolescentes existentes, mesmo com o projeto destinado a crianças congelado. No início deste verão, a empresa anunciou que os novos utilizadores com menos de 16 anos seriam colocados em contas privadas por defeito e que os anunciantes enfrentariam limites mais apertados para visar os jovens.
Estas alterações demonstram que o Facebook reconhece que os utilizadores jovens necessitam de medidas de segurança diferentes. A controvérsia centra-se em saber se estas medidas são suficientes para lidar com os incentivos inerentes a uma plataforma centrada em seguidores, imagens, envolvimento e recomendações algorítmicas.
O Facebook contesta a interpretação da sua pesquisa interna
O Facebook contestou as descrições dos media sobre a sua investigação, afirmando que os estudos internos visam identificar problemas e melhorar os produtos, e não ocultar danos. Numa resposta divulgada, a empresa afirmou que estuda regularmente a forma como as famílias e os jovens utilizam a tecnologia e defendeu que alguns diapositivos internos foram apresentados sem o devido contexto.
A empresa afirmou ainda que os seus sistemas removeram aproximadamente 600 mil contas de Instagram pertencentes a menores nos últimos três meses e realçou que os utilizadores com menos de 13 anos já estão proibidos de utilizar o Instagram padrão. Defendeu a importância da investigação junto de faixas etárias mais jovens para compreender como as crianças utilizam os serviços online e como podem ser desenvolvidos produtos mais seguros.
Mas as conclusões internas ganharam relevância política porque alguns adolescentes relataram que o Instagram pode agravar a imagem corporal negativa e a comparação social. A empresa afirma que estas conclusões variam de acordo com o problema e que muitos adolescentes também relatam experiências positivas, incluindo a ligação com os amigos e o apoio em momentos difíceis.
A tensão é tanto metodológica como política. As pesquisas que identificam danos num subconjunto de utilizadores não provam automaticamente que a plataforma causa esses danos, mas ainda assim podem criar a responsabilidade de testar se as características do produto amplificam a vulnerabilidade. Os legisladores questionam agora como é que o Facebook traduz descobertas preocupantes em decisões de produto.
Os senadores focam-se em incentivos, não apenas em salvaguardas
Na audiência de quinta-feira no Comité de Comércio do Senado, Antigone Davis, responsável global de segurança do Facebook, enfrentou perguntas sobre inquéritos internos, verificação de idade, recomendações de produtos e se os executivos priorizaram o crescimento em detrimento do bem-estar dos utilizadores jovens.
A audição foi intitulada "Proteger as Crianças Online: Facebook, Instagram e Danos para a Saúde Mental", sinalizando que os legisladores veem a questão como algo mais amplo do que uma proposta de aplicação infantil. Os senadores disseram que queriam compreender o que a empresa sabia, quando é que os executivos seniores tomaram conhecimento disso e que mudanças se seguiram.
Um relato do Guardian sobre a audiência descreveu a preocupação bipartidária sobre se as declarações públicas do Facebook refletiam com precisão o seu trabalho interno. Davis contestou as alegações de que a investigação mostrava que o Instagram era amplamente prejudicial, argumentando que as conclusões eram mais complexas.
A troca de informação destaca um problema recorrente para as grandes plataformas tecnológicas: a experimentação interna produz evidências detalhadas sobre o comportamento dos utilizadores a que as entidades reguladoras e o público raramente têm acesso. Quando estes documentos vêm à tona, as descobertas isoladas podem tornar-se a base para discussões muito mais amplas sobre a governação corporativa e a segurança do produto.
A pressão sobre o Instagram Kids vinha a aumentar há meses
Legisladores e defensores da segurança infantil já se tinham oposto ao projeto para menores de 13 anos muito antes desta semana. Quando o Instagram anunciou a pausa, o senador Edward Markey e outros críticos descreveram a medida como uma resposta à pressão pública constante, e não como uma mudança voluntária de estratégia.
Uma reportagem da CBS Boston na segunda-feira destacou o apelo de Markey para que o Facebook abandone o projeto por completo. Os críticos argumentam que a lei da privacidade infantil estabelece uma estrutura legal mínima, mas não responde a questões mais amplas sobre o design aditivo, a comparação social ou a saúde mental.
A defesa do Facebook é que as crianças já estão online, muitas vezes em serviços não concebidos para elas. Um produto dedicado, defende a empresa, poderia remover anúncios, exigir supervisão dos pais e restringir a comunicação. Os opositores contrapõem que a opção mais segura pode ser adiar a participação nas redes sociais em vez de criar um ponto de entrada mais rigorosamente controlado.
O resultado afetará mais do que apenas o Instagram. O YouTube, o TikTok e outras plataformas também mantêm experiências específicas para jovens ou controlos de idade, e os legisladores estão cada vez mais a considerar regras que se aplicariam a todo o setor, em vez de empresa a empresa.
O debate está a virar-se para a responsabilidade do produto
Durante anos, as empresas tecnológicas têm focado a proteção dos jovens principalmente na moderação, nas definições de privacidade e nos controlos parentais. O escrutínio atual vai mais fundo na arquitetura do produto: sistemas de recomendação, métricas de envolvimento, notificações, comparação social e o valor comercial de manter os utilizadores ativos.
O Instagram afirma estar a explorar funcionalidades que incentivem os utilizadores a afastarem-se de conteúdos associados a comparações negativas, bem como uma função "Fazer uma pausa" que poderia sugerir que as pessoas interrompessem a utilização da plataforma. Estas ideias indicam que a empresa está a considerar intervenções que alterem o comportamento, em vez de simplesmente remover conteúdos proibidos.
A decisão de pausar o Instagram Kids dá tempo ao Facebook, mas também eleva o padrão que a empresa precisa de cumprir antes de reiniciar o projeto. Os legisladores vão querer provas de que o produto é mais seguro desde a sua conceção, e não apenas uma versão mais pequena do Instagram com controlos parentais adicionados.
A questão imediata é o atraso no lançamento de uma aplicação. A questão mais ampla é a mudança na forma como Washington examina as plataformas de redes sociais. A questão central já não é apenas se o conteúdo prejudicial pode ser removido depois de aparecer. É se as empresas podem demonstrar que os sistemas que criam para os jovens são concebidos tendo em conta os riscos mensuráveis desde o início.
