O Facebook iniciou-se esta semana como uma das empresas tecnológicas mais poderosas do mundo e depara-se com dois desafios invulgarmente diretos a este poder: uma interrupção global de seis horas que desativou o Facebook, Instagram, WhatsApp e Messenger, e o testemunho sob juramento no Senado de um ex-funcionário alegando que os incentivos internos da empresa priorizaram repetidamente o crescimento e o envolvimento em detrimento da segurança do utilizador.
A interrupção começou na segunda-feira e espalhou-se por toda a infraestrutura global do Facebook. A empresa afirmou que uma alteração na configuração dos routers principais que ligam os seus centros de dados interrompeu involuntariamente a comunicação entre as suas instalações. Numa atualização inicial de engenharia, o Facebook disse que não havia evidências de atividade maliciosa ou comprometimento de dados dos utilizadores. Um relato técnico afirmou que um comando de manutenção desconectou efetivamente os centros de dados do Facebook uns dos outros e da internet, enquanto uma falha numa ferramenta de auditoria interna não conseguiu bloquear o comando.
Uma falha na rede transformou-se num evento de comunicação global
A falha técnica expôs o quanto a comunicação quotidiana depende atualmente de um pequeno número de plataformas privadas. Os engenheiros do Facebook descreveram um problema em cascata: uma vez que a infraestrutura principal foi desligada, o Sistema de Nomes de Domínio (DNS) da empresa deixou de anunciar rotas para os seus servidores, muitas ferramentas internas também ficaram indisponíveis e os engenheiros tiveram dificuldade em aceder aos centros de dados físicos necessários para restabelecer o serviço.
Esta arquitetura transformou uma ação de manutenção de rotina numa interrupção mundial. Os utilizadores migraram temporariamente para serviços concorrentes, as empresas perderam o acesso aos canais de atendimento ao cliente e as comunidades que dependem fortemente do WhatsApp para mensagens diárias ficaram efetivamente isoladas. O Washington Post noticiou que o Downdetector, um serviço de monitorização de interrupções, recebeu cerca de 14 milhões de notificações enquanto os serviços do Facebook permaneceram indisponíveis durante horas.
A interrupção também demonstrou os riscos criados quando as aplicações de consumo, os sistemas de publicidade, os serviços de identidade e a infraestrutura empresarial interna dependem da mesma rede subjacente. O Facebook afirmou que os seus sistemas são intencionalmente concebidos com múltiplas camadas de segurança física e técnica, mas estas proteções atrasaram a recuperação porque os engenheiros não puderam contar com os canais normais de acesso remoto após a falha da rede.
A crise de engenharia foi imediatamente seguida por uma crise de governação
Um dia após a interrupção, a ex-gestora de produto do Facebook, Frances Haugen, testemunhou perante a subcomissão de proteção do consumidor da Comissão de Comércio do Senado. A audição de 5 de outubro focou-se nas pesquisas internas do Facebook sobre crianças, na classificação de conteúdos e nos efeitos das plataformas da empresa nos utilizadores.
No seu depoimento escrito, Haugen afirmou ter trabalhado com desinformação cívica e contra-espionagem, e ter assistido a repetidos conflitos entre objectivos comerciais e segurança. Ela argumentou que os sistemas de classificação da empresa podem amplificar conteúdo divisivo ou prejudicial, uma vez que os materiais que provocam reações fortes geralmente geram mais envolvimento.
O depoimento de Haugen surgiu após uma audiência a 30 de setembro, na qual Antigone Davis, responsável global de segurança do Facebook, defendeu a abordagem da empresa em relação aos utilizadores mais jovens. Esta audiência anterior no Senado examinou a investigação interna sobre o Instagram e a saúde mental dos adolescentes. A Presidente da Comissão, Maria Cantwell, e o Presidente da Subcomissão, Richard Blumenthal, demonstraram interesse em regras mais rigorosas de privacidade, transparência e segurança infantil.
A questão central já não é se o Facebook consegue moderar tudo
O debate político emergente está a passar de decisões isoladas sobre o conteúdo para o próprio design dos sistemas do Facebook. O argumento de Haugen é que as escolhas importantes ocorrem antes de qualquer publicação individual ser analisada: os algoritmos de recomendação determinam qual o material que terá maior alcance, os sistemas de classificação decidem o que os utilizadores veem primeiro e os incentivos ao produto recompensam certos tipos de comportamento.
Esta distinção é importante porque o Facebook tem historicamente defendido a sua escala, em parte, enfatizando os investimentos em equipas de deteção automatizada, revisão de conteúdos e segurança. Os críticos questionam cada vez mais se a arquitetura de envolvimento da plataforma pode gerar danos mais rapidamente do que estes sistemas subsequentes conseguem lidar com eles. A declaração da comissão levantou especificamente a possibilidade de proteções federais mais robustas para os dados das crianças e novas alterações à Lei de Proteção da Privacidade Online das Crianças (COPPA).
O Facebook contesta a conclusão generalizada de que os seus negócios beneficiam de conteúdos prejudiciais e afirma que os seus incentivos estão alinhados com a satisfação dos utilizadores e anunciantes a longo prazo. Mas os acontecimentos desta semana transformaram o processo de decisão interna da empresa num objeto de investigação do Congresso, e não apenas numa política corporativa.
A escalabilidade é agora tanto a vantagem como a vulnerabilidade do Facebook
A interrupção de segunda-feira e o depoimento de terça-feira dizem respeito a problemas diferentes, mas apontam para o mesmo facto estrutural: a escala do Facebook amplifica as consequências tanto das decisões técnicas como das políticas da empresa. Um comando de router equivocado pode interromper a comunicação de milhares de milhões de utilizadores. Uma mudança de classificação pode alterar o que enormes populações veem. Um design de produto orientado para aumentar o engagement pode afetar o comportamento social muito para além da sede da empresa.
A empresa já enfrentou críticas relacionadas com a privacidade, integridade eleitoral e moderação de conteúdos, incluindo uma investigação mais ampla do Senado sobre a segurança online das crianças no início deste ano. Uma audição da Comissão do Comércio, , examinou as práticas de manipulação de design e de dados em grandes plataformas tecnológicas. O que é diferente agora é a combinação de documentação interna e uma falha de infraestrutura altamente visível, ocorrida com poucas horas de diferença.
Para os decisores políticos, as questões imediatas dizem respeito à transparência, ao acesso à investigação independente, à protecção dos menores e à responsabilidade dos sistemas de recomendação. Para os engenheiros, a interrupção levanta questões distintas sobre a segmentação da rede, as salvaguardas operacionais e os procedimentos de recuperação. Para o Facebook, ambos os desafios surgem numa altura em que os seus serviços estão profundamente integrados no comércio, nos media e na comunicação privada em grande parte do mundo.
A empresa restabeleceu a sua rede. Recuperar a confiança nos sistemas construídos sobre ela será mais complicado.
