As escolas de Seattle culpam as redes sociais por uma crise de saúde mental. As empresas de tecnologia são responsáveis?

O sistema de escolas públicas de Seattle é infeliz.

O distrito, encarregado de ensinar cerca de 50.000 alunos em 100 escolas, enfrenta o que chama de “crise de saúde mental”. E culpou quatro empresas de mídia social pela crise: Meta, controladora do Facebook, Instagram e WhatsApp; ByteDance, empresa-mãe da TikTok; Alphabet, empresa controladora do YouTube; e Snap, a empresa por trás do Snapchat.

Então o distrito escolar entrou com uma ação (pdf) contra as quatro empresas, que estão entre as empresas mais valiosas do mundo, com uma capitalização de mercado combinada de cerca de US$ 2 trilhões, por causar estragos em sua população estudantil.

“De 2009 a 2019, houve um aumento médio de 30% no número de alunos em pescolas de queixosos que relataram sentir-se ‘tão tristes ou sem esperança’ quase todos os dias durante duas semanas ou mais seguidas do que [they] ele parou de fazer algumas atividades regulares”, escreveram os advogados do distrito escolar em um processo de 92 páginas aberto no tribunal distrital federal de Seattle em 6 de janeiro.

As Escolas Públicas de Seattle alegam que os réus violaram a lei de conduta desordeira do estado de Washington, um estatuto vago mais comumente usado para denúncias de ruído do que prevaricação corporativa.

A demanda é uma cabeçaraspador. Ele é construído sobre um chance fraca, especialistas jurídicos disseram a Quartz, entre as ações das empresas de mídia social e a saúde mental degradada de seus alunos, e com base em um pedido de indenização que seria melhor interposto pelos alunos ou pais afetados do que por um distrito escolar. O processo também faz um argumento legal sobre a Seção 230 da Lei de Decência nas Comunicações, um estatuto importante, mas controverso, que dá aos sites alguma proteção contra responsabilidade legal por conteúdo gerado pelo usuário. Mas esse argumento pode se tornar irrelevante em breve para a Suprema Corte dos EUA, que está analisando a questão da Seção 230 em seu mandato atual.

O argumento do distrito escolar de Seattle

As Escolas Públicas de Seattle dizem que o design e os algoritmos que alimentam as empresas de mídia social nomeadas são responsáveis ​​pelo sofrimento de seus alunos.

Existem repercussões bem estabelecidas para o uso das mídias sociais. No ano passado, uma investigação do Wall Street Journal, motivada por um denunciante, descobriu que a própria investigação interna da Meta, por exemplo, mostrou que o Instagram foi afetado negativamente. imagem corporal adolescente. Mas, em um contexto legal, os especialistas dizem que é difícil isolar a causa dos problemas de saúde mental em crianças individuais, sem falar nos milhares coletivos que frequentam um grande distrito escolar metropolitano. E, claro, a mídia social pode prejudicar alguns alunos enquanto ajuda outros a encontrar uma comunidade e amigos online.

“Não há dúvida de que os adolescentes estão sob pressão psicológica extraordinária, talvez pressão sem precedentes, mas há muitas razões pelas quais isso pode acontecer”, disse Eric Goldman, professor da Escola de Direito da Universidade de Santa Clara, que enfatizou a drástica efeitos da pandemia. “É difícil isolar o que está causando estresse entre a Geração Z… porque tudo está inter-relacionado.”

Jennifer Granick, advogada da American Civil Liberties Union, disse em uma entrevista que não tinha certeza de como o distrito escolar pode provar danos a todos os seus alunos, justificar que é o autor certo e isolar as causas da crise de saúde. .mental para mídias sociais.

“Como vão provar a causalidade, que esta crise se deve às redes sociais e não a nenhuma das milhões de outras causas, como o stress, a pobreza e a pandemia?” ela perguntou.

Goldman também se opôs ao fato de o distrito escolar apresentar o caso. “A ideia de que o distrito escolar é o autor certo me deixa perplexo”, disse ele. “Pense em todas as coisas que acontecem na sociedade e que se manifestam no ambiente escolar. Os distritos escolares podem processar por todas essas outras questões?”

A mídia social é o mais recente de uma longa lista de fantasmas que pais e autoridades culparam ao longo dos anos por corromper a juventude do país. É uma lista que inclui coisas como heavy metal, videogames e maconha.

“Os distritos escolares podem processar gravadoras que lançam heavy metal ou editoras de jogos que lançam videogames ou traficantes de maconha que vendem maconha?” Goldman perguntou. “Onde isso começa e termina? Simplesmente não faz sentido.”

A ação busca apenas uma acusação: violação da lei estadual de conduta desordeira. Mas Goldman disse que as leis de conduta desordeira geralmente se aplicam a espaços físicos, não digitais.

“É uma afirmação incomum”, disse ele. “Se houver um traficante de drogas abrindo uma loja do outro lado da rua, isso seria o tipo de coisa que poderia ser um incômodo público. Chamar o software que não está conectado à escola de forma alguma de perturbação pública é simplesmente bizarro.”

Um porta-voz das Escolas Públicas de Seattle não respondeu a um pedido de comentário.

A Batalha pela Seção 230

A reivindicação legal mais proeminente no processo é que a Seção 230 da Lei de Decência nas Comunicações falha em proteger os quatro réus da responsabilidade legal por decisões de design que controlam seus respectivos algoritmos.

A Seção 230 se tornou um para-raios para críticas nas mídias sociais nos últimos anos. O estatuto, sancionado em 1996, protege essencialmente os proprietários de sites que hospedam conteúdo de usuários de terceiros, como fóruns da web, seções de comentários e redes sociais, de certa responsabilidade.

A seção 230 é amplamente reconhecida pelos estudiosos como intrínseca ao crescimento e amadurecimento da web moderna: ela dá aos proprietários de sites espaço para respirar para exercer seu direito legal da Primeira Emenda de moderar o conteúdo como bem entenderem. E apoiou as maiores empresas do Vale do Silício que dependem de postagens, fotos, vídeos, comentários, críticas, recomendações e muito mais gerados por usuários para crescer.

Mas os críticos da tecnologia têm procurado por toda parte uma maneira de controlar as empresas de mídia social que eles acham que se tornaram muito poderosas e estão abusando desse poder. Políticos americanos tão ideologicamente diversos quanto o senador republicano Josh Hawley e a senadora democrata Amy Klobuchar apresentaram projetos de lei para alterar a Seção 230. Esta semana, o presidente Joe Biden escreveu no Wall Street Journal que o Congresso deveria “alterar fundamentalmente a Seção 230 da Lei de Decência nas Comunicações, que protege as empresas de tecnologia da responsabilidade legal pelo conteúdo postado em seus sites”.

Uma data da Suprema Corte para a Seção 230

Em seu processo, as Escolas Públicas de Seattle afirmam que Meta, Alphabet, Snap e ByteDance não podem se esconder atrás da Seção 230 para o que seus algoritmos escolheram promover, efetivamente pedindo a um tribunal federal que avalie a responsabilidade por “recomendar e promover conteúdo prejudicial a jovens pessoas.” ”, como diz a denúncia.

Vale a pena fazer essa pergunta, mas há uma ressalva: já é uma questão perante a Suprema Corte. (Em um sinal preocupante para a lei, o juiz Clarence Thomas disse anteriormente que acha que a Seção 230 deve ser reavaliada.) Dois casos relacionados à Seção 230:González x Google Y Twitter contra Taamneh— colocaram as proteções de 230 frente e no centro perante os juízes do Tribunal neste período.

Os dois casos avaliam amplamente se a Seção 230 protege o YouTube, de propriedade do Google, bem como o Twitter, de responsabilidade legal. sob as leis antiterrorismo dos Estados Unidos, com foco sobre o papel que seus algoritmos desempenham na recomendação de conteúdo de recrutamento do ISIS para os usuários.

Granick disse que, embora os algoritmos possam ser controversos, eles são inseparáveis ​​de como as empresas de mídia social exercem seu direito legal de moderar o conteúdo. “Um algoritmo é apenas uma maneira automatizada de implementar políticas”, disse ele. “É assim que eles eliminam o discurso de ódio. É assim que eles eliminam a desinformação. É assim que eles eliminam o bullying.”