Het openbare schoolsysteem in Seattle is ontevreden.
Het district, belast met het lesgeven aan ongeveer 50.000 studenten in 100 scholen, wordt geconfronteerd met wat het een ‘geestelijke gezondheidscrisis’ noemt. En hij wijt de crisis aan vier socialemediabedrijven: Meta, het moederbedrijf van Facebook, Instagram en WhatsApp; ByteDance, het moederbedrijf van TikTok; Alphabet, het moederbedrijf van YouTube; en Snap, het bedrijf achter Snapchat.
Het schooldistrict dus diende een klacht in (pdf) tegen de vier bedrijven – die tot de meest waardevolle bedrijven ter wereld behoren met een gecombineerde marktkapitalisatie van ongeveer $ 2 biljoen – voor het aanrichten van grote schade aan de studentenpopulatie.
“Van 2009 tot 2019 was er een gemiddelde toename van 30% in het aantal leerlingen op de scholen van de klager die aangaven zich gedurende twee of meer opeenvolgende weken bijna elke dag ‘zo verdrietig of hopeloos’ te voelen. [they] stopte met het doen van bepaalde gebruikelijke activiteiten’, schreven advocaten van het schooldistrict in een rechtszaak van 92 pagina’s, ingediend bij de federale rechtbank in Seattle op 1 januari. 6.
Seattle Public Schools beweert dat de beklaagden de wet op openbare overlast van de staat Washington hebben geschonden, een vage wet die vaker wordt gebruikt voor klachten over geluidsoverlast dan voor misdrijven door bedrijven.
De rechtszaak is een puzzel. Het is gebouwd op een laag causaliteit, vertelden juridische experts aan Quartz, tussen de acties van sociale-mediabedrijven en de verslechterende geestelijke gezondheid van zijn studenten, en gebaseerd op een schadeclaim die beter door de betrokken studenten of ouders zou kunnen worden ingediend dan door een schooldistrict. De rechtszaak maakt ook een juridisch argument met betrekking tot sectie 230 van de Communications Decency Act, een belangrijke maar controversiële wet die websites enige bescherming biedt tegen wettelijke aansprakelijkheid voor door gebruikers gegenereerde inhoud. Maar dat argument kan binnenkort ter discussie worden gesteld door het Amerikaanse Hooggerechtshof, dat zich in zijn huidige zittingsperiode bezighoudt met de kwestie van sectie 230.
Het argument van het Seattle School District
Seattle Public Schools zegt dat het ontwerp en de algoritmen die de genoemde socialemediabedrijven aandrijven, verantwoordelijk zijn voor het leed van de studenten.
Het gebruik van sociale media heeft een gevestigde impact. Vorig jaar bleek uit een onderzoek van de Wall Street Journal – aangespoord door een klokkenluider – dat bijvoorbeeld uit Meta’s eigen interne onderzoek bleek dat Instagram negatief werd beïnvloed. tiener lichaamsbeeld. Maar in een juridische context zeggen experts dat het moeilijk is om de oorzaak van psychische problemen bij individuele kinderen te isoleren, laat staan bij de duizenden die samen een groot schooldistrict bezoeken. En natuurlijk kunnen sociale media sommige studenten kwetsen, terwijl anderen anderen helpen online community’s en vrienden te vinden.
“Het lijdt geen twijfel dat adolescenten onder buitengewone psychologische druk staan, misschien wel ongekende druk, maar er zijn zoveel redenen waarom dit het geval zou kunnen zijn”, zegt professor Eric Goldman van de universiteit van Santa Clara, die de drastische gevolgen van de pandemie. “Het is moeilijk om te isoleren wat stress veroorzaakt bij Gen Z … omdat alles met elkaar verband houdt.”
Jennifer Granick, een advocaat bij de American Civil Liberties Union, zei in een interview dat ze niet weet hoe het schooldistrict kan bewijzen dat het haar hele studentenbestand heeft geschaad, kan rechtvaardigen dat het van de juiste klager was en de oorzaken van de geestelijke gezondheidscrisis op sociale media.
“Hoe gaan ze een oorzakelijk verband aantonen – dat deze crisis te wijten is aan sociale media en niet aan een van de miljoenen andere oorzaken, zoals stress, armoede en de pandemie?” zij vroeg.
Goldman had ook bezwaar tegen het schooldistrict dat de zaak had aangespannen. “Het verbaast me dat het schooldistrict de juiste aanklager is”, zei hij. “Denk eens aan alle dingen die in de samenleving gebeuren en zich manifesteren in de schoolomgeving. Kunnen schooldistricten aanklagen voor al deze andere kwesties?”
Sociale media zijn de laatste in een lange lijst van pestkoppen die ouders en ambtenaren in de loop der jaren hebben beschuldigd van het corrumperen van de jeugd van het land. Het is een lijst met zaken als heavy metal, videogames en marihuana.
“Kunnen schooldistricten platenlabels aanklagen die heavy metal uitbrengen of game-uitgevers die videogames uitbrengen of wietdealers die wiet verkopen?” vroeg Goldman. “Waar begint het en waar stopt het? Het slaat gewoon nergens op.
De rechtszaak zoekt slechts één aanklacht: een schending van de openbare overlastwet van de staat. Maar Goldman zei dat openbare overlastwetten over het algemeen van toepassing zijn op fysieke ruimtes, niet op digitale ruimtes.
“Het is een ongebruikelijke bewering,” zei hij. “Als er een drugsdealer aan de overkant van de straat een winkel opent, zou dat voor overlast kunnen zorgen. Software noemen die op geen enkele manier met school te maken heeft, is gewoon raar.
Een woordvoerder van Seattle Public Schools reageerde niet op een verzoek om commentaar.
De slag op sectie 230
De meest opvallende juridische claim in de rechtszaak is dat sectie 230 van de Communications Decency Act de vier beklaagden niet beschermt tegen wettelijke aansprakelijkheid voor ontwerpbeslissingen die hun respectieve algoritmen beheersen.
Sectie 230 is de afgelopen jaren een bliksemafleider geworden voor kritiek op sociale media. De wet, die in 1996 van kracht werd, beschermt in wezen eigenaren van websites die inhoud van derden hosten, zoals webforums, commentaarsecties en sociale media, tegen bepaalde aansprakelijkheden.
Geleerden erkennen Sectie 230 grotendeels als intrinsiek aan de groei en rijping van het moderne web: het geeft website-eigenaren de ruimte om hun wettelijke recht, beschermd door het Eerste Amendement, uit te oefenen om inhoud naar eigen goeddunken te modereren. En het ondersteunt de grootste bedrijven van Silicon Valley die afhankelijk zijn van door gebruikers gegenereerde berichten, foto’s, video’s, opmerkingen, recensies, aanbevelingen en meer om te groeien.
Maar tech-critici hebben overal gezocht naar een manier om sociale-mediabedrijven in toom te houden waarvan ze zeggen dat ze te machtig zijn geworden en die macht misbruiken. Amerikaanse politici die ideologisch zo divers zijn als de Republikeinse senator Josh Hawley en de democratische senator Amy Klobuchar, hebben wetsvoorstellen ingediend om sectie 230 te wijzigen. Deze week heeft president Joe Biden geschreven in de Wall Street Journal dat het Congres “Sectie 230 van de Communications Decency Act, die technologiebedrijven beschermt tegen wettelijke aansprakelijkheid voor inhoud die op hun sites wordt geplaatst, fundamenteel moet hervormen”.
Een datum voor het hooggerechtshof voor artikel 230
In hun rechtszaak beweert Seattle Public Schools dat Meta, Alphabet, Snap en ByteDance zich niet kunnen verschuilen achter Sectie 230 voor wat hun algoritmen hebben gekozen om te promoten, waarbij ze in feite een federale rechtbank vragen om de aansprakelijkheid af te wegen voor “het aanbevelen en promoten van inhoud die schadelijk is voor jongeren”. . ”, zo luidt de aanklacht.
Deze vraag is de moeite waard om te stellen, maar er is een voorbehoud: dit is al een kwestie voor de Hoge Raad. (In een verontrustend teken voor de wet heeft rechter Clarence Thomas eerder aangegeven dat hij denkt dat sectie 230 opnieuw moet worden beoordeeld.) Twee zaken die verband houden met sectie 230—González c. Google en Twitter versus Taamneh– hebben deze termijn 230 beschermingen naar voren gebracht voor de rechters van het Hof.
In beide zaken wordt grotendeels beoordeeld of artikel 230 YouTube, eigendom van Google, en Twitter beschermt tegen wettelijke aansprakelijkheid. volgens de Amerikaanse antiterrorismewetten, benadrukkend over de rol die hun algoritmen spelen bij het aanbevelen van ISIS-rekruteringscontent aan gebruikers.
Granick zei dat hoewel algoritmen controversieel kunnen zijn, ze onlosmakelijk verbonden zijn met de manier waarop socialemediabedrijven hun wettelijke recht uitoefenen om content te modereren. “Een algoritme is slechts een geautomatiseerde manier om beleid in te voeren”, zei ze. “Zo elimineren ze haatspraak. Dit is hoe ze desinformatie elimineren. Zo elimineren ze intimidatie.