Legislativa je účinná při moderování škodlivého obsahu sociálních médií

Nová studie zjistila, že vládní legislativa, jako je ta, která byla nedávno zavedena v Evropské unii, může být účinná při moderování škodlivého obsahu na sociálních sítích, i když jde o rychle se měnící platformy, jako je X (dříve Twitter). Zjištění mají důsledky pro tvůrce politik, kteří chtějí zavést podobné předpisy.

Platformy sociálních médií jsou nová digitální veřejná náměstí. Jsou skvělé pro udržování aktuálních informací, budování osobních a profesionálních vztahů a vyhledávání a sdílení informací. Mají ale i stinnou stránku: škodlivý obsah.

Škodlivý obsah na sociálních sítích může mít mnoho podob, včetně šíření dezinformací a dezinformací, příspěvků o terorismu a těch, které přitahují sebevraždy, nenávistných projevů vůči ženám, přistěhovalcům a menšinovým skupinám a virových problémů, které ohrožují zdraví mladých lidí.

Zatímco několik zemí zvažuje regulaci obsahu sociálních médií s cílem snížit pravděpodobnost poškození, Evropská unie (EU) v listopadu 2022 zavedla zákon o digitálních službách s cílem bojovat proti šíření nebezpečného obsahu. Nová studie vědců z University of Technology Sydney a Švýcarského federálního technologického institutu v Lausanne se zabývala účinností takové legislativy.

„Sociální sítě jako Facebook, Instagram a Twitter, nyní X, nemají příliš motivaci bojovat proti škodlivému obsahu, protože jejich obchodní model je založen na monetizaci pozornosti,“ řekl Marian-Andrei Rizoui, korespondent studie. „Elon Musk získal Twitter s deklarovaným cílem zachovat svobodu slova pro budoucnost. Avšak vedle svobody slova se v tomto neregulovaném prostoru šíří a prosperují dezinformace a dezinformace.

Právní předpisy EU zavedly mechanismy upozornění a opatření pro hlášení škodlivého obsahu online a vyžadují jmenování „důvěryhodných nahlašovatelů“, odborníků na dané téma, kteří jsou odpovědní za odhalování škodlivého obsahu. Jakmile je obsah označen, jsou platformy povinny jej odstranit do 24 hodin. Sociální média jsou však nejlépe známá pro svou „viralitu“, schopnost rychle a široce se šířit obsah. Hlavní otázkou pro výzkumníky v současné studii tedy bylo: může být tato legislativa účinná?

„Na Twitteru jsme viděli příklady, kdy sdílení falešného obrázku výbuchu poblíž Pentagonu způsobilo pokles amerického akciového trhu během několika minut, takže existovaly pochybnosti o tom, zda budou mít nové předpisy EU dopad,“ řekl Rizoui.

Výzkumníci použili modelování šíření informací k analýze dynamiky šíření obsahu. Aby prozkoumali vztah mezi dobou zmírňování a snižováním škod, zkoumali dvě měřítka: potenciální poškození, počet generovaných škodlivých „potomků“ a poločas rozpadu, čas, který trvá, než se vytvoří polovina všech potomků.

Předchozí výzkum určil poločas rozpadu příspěvků na sociálních sítích na různých platformách. X má nejrychlejší poločas rozpadu obsahu 24 minut, následuje Facebook 105 minut, Instagram 20 hodin a LinkedIn 24 hodin, přičemž poločas rozpadu YouTube je 8,8 dne.

„Nižší poločas znamená, že většina škod nastane hned po zveřejnění obsahu a moderování obsahu musí být provedeno rychle, aby bylo efektivní,“ řekl Rizoui. „Zjistili jsme, že reakční doba potřebná pro moderování obsahu se zvyšuje s poločasem rozpadu obsahu a potenciálním poškozením.“

Výzkumníci zjistili, že i při 24hodinovém obratu je vládou nařízená umírněnost pravděpodobně účinná při omezování škod, ale byla závislá na některých klíčových faktorech.

„Klíč k úspěšné regulaci zahrnuje jmenování důvěryhodných nahlašovatelů, vývoj účinného nástroje pro hlášení škodlivého obsahu napříč platformami a správný výpočet potřebné doby reakce na moderování,“ řekl Rizoui.

Výzkumníci tvrdí, že jejich studie má důsledky pro tvůrce politik, kteří chtějí uzákonit podobnou legislativu. USA a Spojené království provedly veřejné průzkumy, aby zjistily rozsah škodlivého obsahu sociálních médií, a zvažují jeho regulaci.

První zjištění z národního průzkumu veřejného postoje k AI a technologiím založeným na datech zveřejněná ve Spojeném království v březnu 2023 ukázala, že téměř 90 % lidí ve věku 18 až 34 let bylo alespoň jednou svědkem nebo obdrželo škodlivý obsah online. Dvě třetiny všech dospělých ve Spojeném království uvedly, že byli alespoň jednou vystaveni nenávistným projevům, nepravdivým informacím, falešným obrázkům a šikaně, a více než 40 % 18 až 24letých bylo vystaveno tomuto typu škodlivého obsahu. mnohokrát.“

V květnu tohoto roku vydal americký generální chirurg doporučení o účincích sociálních médií na zdraví mládeže, ve kterém uvedl, že 64 % dospívajících bylo „často“ nebo „někdy“ vystaveno obsahu založenému na nenávisti prostřednictvím sociálních médií. Doporučení doporučilo, aby technologické společnosti upřednostňovaly bezpečnost a zdraví, zejména pro děti.

Australský zákon o online bezpečnosti vstoupil v platnost v lednu 2022 a poskytuje komisaři pro eSafety pravomoc prosazovat předpisy, které mimo jiné zakazují kyberšikanu, zneužívání na základě obrázků a nezákonný, škodlivý a násilný obsah.

V této souvislosti je povzbudivé, že současná studie ukazuje, jak může být legislativa účinná při zmírňování škod na internetu.

„Pochopením dynamiky šíření obsahu, optimalizací snah o moderování a implementací předpisů, jako je zákon EU o digitálních službách, můžeme usilovat o zdravější a bezpečnější digitální veřejné náměstí, kde se omezuje škodlivý obsah a kde se daří konstruktivnímu dialogu,“ řekl Rizoui.

Studie byla publikována v časopise PNAS.

Zdroj: University of Technology Sydney