Jak omezit vysílání vražd živě na Facebooku? Pomoci mají uživatelé, ve hře jsou i drahé technologie

Společnost Facebook přehodnocuje způsob, jakým posuzuje nezávadnost příspěvků. Firma se ocitla pod palbou kritiky poté, co na sociální síti zůstalo více než dvě hodiny video s vraždou, kterou americký zabiják živě streamoval na Facebook. Do budoucna by mělo být pro uživatele snazší nevhodné video nahlásit.

Video Horizont ČT24
video

Facebook řeší, jak účinněji regulovat videoobsah

Vrah Steve Stephens byl později nalezen zastřelený v autě – zřejmě spáchal sebevraždu. Svou oběť si pravděpodobně vybral náhodně, za vším měl být nepříjemný rozchod.

Na děsivém videozáznamu zachytil Stephens svou jízdu bílým autem. Když začne zpomalovat, mluví o tom, že našel někoho, koho jde zabít. Pak zastavuje, vystupuje z bílého vozu, přistoupí ke starému muži na chodníku a začne s ním mluvit. Pak jej pistolí zasáhne do hlavy. Videozáznam poté ukazuje muže na zemi a krev kolem něj. Stephens rychle nasedá a odjíždí.

Zablokovat video trvalo Facebooku příliš dlouho, ozývají se kritici 

Na provozovatele světoznámé sociální sítě se okamžitě snesla vlna kritiky. Závadný obsah správcům Facebooku někdo nahlásil až hodinu a tři čtvrtě po jeho vyvěšení na profilovém účtu.

„V tomto případě nám první video nikdo neohlásil, dostali jsme pouze hlášení o druhém videu – se střelbou – po více než hodině a 45 minutách poté, co bylo vyvěšeno,“ informoval za společnost Facebook Justin Osofsky.

Trvalo pak ještě 23 minut, než společnost přístup zablokovala. Video s vraždou si mezitím pustilo 22 tisíc uživatelů, přičemž 1200 z nich ho sdílelo dál. „Bohužel to nemohu okomentovat,“ konstatovala manažerka Facebooku Desirée Montemediová.

„Z technologického hlediska, pokud jste rozhodnuti, že daný obsah smažete, je to otázka zlomku sekundy, na druhou stranu vyhodnotit, zda se jedná opravdu o obsah, který má být smazán – zda se jedná o relevantní hlášení – to už může nějakou dobu trvat. Třetí kritérium je, za jak dlouho se provozovatel vůbec dozví, že daný obsah je závadný.“

Jiří Palyza

IT specialista

„Facebook má tým, který (příspěvky) sleduje 24 hodin denně, sedm dní v týdnu, ale často nemohou vidět všechno, takže čekají, až jim komunita nahlásí nevhodný obsah,“ řekla k tomu Tiffany Starneová, která učí mediální strategii na Loyolově Universitě v New Orleans. 

„Budeme stále dělat všechno, co je v našich silách, abychom předešli podobným tragédiím.“

Mark Zuckerberg

spoluzakladatel Facebooku

Vedení Facebooku už připustilo, že mohli postupovat lépe a společnost pracuje na novém způsobu vyhodnocování nezávadnosti příspěvků. „Roboti a algoritmy rozpoznají videa a fotografie mnohem hůř než slova. Oni přitom nebudou zkoumat duševní pochody uživatelů, ale zaměří se právě na algoritmy,“ podotkla profesorka sociálních médií Karen Northová.

Podle inženýra Kima Jovanoviche existují technologie, které si umí poradit na základě modelů se snímky a popsat slovně zrakově postiženým osobám, co na obrázcích je. V případě videa by tak šlo rozčlenit ho na jednotlivé snímky v čase a zanalyzovat.

„Dovedu si představovat vyhledávání podle obrazu. Dnes jsou známy algoritmy, techniky, jak takto vyhledávat. Kupříkladu vložíte fotografii do vyhledávače, tak relevance je kolem 75 procent, to znamená najít typické scény, pohyby těla nebo různé předměty identifikované jako zbraně,“ přitakal IT specialista Jiří Palyza.

Počkat na odezvu uživatelů je prý stejně nejúčinnější

Do technologií, jež by uměly okamžitě rozpoznat videa a rychle je smazat, by se ale musely investovat obrovské sumy, což podle profesora Jovanoviche není příliš reálné. Podle něj je skutečně rychlejší spoléhat na rychlou odezvu od uživatelů než na počítačové systémy.

Palyza tu ale vidí problém. „Mnoho uživatelů není schopno posoudit závažnost problému, důsledky sdílení dalším uživatelům, že se to může dostat k očím dětí nebo k uživatelům, které to může nějakým způsobem poškodit psychicky. Vůbec neuvažují, že se to může dostat k rodině (oběti), kteří vidí otřesné scény,“ podotkl odborník.

Někteří experti si ale nemyslí, že by vládní regulace byly vhodnou odpovědí na podobně znepokojující videa objevující se on-line.