Regulacija govora mržnje i lažnih sadržaja veliki je izazov pred tehnološkim platformama. 

foto: screenshot/Twitter

Problem govora mržnje na internetu, a pogotovo na društvenim mrežama, posljednjih godina izaziva veliku pažnju ne samo stručne nego i šire javnosti. Sloboda bez odgovornosti je čini se “modus operandi” velike većina korisnika, što po pravilu dovodi do kontaminacije javnog online prostora. Osim toga, različite krize kao što su pandemija virusa korona ili protesti, pogoduju generisanju govora mržnje ali i širenju različitih oblika dezinformacija na internetu.

Početkom jula ove godine više od 400 kompanija među kojima su Koka Kola, Ford, Adidas i Starbaks, su odustale od reklamiranja putem Fejsbuka zbog talasa govora mržnje na toj mreži koji je uslijedio nakon ubistva Džordža Flojda 25. maja 2020. godine u Minesoti.

Različite organizacije koje se bore za ljudska prava su tokom juna pokrenule kampanju “Stop Hate for Profit” u koju su se uključile i velike kompanije kako bi izvršile pritisak na Fejsbuk u cilju usporavanja i zaustavljanja širenje govora mržnje na toj mreži. Posljedice bojkota još uvijek nisu vidljive, a kompanije su odlučile da će učestvovati mjesec dana, tako da bi se sve moglo završiti na gotovo deklarativnoj podršci u borbi protiv govora mržnje.

Gledano sa aspekta zarade, Fejsbuk ne mora pretjerano da strahuje od kampanje, jer sve ukazuje da neće imati velikih finansijskih gubitaka. U 2019. godini su od reklamiranja putem svoje platforme ostvarili svega 6 post ukupne zarade (70 milijardi dolara), navodi se u istraživanju Morningstarove studije pozivajući se na Pathmatics podatke, koji mjere većinu vrsta oglašavanja na platformi. Fejsbuk je zvanično saopštio da je prošle godine njegovih 100 najboljih oglašivača činilo manje od 20 posto ukupnog prihoda od oglasa.

Govor mržnje i Fejsbuk

Borba protiv govora mržnje nije nova tema u kompaniji Fajsbuk. Proteklih nekoliko godina su napravljeni određeni napori kako bi se uklanjale objave u kojima postoje elementi govora mržnje. Fejsbuk definiše govor mržnje kao “direktan napad na ljude” na osnovu onoga što nazivaju “zaštićene karakteristike” kao što su:  rasa, etnička pripadnost, nacionalno porijeklo, vjerska pripadnost, seksualna orijentacija, kasta, pol, rodni identitet, ozbiljna bolest ili invaliditet. Takođe tom definicijom je obuhvaćen napad na osnovu starosti kada je ona uparena sa nekom drugom “zaštićenom karakteristikom”. Napad se definiše kao nasilni ili dehumanizujući govor, izjave o inferiornosti ili pozivi na isključenje ili segregaciju.

Fejsbukov sistem za detekciju govora mržnje je 2017. godine uspio prepoznati svega četvrtinu od ukupnog broja registrovanih slučajeva govora mržnje, dok su ostale tri četvrtine registrovane i sankcionisane tek nakon internvencije korisnika. Ipak, taj sistem je značajno unaprijeđen tako da je početkom 2020. godine čak 88 posto od ukupnog broja sadržaja sa elementima govora mržnje bilo prepoznato uz pomoć takvog alata, što je četiri puta više nego 2017. godine. Na zvaničnoj stranici Fejsbuka stoji da je u prva tri mjeseca 2020. godine analizirano 9,6 miliona sadržaja što je skoro duplo više nego u zadnjem kvartalu 2019. godine (5,7 miliona). Razlog za to je što je sistem za otkrivanje govora mržnje proširen i obuhvata i druge jezike. Kako bi podstakao razvoj softvera za detaljnije otkrivanje govora mržnje, Fejsbuk je kreirao kolekciju od više od 10.000 mimova sa elementima govora mržnje koji kombinuju tekst i sliku. S tim u vezi taj novomedijski gigant je odlučio dodijeliti nagradu od 100.000 dolara inženjerskim grupama koje uspiju stvoriti softver koji će moći prepoznati govor mržnje u mimovima.

Fejsbuk, Tramp i govor mržnje  

Ipak postoje optužbe da Fejsbuk još od 2015. godine konstantno prilagođava svoja pravila američkom predsjedniku Donaldu Trampu. Još 2015. godine su uveli pravilo o slobodi “političkog diskursa” čime je dozvoljeno postavljanje i širenje video klipa u kojem Tramp poziva na zabranu muslimana da uđu u SAD.

Još jedna problematična odluka Fejsbuk iz 2019. godine je bila na udaru kritike javnosti. U pitanju je objava izrežiranog snimka na kojem se pojavljuje predsjednica Predstavničkog doma američkog Kongresa Nensi Pelosi (inače politička protivnica Donalda Trampa) u pijanom stanju. Ustvari video je bio montiran, a Fejsbuk je odlučio da ne obriše taj lažni sadržaj. Umjesto toga korisnicima koji bi htjeli pogledati ili podjeliti sadržaj na ekranu bi se pojavilo upozorenje da se radi o sadržaju koji ima manipulativni karakter. Problem je što je u toj situaciji Fejsbuk uopšte ostavio mogućnost da se korisnici informišu o navedenom slučaju na nekom drugom sajtu čime se na neki način ostavlja mogućnost da se zaključi da nije u pitanju lažni sadržaj. Slučaj je na neki način poslužio kao argument za one koji smatraju da Fejsbuk ima navijački odnos prema Donaldu Trampu.

Okidač za novi talas govora mržnje na društvenim mrežama je bila Trampova objava (28. maj 2020.) “kad krenu pljačke, kreće i pucnjava”, koja se odnosila na proteste protiv rasizma u SAD-u koji su bili motivisani ubistvom Džordža Lojda. Ta objava je ocijenjena kao huškanje i poziv na linč prema Afroamerikancima u SAD-u. Još jednom, Fejsbuk je odlučio da ne obriše objavu argumentujući to pravom na slobodu mišljenja kao i pravom javnosti da bude upoznata sa aktivnostima predsjednika, pogotovo kada se radi o potencijalnoj državnoj upotrebi sile. Osim toga, sve veći broj zaposlenih na Facebooku iz moralnih razloga napušta kompaniju, jer smatraju da Cukerberg polako gubi integritet. Više od 5.000 zaposlenih se ne slaže sa odlukom Cukerberga da ostavi Trampovu problematičnu objavu o događajima u Minesoti.

Ovakvi i slični ustupci koji se prave moćnim političarima polako, ali sigurno mogu dovesti do transformacije globalne društveno-političke scene. Tako političari širom svijeta mogu biti ohrabreni Trampovim medijskim nastupima i objavama na društvenim mrežama, što posljedično može dovesti do toga da i sami preuzmu sličnu matricu objavljivanja problematičnih sadržaja, dezinformacija, odnosno da koriste zapaljivu retoriku. Takav komunikacioni stampedo uglavnom dovodi do zbunjivanja publike, što je posebno opasno u vremenima različitih kriza. Neodgovornost i bahaćenje političara putem društvenih mreža, koje se još uvijek doživljavaju kao neregulisani “divlji zapad”, mogu imati široke društvene posljedice i ugroziti demokratske vrijednosti i poredak.  

Tviter u borbi protiv govora mržnje i fejk njuza

Sa druge strane Tviter je spornu Trampovu objavu “kad krenu pljačke, kreće i pucnjava”, označio kao kršenje njihovih pravila o zabrani glorifikovanja nasilja. I pored toga Tviter nije izbrisao objavu predsjednika Trampa, jer bi mogla biti od značaja za širu javnost. Inače, Tviter je 2019. godine uveo pravilo poznato kao “Trampovo pravilo” prema kojem će na tvitovima čiji sadržaj krši pravila staviti posebnu oznaku. Tvitovi koji budu označeni kao problematični će i dalje biti dostupni, ali se neće pojavljivati u pretragama niti će ih tviterov algoritam preporučiti korisnicima. Te izmjene predstavljaju veliki pomak u naporima Tvitera da uravnoteži svoje ideološko opredjeljenje za slobodno izražavanje sa zahtjevima korisnika za poboljšanom primjenom pravila protiv uznemiravanja, govora mržnje i drugog toksičnog ponašanja. To pravilo je između ostalog usmjereno na sve političare koji koriste Tviter kako bi širili govor mržnje, dezinformacije, i generalno kontaminirali javni prostor.

Da Tviter ulaže značajne napore kako bi koliko-toliko uredio platformu, govori i primjer iz marta kada se nakon jednog predizbornog mitinga demokratskog kandidata za predsjednika SAD-a Džoa Bajdena, na Tviteru pojavio montirani, lažni snimak na kojem se može vidjeti Bajden kako govori da je na predstojećim predsjedničkim izborima u SAD-u jedino moguće ponovo izabrati Trampa (We can only re-elect Donald Trump). Taj lažirani snimak je postao viralan, a između ostalih objavili su ga na svojim Tviter nalozima Trampov savjetnik Dan Skavino, kao i sam Tramp. Ono što je važno jeste da je Tviter, po prvi put u tom slučaju, iskoristio svoj novi pravilnik protiv sintetičkog i manipulativnog video sadržaja. Utvrđeno je da taj sadržaj ima manipulativni karakter i označen je plavom bojom, što se može vidjeti u donjem lijevom uglu. Do tog trenutka video je već bio pregledan više od pet million puta i retvitovan više od 20.000 puta.

Od maja 2020. godine slične oznake su se počele pojavljivati na tvitovima koji sadrže potencijalno štetne, obmanjujuće informacije povezane sa COVID-19. Suština je da se uz sporne tvitove nalazi i upozorenje da sadržaj krši Tviterov pravilnik kao i link za vjerodostojni sajt na kojem je moguće dobiti više informacija o virusu korona.

Definisanje i otkrivanje govora mržnje jedan je od najvećih političkih i tehničkih izazova za sve onlajn platforme. Taj problem nije samo tehničke prirode, već se u različitim kulturama različito definiše govor mržnje, što dodatno otežava klasifikaciju i praćenje slučajeva na globalnom nivou. Vještačka inteligencija i algoritmi još uvijek su daleko od toga da mogu biti senzibilni kao ljudi, odnosno da mogu kontekstualizovati pojedinačne slučajeve govora mržnje. U tom smislu rad na algoritmima koji će biti sofisticiraniji od postojećih zapravo tek počinje.

Iako postoje algoritmi za prepoznavanje govora mržnje, oni ne moraju nužno biti objektivni. Rezultati jednog istraživanja su otkrili da je 2,2 puta veća mogućnost da će algoritmi označiti tvitove kao govor mržnje onda kada su njihovi autori Afroamerikanci. Ipak takvi rezultati se ne mogu uzeti zdravo za gotovo s obzirom na to da je pitanje govora mržnje uvijek pitanje važećih (lokalnih) društvenih normi i konteksta. U tom smislu postojeći algoritmi će uvijek označiti “n - word” kao problematičnu. Ipak ova riječ se svakodnevno koristi u komunukaciji unutar afroameričke zajednice i nema negativnu konotaciju. To je zato što algoritmi nisu dovoljno sofisticirani da bi mogli prepoznati te kulturološke razlike, što može dovesti do pogrešnih zaključaka.

___