Moderiranje sadržaja o samopovređivanju je izuzetno neadekvatno, navodi se u studiji

foto: Pixabay / Ilustracija

Kompanija društvenih mreža Meta aktivno pomaže da se sadržaji o samopovređivanju šire na Instagramu, navodi se u novoj studiji danske organizacije Digitalt Ansvar. Meta to čini na način da ne uklanja eksplicitne slike i ohrabruje one koji koriste takve sadržaje da se sprijatelje jedni s drugima, prenosi Guardian. 

Studija je ocijenila da je moderiranje takvog sadržaja na Instagramu izuzetno neadekvatno.

Danski istraživači su stvorili mrežu od deset lažnih profila, među kojima i lažne profile maloljetnika, na kojima su kroz četiri sedmice podijelili 85 sadržaja o samopovređivanju, a Instagram nije uklonio nijedan takav sadržaj. Lažni profili, uključujući i lažne profile maloljetnika, nisu dobili upozorenja da sadržaj krši pravila Instagrama, niti su dobili upute ili ohrabrenje da potraže pomoć prilikom dijeljenja materijala, piše Digitalt Ansvar,  organizacija koja promoviše odgovorni digitalni razvoj.

Cilj studije je bio testirati tvrdnju Mete da je značajno poboljšala svoj proces za uklanjanje štetnog sadržaja za koji je ova kompanija rekla da koristi umjetnu inteligenciju (AI).

Studija je pokazala ne samo da Meta ne uklanja sadržaje o samopovređivanju već njihov algoritam širi takve sadržaje čak i prema profilima maloljetnika. Tokom istraživanja lažni profili maloljetnika su dobili preporuke da postanu prijatelji s drugima iz mreže koji šire sadržaje o samopovređivanju. 

Glasnogovornik Mete je, prenosi Guardian, rekao da je sadržaj koji potiče samopovređivanje protiv pravila kompanije i da takav sadržaj, kada ga otkriju, uklanjaju.

"U prvoj polovini 2024. na Instagramu smo uklonili više od 12 miliona sadržaja koji se odnose na samoubistvo i samopovređivanje, od kojih smo 99 posto proaktivno uklonili", izjavio je.

U izjavi je podsjetio i da je Meta ranije ove godine pokrenula Instagram Teen Accounts, čime se, kako je rekao, tinejdžeri postavljaju u "najstrože postavke kontrole osjetljivog sadržaja".

Organizacija Digitalt Ansvar je provela i jednomjesečni eksperiment te je kreirala vlastiti AI alat za analizu sadržaja i uspjela automatski identifikovati 38 posto slika o samopovređivanju i 88 posto veoma eksplicitnog sadržaja. Ovo pokazuje da Instagram može uklanjati takav sadržaj ukoliko to želi, zaključuju iz Digitalt Ansvara. 

U razgovoru za Observer, koji prenosi Guardian, Ask Hesby Holm, izvršni direktor Digitalt Ansvara, kazao je da neuspjeh u moderiranju slika samopovređivanja može rezultirati teškim posljedicama.

"Ovo je mnogo povezano sa samoubistvom. Dakle, ako niko ne prijavljuje ili ništa ne radi u vezi sa ovim grupama, one ostaju nepoznate roditeljima, vlastima, onima koji mogu pomoći u podršci", izjavio je.

Guardian prenosi i izjavu Lotte Rubæk, psihologinje koja je u martu napustila Metinu ekspertsku grupu za prevenciju samoubistava, u kojoj je kazala da iako nije iznenađena ukupnim nalazima studije, bila je šokirana kada je vidjela da nisu uklonili najeksplicitniji sadržaj.

Rubæk je između ostalog kazala i da Metin neuspjeh da ukloni slike samopovređivanja sa svojih platformi "pokreće" ranjive mlade žene i djevojke da dodatno naškode sebi i doprinosi porastu broja samoubistava.

Izvor: Digitalt Ansvar, Guardian

___