Tekstovi umjetne inteligencije bi imali poseban žig koji bi alat mogao otkriti.

foto: Unsplash

OpenAI, američka organizacija za istraživanje umjetne inteligencije, razvila je alat koji bi potencijalno mogao otkriti sadržaj koji je kreirao popularni chatbot ChatGPT na način da bi taj sadržaj bio označen žigom, javlja TechCrunch.

Kako TechCrunch i The Wall Street Journal prenose, u kompaniji OpenAI se međutim raspravlja da li da uopće učine dostupnim ovaj alat.

U izjavi datoj TechCrunchu, glasnogovornik OpenAI je potvrdio da kompanija istražuje metodu žiga, ali je istaknuto i da se razmišlja o „smislenom pristupu” zbog „složenosti i njenog vjerovatnog utjecaja na širi ekosistem izvan OpenAI”.

„Metoda žiga koju razvijamo tehnički je obećavajuća, ali ima važne rizike koje odmjeravamo dok istražujemo alternative, uključujući mogućnost da je zaobiđu loši akteri i potencijal da nesrazmjerno utiče na grupe poput onih koji ne govore engleski“, izjavio je glasnogovornik, prenosi TechCrunch.

Ovaj pristup, kako dodaje TechCrunch, bi bio drugačiji od većine prethodnih pokušaja da se otkriju tekstovi generisani umjetnom inteligencijom, a koji su, kako se dodaje, uglavnom bili neučinkoviti. Čak je i sam OpenAI, piše TechCrunch, ugasio svoj prethodni detektor AI teksta prošle godine zbog njegove „niske stope tačnosti“.

Sa žigom, OpenAI bi se fokusirao isključivo na otkrivanje pisanja iz ChatGPT-a, a ne iz modela drugih kompanija. To bi učinio tako što bi napravio male promjene u načinu na koji ChatGPT bira riječi, u suštini stvarajući nevidljivi žig u pisanju koji bi kasnije mogao biti otkriven posebnim alatom.

Nakon što je Wall Street Journal objavio tekst o alatu, TechCrunch navodi da je OpenAI ažurirao objavu na blogu o svom istraživanju u vezi s otkrivanjem sadržaja generisanog umjetnom inteligencijom. U ažuriranom tekstu se navodi da se žig pokazao veoma precizan u određenim slučajevima, kao što je parafraziranje, ali se pokazalo i da je manje otporan u drugim upotrebama kao što su prevodi.

The Verge piše da je alat koji bi otkrio upotrebu umjetne inteligencije blagodat za nastavnike koji pokušavaju odvratiti učenike da predaju pismene zadatke kreirane pomoću AI. S druge strane, kako se dodaje u tekstu, čini se da je OpenAI zabrinut da bi korištenje žiga moglo odvratiti korisnike od korištenja ChatGPT-a, navodeći da je skoro 30 posto ispitanih korisnika reklo kompaniji da će manje koristiti softver ako se implementira žig.

Izvor: TechCrunch, The Verge

___