OpenAI najavljuje alat za detekciju tekstova nastalih pomoću ChatGPT-a

OpenAI je razvio alat koji može detektovati sve tekstove koje je pisao ChatGPT, ali kompanija još nije odlučila da li će ga pustiti u upotrebu.

Prema rečima portparola OpenAI-ja, svesni su tehničkih potencijala metode markiranja teksta, ali „takođe razmatraju rizike i moguće negativne efekte na širu zajednicu“.

„Metoda markiranja teksta koju razvijamo obećava, ali postoje značajni rizici koje analiziramo, uključujući mogućnost da je zlonamerni akteri zaobiđu, (kao i potencijalni štetni) uticaj na korisnike koji ne govore engleski jezik“, navodi portparol, prenosi TechCrunch.

OpenAI je ranije ugasio svoj alat za detekciju AI teksta, zbog netačnosti i nepreciznosti.

Nova metoda detekcije razlikuje se od prethodnih pokušaja uvođenja teksta generisanog putem veštačke inteligencije „u legalne tokove“, koji su bili uglavnom neuspešni.

Novi alat fokusira se isključivo na prepoznavanje teksta generisanog pomoću ChatGPT-a, praveći male promene u izboru reči kako bi stvorio nevidljivi „vodeni žig“. Ovaj vodeni žig kasnije može otkriti poseban alat.

OpenAI naglašava da je metodu lako zaobići, što predstavlja značajan izazov.

Takođe ističu da bi markiranje teksta moglo negativno da utiče na govornike kojima engleski nije primarni jezik, stigmatizujući upotrebu AI kao korisnog alata za pisanje.