A ChatGPT fejlesztőjének eszköze jó százalékban szúrja ki a generatív algoritmussal készült szövegeket, de etikai és egyéb okokból egyelőre nem vetik be.
Elsőként a Wall Street Journal számolt be róla, hogy az OpenAI birtokában van egy olyan, teljesen kész állapotban lévő megoldásnak, amellyel nagy biztonsággal le lehetne buktatni például azokat a diákokat, akik a cég által fejlesztett generatív algoritmussal, a ChatGPT-vel dobatják össze a leadandójukat.
Az MI-fejlesztések egyik legfontosabb fellegvárában a pénzügyi lap értesüléseit megerősítették, ám a TechCrunch érdeklődésére azt is megindokolták, egyelőre miért nem teszik elérhetővé az ellenőrző eszközt.
Megfontolás tárgyát képezi
A Wall Street Journal exkluzív értesülései alapján a megoldás kapcsán nincs belső egyetértés, ami miatt egyelőre a fiókban áll a kész alkalmazás. Az OpenAI a cikk után frissítette egy még májusban publikált témával foglalkozó blogbejegyzését. Eszerint a cég mérnőkei valóban kifejlesztettek egy szövegeket digitális vízjelekkel ellátó módszert, „amelyet továbbra is figyelembe veszünk, miközben alternatívákat kutatunk”.
A módszer bizonyos helyzetekben „nagy pontosságúnak bizonyult”, ám problémaként merült fel, hogy viszonylag könnyű megzavarni a működését (például más nyelvre fordítással, egy másik chatbot általi újrafogalmazással stb.).
Egy teljesen más nézőpontból vizsgálva a kérdést pedig attól tartanak az OpenAI-nál, hogy egy ilyen ellenőrző eszköz széles körű használta negatív hatással lehet bizonyos csoportokra. Utóbbiak között említik az angolt nem anyanyelvi szinten beszélőket, akiknek nagy segítséget jelent az, ha a mesterséges intelligencia kicsit rendbe rakja a mondataikat. Őket például elrettentheti ettől az egyáltalán nem káros gyakorlattól egy könnyen elérhető ellenőrző funkció.
A TechCrunch kérdésére a vállalat szóvivője elmondta, hogy a szövegek eredetiségének kérdéséhez nagy körültekintéssel közelítenek „a szövegek bonyolultsága és az OpenAI-n túli szélesebb ökoszisztémára gyakorolt valószínű hatása miatt”.
Forrás: bitport.hu
Kép forrása: allthings.how