Az OpenAI a hétvégén elkezdte tesztelni a ChatGPT új biztonsági átirányítási rendszerét, hétfőn pedig szülői felügyeleti lehetőségeket is bevezetett – a felhasználók reakciói azonban vegyesek.
A fejlesztésre azért volt szükség, mert több esetben előfordult, hogy a ChatGPT egyes modelljei nem terelték el a veszélyes beszélgetéseket, hanem inkább megerősítették a felhasználók téveszméit. Egy ilyen eset után az OpenAI jelenleg jogi eljárással is szembesül: egy tinédzser öngyilkosságot követett el, miután hónapokon át ChatGPT-t használt.
Az új rendszer képes felismerni az érzelmileg érzékeny beszélgetéseket, és automatikusan a GPT-5-re vált, amelyet a cég a legalkalmasabbnak tart a biztonságos kezeléshez. A GPT-5 külön biztonsági mechanizmussal, az úgynevezett „safe completions” funkcióval rendelkezik, amely érzékeny kérdésekre biztonságos válaszokat ad – nem csak egyszerűen megtagadja a reakciót.
Ez jelentős eltérés a korábbi modellektől, például a GPT-4o-tól, amelyet sokan túlságosan „ráhagyónak” tartottak. Bár ennek köszönhetően nagy rajongótábora alakult ki, több AI-hoz köthető téveszmés eset is összefüggésbe hozható vele. Amikor augusztusban a GPT-5 lett az alapértelmezett, sok felhasználó visszakövetelte a GPT-4o-t.
A közösség egy része üdvözölte a változtatásokat, mások szerint azonban az OpenAI túlzottan óvatos, és „gyerekként kezeli a felnőtteket”. A vállalat 120 napos időszakot adott magának a rendszer finomhangolására és a felhasználói tapasztalatok beépítésére.
Nick Turley, a ChatGPT alkalmazásért felelős alelnök elmondta: az átirányítás üzenetenként történik, és csak ideiglenes. A felhasználók kérdésre választ kapnak arra is, hogy éppen melyik modell aktív.
A szülői felügyelet bevezetése hasonlóan megosztó fogadtatásban részesült. A funkció lehetővé teszi, hogy a szülők csendes órákat állítsanak be, kikapcsolják a hangvezérlést vagy a memóriát, letiltsák a képalkotást, illetve kizárják, hogy a gyerek fiókja hozzájáruljon a modell tanításához. A tinédzserfiókok további védelmet is kapnak: kevesebb erőszakos tartalommal, irreális szépségideál csökkentésével, valamint egy rendszerrel, amely képes észlelni az önkárosításra utaló jeleket.
Az OpenAI szerint ha ilyen veszélyt észlelnek, egy speciálisan képzett csapat vizsgálja meg a helyzetet. Súlyos esetben a szülőket e-mailben, SMS-ben és értesítésben is tájékoztatják, hacsak nem mondtak le erről. Ha pedig közvetlen életveszélyt észlelnek, és nem tudják elérni a szülőt, a cég a hatóságokat vagy a segélyszolgálatot is bevonhatja. – írja a TechCrunch.
Kép forrása: FindArticles
Leave feedback about this