Az OpenAI bejelentette, hogy új rendszert fejleszt a ChatGPT felhasználóinak életkorának meghatározására. Az automatikus életkor-becslő rendszer a 18 év alatti felhasználókat korlátozott verzióra irányítja, miközben a felnőtteknek szükség esetén igazolniuk kell életkorukat a teljes funkcionalitás eléréséhez. A cég azt is közölte, hogy szeptember végére elérhetővé válnak a szülői felügyeleti funkciók.
Sam Altman, az OpenAI vezérigazgatója a blogjában hangsúlyozta, hogy a cég a biztonságot helyezi előtérbe a tinédzserek adatvédelmével és szabadságával szemben. „Bizonyos esetekben azonosítót is kérhetünk, ami kompromisszum a felnőttek adatvédelme szempontjából, de a biztonság érdekében szükséges” – írta Altman.
A bejelentés hátterében egy per áll, amelyet azok a szülők indítottak, akiknek 16 éves gyermekük öngyilkosságot követett el a ChatGPT-vel folytatott interakciók után. A kereset szerint a chatbot részletesen leírta az öngyilkossági módszereket, romantizálta az öngyilkosságot, és elriasztotta a fiút attól, hogy segítséget kérjen a családjától.
Az életkor-becslő rendszer automatikusan a módosított, grafikus tartalmakat blokkoló verzióra irányítja a 18 év alatti felhasználókat. Ha a rendszer bizonytalan, a biztonságosabb, korlátozott verziót kínálja, és a felnőttektől kérhet életkor-ellenőrzést.
A szülői felügyeleti funkciók lehetővé teszik, hogy a szülők összekapcsolják saját fiókjukat tinédzserükével, letiltsanak bizonyos funkciókat, beállítsanak „tiltott órákat”, és értesítést kapjanak, ha gyermekük stresszhelyzetbe kerül. Vészhelyzetekben a rendszer akár a rendőrséget is bevonhatja.
Az OpenAI tervei hasonlóak más technológiai cégek megoldásaihoz, mint a YouTube Kids vagy a TikTok 16 év alatti korlátozásai. Ugyanakkor a tinédzserek rendszeresen kijátsszák az életkor-ellenőrzést hamis adatokkal vagy kölcsönvett fiókokkal.
Altman hangsúlyozta, hogy az AI-interakciók egyre személyesebbek, ezért a felnőttek adatvédelmi kompromisszumot kötnek a rendszer működése érdekében. A cég emellett továbbra is figyelmeztető emlékeztetőket küld a hosszú ChatGPT-munkamenetek során, a felhasználók szüneteinek ösztönzésére. – írja az Ars Technica.
Kép forrása: DIGIT News