Az OpenAI bejelentette, hogy új módszerek kifejlesztésébe kezdett, amelyekkel nyomon követhető és bizonyítható, hogy a tartalom az MI által generált-e. Ezek közé tartozik egy új képfelismerő osztályozó, amely a mesterséges intelligencia segítségével megállapítja, hogy a fotó MI eredetű-e, valamint egy hamisításálló vízjel – hanganyagok számára.
Az osztályozó egadja annak valószínűségét, hogy egy képet a DALL-E 3 készített-e. Az OpenAI állítása szerint az alkalmazás akkor is hatékony, ha a képet körülvágták vagy tömörítették, illetve a telítettséget megváltoztatták. Az eszköz körülbelül 98 százalékos pontossággal képes felismerni a DALL-E 3 képeket, de a teljesítménye nem ilyen jó más MI-modellekből származó tartalmak eseetén, például a Midjourney-től származó képek mindössze 5-10 százalékát jelöli meg.
Az OpenAI korábban a Coalition of Content Provenance and Authority (C2PA) tartalomhitelesítési adatokkal egészítette ki a képek metaadatait. A tartalmi hitelesítő adatok lényegében vízjelek, amelyek információt tartalmaznak arról, hogy ki a kép tulajdonosa és hogyan készült. Az OpenAI ebben a hónapban csatlakozott a C2PA irányítóbizottságához, olyan vállalatokhoz, mint a Microsoft és az Adobe. A vállalat elkezdte a vízjelek hozzáadását a Voice Engine – a jelenleg korlátozott előnézetben lévő szöveg-beszéd platformjának – klipjeihez is.
Mind a képosztályozó, mind a hangzóanyag-vízjel még finomítás alatt áll. Az OpenAI azt mondja, hogy a hatékonyság teszteléséhez visszajelzéseket kell kapnia a felhasználóktól. A kutatók és a nonprofit újságíró-csoportok a vállalat kutatási hozzáférési platformján alkalmazva tesztelhetik a képfelismerő osztályozót.
Az OpenAI évek óta dolgozik a mesterséges intelligencia által generált tartalmak felismerésén. Azonban 2023-ban be kellett fejeznie egy olyan programot, amely az MI által írt szövegek azonosítására tett kísérletet, mivel a szövegosztályozójának folyamatosan alacsony volt a pontossága.
Forrás: itbusiness.hu
Kép forrása: promptengineering.org