A szabályozatlan, teljesen autonóm MI-fejlesztés kockázatainak mérséklése és a széttöredezett globális szabályozás elkerülése érdekében az OpenAI egységes szabványrendszer kialakítását szorgalmazza.
A mesterségesintelligencia-modellek képességei rohamtempóban fejlődnek: az OpenAI és az Anthropic élenjáró modelljei jelentős előrelépést mutatnak a logikai következtetés, a kódolás, a tudományos kutatás és a kiberbiztonság terén. Az OpenAI még azt is megemlítette, hogy legújabb, Astra modellje potenciális lépést jelenthet az általános mesterséges intelligencia (AGI) felé, miközben szigorították a biztonsági garanciákat is, miután a Hugging Face hackelési incidensét érintő kiberbiztonsági értékeléseik aggodalmakat keltettek. Az OpenAI most nemzetközi műszaki szabványokat sürget az egyre fejlettebb MI-rendszerek szabályozására – különösen most, hogy a vállalatok az automatizált MI-kutatás és a rekurzív önfejlesztés (RSI) felé mozdulnak el.
Az OpenAI szerint a jelenlegi rendszerek már most is felgyorsítják a kutatási és mérnöki munkát, a jövőbeli MI-rendszerek pedig még nagyobb részt fognak átvállalni az utódaik kifejlesztéséhez szükséges feladatokból. Ez a folyamat végül rekurzív önfejlesztéshez vezethet, ahol az MI hozzájárul az egyre nagyobb teljesítményű modellek egymást követő generációihoz. Az OpenAI ugyanakkor hangsúlyozza: ezt a teljesen autonóm önfejlesztést nem szabad megvalósítani, hacsak nem garantálható a biztonság és az érdemi emberi felügyelet megőrzése.
Az OpenAI szerint komoly problémákat szülhet, ha az egyes fejlesztőcégekre vagy nemzetekre bízzák e jelentős előrelépések kezelését. A különböző országok és vállalatok ugyanis egymásnak ellentmondó értékelési és jelentéstételi követelményeket vezethetnek be. Ennek áthidalására az OpenAI azt szeretné, ha az Egyesült Államok vezetné azt a nemzetközi kezdeményezést, amely közös műszaki szabványokat dolgozna ki az élvonalbeli MI számára. Az USA az Ausztráliában, Kanadában, Németországban, Franciaországban, Kenyában, Japánban, Dél-Koreában, Szingapúrban, Indiában és az Egyesült Királyságban már létrehozott MI-biztonsági intézetek hálózatával együttműködve alkothatná meg ezeket a normákat.
Az OpenAI kiemelte, hogy ezek a szabványok kiterjedhetnének:
- az MI képességeinek felmérésére szolgáló egységes módszerekre,
- az önfejlesztéssel (RSI) kapcsolatos előrehaladás értékelésére,
- annak meghatározására, hogy az automatizált MI-kutatás mikor igényel azonnali emberi felülvizsgálatot,
- valamint a biztonsági incidensek besorolására és bejelentésére.
Az OpenAI arra is kitért, hogy a kormányoknak és a kritikus infrastruktúrák üzemeltetőinek biztonságos kommunikációs csatornákat kellene létrehozniuk az újonnan megjelenő MI-fenyegetések és sebezhetőségek megosztására.
Végezetül az OpenAI megismételte: ezek a szabványok nem vezetnének az MI-modellek kötelező, kiadás előtti jóváhagyásához vagy engedélyezéséhez. Az egyes országok kormányai maguk dönthetnék el, hogyan építik be ezeket a készülő műszaki szabványokat a saját jogrendszerükbe. – írja a Neowin.
Kép forrása: bernardmarr.com
Leave feedback about this