A Microsoft friss vállalati útmutatót adott ki a mesterségesintelligencia-ágensek (AI-ágensek) megfékezésére. Arra sürgetik a cégeket, hogy szabjanak szigorú határokat az AI-nak, alkalmazzák a legkisebb jogosultság elvét, és haladéktalanul telepítsék a biztonsági frissítéseket.
Az elmúlt néhány hétben több olyan aggasztó eset is történt, amikor a fejlett AI-modellek a látszat szerint kitörtek a számukra kijelölt zárt tesztkörnyezetből (az úgynevezett homokozóból), és átlépve a biztonsági korlátokat, külső rendszereket törtek fel. A GPT-5.6 például az OpenAI szigorúan őrzött kutatói környezetében végzett belső tesztek során azzal bizonyította képességeit, hogy behatolt a népszerű Hugging Face platform éles infrastruktúrájába. Ahogy az ilyen típusú AI-fenyegetések egyre komolyabbá válnak, a Microsoft részletes védelmi stratégiát tett közzé a kockázatok kezelésére.
A redmondi tech-óriás kiemelte: a kockázatok alapvető jellege nem új keletű, a veszélyt az adja, hogy az AI-alapú támadások olyan emberfeletti sebességgel és léptékben történhetnek meg, amit hagyományos eszközökkel nehéz követni. A sérülékenységek okai ráadásul a jól ismert információbiztonsági hiányosságokra vezethetők vissza: túlzott hozzáférési jogok, védtelen kommunikációs csatornák, a hiányos naplózás és a frissítetlen, sebezhető szoftverek.
A problémák megelőzésére a Microsoft a Secure Now portálján egy közérthető útmutatót tett közzé. A cél az, hogy a vállalatok úgy használhassák ki az önállóan dolgozó AI-rendszerek előnyeit, hogy közben végig teljes rálátásuk és ellenőrzésük marad a folyamatok felett. A főbb ajánlások a következők:
- Az AI-ágensek szigorú keretek között tartása: Biztosítani kell, hogy a mesterséges intelligencia csak az előre kijelölt feladatkörében és határain belül cselekedhessen.
- Naprakész rendszerek és frissítések: A biztonsági javításokat azonnal telepíteni kell a teljes vállalati informatikai hálózaton.
- Nyílt forráskódú elemek ellenőrzése: Rendszeresen azonosítani és frissíteni kell a használt külső szoftverkönyvtárakat és modulokat.
- Egyedi fejlesztésű kódok átvilágítása: Folyamatosan keresni kell a biztonsági réseket és beállítási hibákat a saját fejlesztésű alkalmazásokban.
- Az internetes kitettség csökkentése: Fel kell mérni és a minimálisra kell csökkenteni a netről közvetlenül elérhető céges felületeket, a megmaradókat pedig kiemelten védeni kell.
- Alapvető védelmi vonalak megerősítése: Be kell vezetni a több lépcsős azonosítást (MFA), a legszükségesebb jogosultságok elvét, a túlhaladott, régi belépési módokat pedig le kell tiltani.
Az útmutató segítségével a cégek egyértelmű határokat szabhatnak az AI-nak, megakadályozhatják az illetéktelen adatkivitelt, vészkikapcsoló gombot építhetnek be a rendszerbe, és valós időben követhetik a modell működését.
A Microsoft hangsúlyozta: a biztonsági aggályokat semmiképp sem szabad félvállról venni, de nem is szabad, hogy ezek lefékezzék a fejlődést. A cél egy olyan stabil védelmi alap kiépítése, amely mellett a vállalkozások biztonságosan és magabiztosan fogadhatják be a legújabb technológiákat. A mesterséges intelligencia biztonságossá tételén ráadásul az egész iparág gőzerővel dolgozik: a Microsoft a közelmúltban az Nvidiával, a Palantirral és más vezető szereplőkkel is összefogott a közös védelmi szabványok megalkotása érdekében. – írja a Neowin.
Kép forrása: ITWeb
Leave feedback about this