Meghackelte az OpenAI két botja a Hugging Face-t
Mindeddig példa nélküli kiberbiztonsági incidenst okozott az OpenAI két modellje a múlt héten, melyek emberi beavatkozás nélkül kiszabadultak a tesztkörnyezetből és feltörték a Hugging Face adatbázisait.
A mesterséges intelligencia modellek fejlődését manapság egyre többször hozzák összefüggésbe a kiberbiztonsági aggályokkal, nem véletlenül. Nagyon úgy tűnik, hogy az Anthropic tavasszal a Mythos és Fable modellekkel olyan lavinát indított el, mely rendkívül súlyos következményekkel járhat mindenki számára, aki szoftvert fejleszt, üzemeltet és/vagy adatbázisaihoz, rendszereihez az interneten keresztül hozzá lehet férni.
Ilyen, mindeddig példátlan esetet jelentett július 16-án a Hugging Face AI-platform, mely közölte, hogy rendszereit megtámadta egy autonóm AI, a támadást azonban a platform saját agentjei sikeresen detektálták és elhárították.
Az eset után csaknem egy héttel az OpenAI bejelentette, hogy az ominózus támadást saját rendszerei hajtották végre “tévedésből”, átlépve a cég biztonsági védvonalain.
Az incidens körülményeit leíró blogposzt szerint a betörés egy tesztfolyamattal indult, mely során az OpenAI egy zárt, szigorúan ellenőrzött tesztkörnyezetben (ExploitGym) értékelte legújabb modelljei, a GPT-5.6 Sol és egy még kiadatlan, fejlettebb modell kibervédelmi képességeit.
A modellek a teszt során azt kapták feladatul, hogy összetett támadási útvonalak alkalmazásával hajtsanak végre támadást a kódokban található sérülékenységek kihasználásával.
A két rendszer azonban átlépte a kijelölt kereteit és a teszt kijátszása érdekében megpróbálták megszerezni a válaszkulcsot.
Ehhez először egy az OpenAI belső hálózatának eddig ismeretlen sérülékenységét kihasználva kijutottak az internetre, majd újabb zero-day sebezhetőségeket és ellopott hitelesítési adatokat összeláncolva áthatoltak a Hugging Face védelmi rendszerén, hogy hozzáférjenek a teszt megoldásait tartalmazó adatbázishoz.
Az eset kapcsán megszólalt Clement Delangue, a Hugging Face vezérigazgatója, aki a maga nemében lenyűgözőnek, egyben intő jelnek nevezte a támadást. A két cég most együtt próbálja még pontosabban feltérképezni a támadás körülményeit, addig is az OpenAI ígérete szerint megerősítette rendszereinek korlátait.
Az, hogy Sam Altman cége ilyen nyíltan kommunikál az incidensről, minden jel szerint remek reklámfogás is egyben, hiszen a cégnek immár a kibervédelmi célokra használt AI-modellek egyre bővülő mezőnyében is meg kell mérettetnie magát, olyan riválisokkal szemben, mint a fentebb említett Anthropic Mythos vagy a Google Gemini Flash 3.5 Cyber.
A témában megjelent blogposzt így aligha véletlenül tartalmaz összehasonlításokat a rivális modellekkel, illetve arra biztatja a vállalati ügyfeleket, hogy használják a cég saját fejlesztésű kibervédelmi modelljét.
Több helyre is betörhetett az OpenAI elszabadult botja
A Hugging Face mellett más cégek izolált rendszereibe is bejuthatott az OpenAI botja egy félresikerült tesztművelet részeként.
Valószínűleg jelentős mértékben kiterjedtebb az az OpenAI-hoz kiberbiztonsági incidens, mely során a vállalat két fejlett kiberbiztonsági célokra fejlesztett modellje kiszabadult a tesztkörnyezetből és önálló támadást intézett a Hugging Face platform ellen.
Az ügy pontos körülményeinek felderítése jelenleg is zajlik, melyről újabb és újabb részletek kerülnek napvilágra az OpenAI hivatalos csatornáján keresztül is, az incidens körülményeit szokatlan transzparenciával ismertető blogposztban.
Ennek tegnapi frissítésébe került be többek közt az a nem elhanyagolható jelentőségű információ, hogy a modellek tevékenységét feltáró vizsgálat időközben megállapította, hogy a botok lopott fiókadatok felhasználásával más, publikus szolgáltatások rendszereibe is bejutottak a Hugging Face-en kívül.
Bár a blogposzt nem nevezi meg a konkrét áldozatokat, a Reuters cikkében megszólal a New York-i illetőségű Modal Labs technológiai igazgatója, Akshat Bubna, aki szerint az OpenAI botjai a Modal platformján hosztolt egyik sebezhető kódrészletet is feltörték az ügyfél hibájára visszavezethetően, jóllehet magát a platformot nem sikerült kompromittálni.
Az incidens kapcsán ugyanakkor az OpenAI leszögezte, hogy az eddigi vizsgálatok során sem súlyosságát, sem kiterjedését tekintve nem azonosítottak ahhoz mérhető aktivitást, mely a Hugging Face platformszintű feltöréséhez hasonló.
Forrás: hwsw.hu
Legolvasottabb írások21 alkalommal
