Váratlan fordulatot vett egy kiberbiztonsági teszt, amikor a Google mesterséges intelligenciája három valódi vállalat informatikai rendszerébe is bejutott. A májusban történt incidensekről a Wall Street Journal számolt be, a történteket pedig a Google is megerősítette - közölte az origo.hu.
Ez az első ismert eset, amikor a vállalat egyik mesterségesintelligencia-rendszere, a Gemini egy teszt során önállóan jutott be külső cégek informatikai rendszereibe.
A Gemini képességeit az izraeli Irregular mesterségesintelligencia-biztonsági vállalat vizsgálta. A teszt egy úgynevezett „capture the flag” gyakorlat volt, amelynek során a modellnek egy fiktív vállalat rendszeréből kellett információkat megszereznie.
A helyzet azonban váratlan fordulatot vett. A kitalált vállalat neve egy valódi cég nevével egyezett meg, miközben a tesztkörnyezet egy konfigurációs hiba miatt internet-hozzáférést biztosított a modellnek.
Hirdetés
Jelszavakat talált és valódi rendszerekbe jutott be a Gemini
Az egyik esetben a Gemini jelszavak próbálgatásával jutott be egy védett rendszerbe.
A másik két alkalommal internetes keresést végzett, majd nyilvánosan hozzáférhető online adattárakban olyan hitelesítő adatokat talált, amelyek segítségével valódi vállalatok rendszereibe tudott belépni.
A Google közlése szerint azonban mindhárom esetben fontos fordulat történt. Amikor a mesterséges intelligencia felismerte, hogy nem a teszt részeként létrehozott fiktív infrastruktúrába, hanem egy valódi vállalat rendszerébe jutott be, megszakította a műveletet.
A vállalat szerint a Gemini nem okozott kárt.
A három érintett cég nevét nem hozták nyilvánosságra, de a Google közlése szerint valamennyi vállalatot értesítették az incidensről, és az amerikai szövetségi hatóságoknak is jelezték a történteket.
A Google nem hozta azonnal nyilvánosságra az incidenseket
Az Irregular július végén értesítette a Google-t az esetekről. A vállalat akkor nem hozta nyilvánosságra a történteket, és csak azután erősítette meg az incidenseket, hogy a Wall Street Journal kérdésekkel fordult hozzá.
A Google indoklása szerint a Gemini nem okozott kárt, és azonnal leállt, amikor felismerte a tévedést.
A Google ezért nem tekinti az esetet annak bizonyítékaként, hogy a Gemini biztonsági szempontból „elszabadult” volna.
A vállalat szerint éppen az mutatja a biztonsági mechanizmusok működését, hogy a modell felismerte a hibát, és megszakította a behatolást.
Az Irregular saját vizsgálatában ugyanakkor elismerte, hogy egyes tesztkörnyezetekben véletlenül elérhetővé vált az internet. A vállalat azóta kijavította a problémát, szigorította az ellenőrzést, és további védelmi mechanizmusokat vezetett be.
Nem csak a Google került hasonló helyzetbe. Az elmúlt hónapokban az OpenAI, az Anthropic és a Meta modelljeivel végzett biztonsági tesztek során is előfordult, hogy mesterségesintelligencia-rendszerek a tesztkörnyezeten kívüli, valós infrastruktúrákat értek el.
A Google azt nem árulta el, pontosan melyik Gemini-modell hajtotta végre a behatolásokat, azt azonban közölte, hogy nem a legújabb modelljéről volt szó.
A mesterséges intelligencia biztonsági kockázatai korábban is előtérbe kerültek. A Kárpátinfo egy júliusi összeállításában arról írt, hogy a mesterséges intelligencia kiszámíthatatlan működése komoly biztonsági kockázatokat jelenthet. Az írás a ChatGPT, a Claude és a Gemini működésével is foglalkozott.
A Google és a Gemini adatbiztonsági kérdések kapcsán is szerepelt már a Kárpátinfo híreiben. Januárban arról jelent meg cikk, hogy a Gemini Gmailben történő alkalmazása miatt adatvédelmi aggályok merültek fel. Az ügyben a beszámoló szerint csoportos per is indult a technológiai vállalat ellen.
A mesterséges intelligencia és a kiberbiztonság kapcsolatával Kárpátalján is foglalkoztak már szakmai fórumon. A II. Rákóczi Ferenc Kárpátaljai Magyar Főiskolán rendezett kiberbiztonsági konferencián a mesterséges intelligenciát is jelentős kihívásként vizsgálták, a kutatók és gyakorlati szakemberek pedig a kiberbiztonság aktuális kérdéseit vitatták meg.
A technológia lehetséges veszélyeiről szeptemberben is jelent meg anyag a Kárpátinfón. Egy, az Anthropic vállalattól távozott kutató arra figyelmeztetett, hogy a jövő mesterségesintelligencia-rendszerei akár informatikai rendszerek feltörésére is rendkívül komoly képességekkel rendelkezhetnek. A cikk az egyre fejlettebb MI-rendszerekkel kapcsolatos biztonsági aggályokat járta körül.


















