Ilyet még nem csinált a Google Gemini - Fotó: MATTEO DELLA TORRE / NurPhoto
Ilyet még nem csinált a Google Gemini - Fotó: MATTEO DELLA TORRE / NurPhoto

Váratlan fordulatot vett egy kiberbiztonsági teszt, amikor a Google mesterséges intelligenciája három valódi vállalat informatikai rendszerébe is bejutott. A májusban történt incidensekről a Wall Street Journal számolt be, a történteket pedig a Google is megerősítette - közölte az origo.hu.

Ez az első ismert eset, amikor a vállalat egyik mesterségesintelligencia-rendszere, a Gemini egy teszt során önállóan jutott be külső cégek informatikai rendszereibe.

A Gemini képességeit az izraeli Irregular mesterségesintelligencia-biztonsági vállalat vizsgálta. A teszt egy úgynevezett „capture the flag” gyakorlat volt, amelynek során a modellnek egy fiktív vállalat rendszeréből kellett információkat megszereznie.

A helyzet azonban váratlan fordulatot vett. A kitalált vállalat neve egy valódi cég nevével egyezett meg, miközben a tesztkörnyezet egy konfigurációs hiba miatt internet-hozzáférést biztosított a modellnek.

Hirdetés

Jelszavakat talált és valódi rendszerekbe jutott be a Gemini

Az egyik esetben a Gemini jelszavak próbálgatásával jutott be egy védett rendszerbe.

A másik két alkalommal internetes keresést végzett, majd nyilvánosan hozzáférhető online adattárakban olyan hitelesítő adatokat talált, amelyek segítségével valódi vállalatok rendszereibe tudott belépni.

A Google közlése szerint azonban mindhárom esetben fontos fordulat történt. Amikor a mesterséges intelligencia felismerte, hogy nem a teszt részeként létrehozott fiktív infrastruktúrába, hanem egy valódi vállalat rendszerébe jutott be, megszakította a műveletet.

A vállalat szerint a Gemini nem okozott kárt.

A három érintett cég nevét nem hozták nyilvánosságra, de a Google közlése szerint valamennyi vállalatot értesítették az incidensről, és az amerikai szövetségi hatóságoknak is jelezték a történteket.

Hirdetés

A Google nem hozta azonnal nyilvánosságra az incidenseket

Az Irregular július végén értesítette a Google-t az esetekről. A vállalat akkor nem hozta nyilvánosságra a történteket, és csak azután erősítette meg az incidenseket, hogy a Wall Street Journal kérdésekkel fordult hozzá.

A Google indoklása szerint a Gemini nem okozott kárt, és azonnal leállt, amikor felismerte a tévedést.

A Google ezért nem tekinti az esetet annak bizonyítékaként, hogy a Gemini biztonsági szempontból „elszabadult” volna.

A vállalat szerint éppen az mutatja a biztonsági mechanizmusok működését, hogy a modell felismerte a hibát, és megszakította a behatolást.

Az Irregular saját vizsgálatában ugyanakkor elismerte, hogy egyes tesztkörnyezetekben véletlenül elérhetővé vált az internet. A vállalat azóta kijavította a problémát, szigorította az ellenőrzést, és további védelmi mechanizmusokat vezetett be.

Nem csak a Google került hasonló helyzetbe. Az elmúlt hónapokban az OpenAI, az Anthropic és a Meta modelljeivel végzett biztonsági tesztek során is előfordult, hogy mesterségesintelligencia-rendszerek a tesztkörnyezeten kívüli, valós infrastruktúrákat értek el.

A Google azt nem árulta el, pontosan melyik Gemini-modell hajtotta végre a behatolásokat, azt azonban közölte, hogy nem a legújabb modelljéről volt szó.

A mesterséges intelligencia biztonsági kockázatai korábban is előtérbe kerültek. A Kárpátinfo egy júliusi összeállításában arról írt, hogy a mesterséges intelligencia kiszámíthatatlan működése komoly biztonsági kockázatokat jelenthet. Az írás a ChatGPT, a Claude és a Gemini működésével is foglalkozott.

A Google és a Gemini adatbiztonsági kérdések kapcsán is szerepelt már a Kárpátinfo híreiben. Januárban arról jelent meg cikk, hogy a Gemini Gmailben történő alkalmazása miatt adatvédelmi aggályok merültek fel. Az ügyben a beszámoló szerint csoportos per is indult a technológiai vállalat ellen.

Hirdetés

A mesterséges intelligencia és a kiberbiztonság kapcsolatával Kárpátalján is foglalkoztak már szakmai fórumon. A II. Rákóczi Ferenc Kárpátaljai Magyar Főiskolán rendezett kiberbiztonsági konferencián a mesterséges intelligenciát is jelentős kihívásként vizsgálták, a kutatók és gyakorlati szakemberek pedig a kiberbiztonság aktuális kérdéseit vitatták meg.

A technológia lehetséges veszélyeiről szeptemberben is jelent meg anyag a Kárpátinfón. Egy, az Anthropic vállalattól távozott kutató arra figyelmeztetett, hogy a jövő mesterségesintelligencia-rendszerei akár informatikai rendszerek feltörésére is rendkívül komoly képességekkel rendelkezhetnek. A cikk az egyre fejlettebb MI-rendszerekkel kapcsolatos biztonsági aggályokat járta körül.

Hirdetés

Forrás