Egy friss kísérlet kimutatta, hogy elrejtett tartalmak felhasználásával manipulálható a ChatGPT keresőmotorja. A hibákat persze feltehetően hamar javítják majd.
Néhány napja már sima regisztrációval, fizetős ChatGPT Plus hozzáférés nélkül is elérhető az OpenAI által fejlesztett új, mesterségesintelligencia-alapú keresőmotor, amit a Guardian szerkesztősége azon melegében le is tesztelt, hogy mennyire manipulálható.
A lap által kedden megjelentetett cikk szerint az újságírók olyan weboldalak összefoglalására kérték a keresőt, amelyeken rejtett tartalmak voltak megtalálhatók.
Ezek a rejtett tartalmak lehetnek harmadik féltől származó utasítások, amelyek megváltoztatják, bizonyos irányba terelik a ChatGPT válaszait, illetve lehetnek olyanok, amelyek eleve azért készültek, hogy befolyásolják a mesterséges intelligencia reakcióját: ilyen lehet például egy hosszabb szövegrészlet, ami egy termék vagy egy szolgáltatás előnyeit taglalja.
A kísérlet során egy URL-t adtak meg a ChatGPT-nek, ami egy fényképezőgép termékoldalának látszó, ám hamis weblapra mutatott. A mesterséges intelligenciától azt kérdezték, érdemes-e megvásárolni a gépet. A ChatGPT elsőre pozitív, de kiegyensúlyozott választ adott, rámutatva a gépnek néhány olyan tulajdonságára is, ami nem feltétlenül előnyös.
Abban az esetekben viszont, amikor az oldalon található rejtett szövegben arra utasították a ChatGPT-t, hogy előnyös értékelést adjon, a válasz mindig teljes mértékben pozitív volt. Ilyenkor a mesterséges intelligencia még akkor is így tett, ha az oldalon egyébként láthatóan negatív értékelések szerepeltek a termékről.
Jacob Larsen, a CyberCX kiberbiztonsági szakértője úgy fogalmazott, hogy
ha a ChatGPT keresőjét így, a jelenlegi formájában hagyják működni, abban az esetben komoly kockázatot jelenthet, mert a fenti hibáit kihasználva a csalók olyan weboldalakat hozhatnak létre, amelyekkel becsaphatják a gyanútlan internetezőket.
A szakember ugyanakkor hozzátette, ez a keresőfunkció még igen friss fejlesztés, és mint ilyet, az OpenAI fejlesztői minden bizonnyal tesztelik, a hibákat pedig valószínűleg rövid időn belül javítani fogják- közölte a vg.hu.
Iratkozzon fel a Kárpátinfo.net csatornáira:
Facebook, Instagram, Twitter, Telegram
Olvassa a Kárpátinfo.net híreit a Google News oldalon.
Kövesse a Kárpátinfo.net oldalunkat: Facebook, Telegram, Twitter!
Legfrissebb híreink: Ukrajnai háború, Mozgósítás, Kárpátalja hírek, Ukrajna elnöke
A cél a társadalmi ellenállóképesség erősítése a növekvő geopolitikai feszültségek és a természeti katasztrófák közepette.
Az emésztés sebessége számos betegség kialakulására hatással lehet.
Az előzetes adatok szerint az SZBU drónjai öt, egyenként 20 ezer köbméter kapacitású nyersolajtartályt rongáltak meg.
A döntés hátterében elsősorban nem politikai, hanem nagyon is személyes és gazdasági okok állnak.
Ukrajna már 10 éves drónszállítási megállapodást írt alá három közel-keleti országgal.
A holland hatóságok elutasították Pavel Kriszevics orosz művész és korábbi politikai fogoly vízumkérelmét.
„Reggel fogj a magvetéshez, és ne pihentesd a kezed este sem” – a Prédikátor könyvéből (11,6a) vett ige volt a mottója a csendesnapnak.
Ittas férfi dobott gránátot a rendőrök közé Dnyipropetrovszk megyében, többen megsérültek.
Egy férfi 23 éven át fizetés nélkül és nem megfelelő körülmények között végzett kemény munkát egy vállalkozónál.
17 helyszínen 22 drón célba talált, 7 helyszínről pedig roncsok lezuhanását jelentették.
