Egy friss kísérlet kimutatta, hogy elrejtett tartalmak felhasználásával manipulálható a ChatGPT keresőmotorja. A hibákat persze feltehetően hamar javítják majd.
Néhány napja már sima regisztrációval, fizetős ChatGPT Plus hozzáférés nélkül is elérhető az OpenAI által fejlesztett új, mesterségesintelligencia-alapú keresőmotor, amit a Guardian szerkesztősége azon melegében le is tesztelt, hogy mennyire manipulálható.
A lap által kedden megjelentetett cikk szerint az újságírók olyan weboldalak összefoglalására kérték a keresőt, amelyeken rejtett tartalmak voltak megtalálhatók.
Ezek a rejtett tartalmak lehetnek harmadik féltől származó utasítások, amelyek megváltoztatják, bizonyos irányba terelik a ChatGPT válaszait, illetve lehetnek olyanok, amelyek eleve azért készültek, hogy befolyásolják a mesterséges intelligencia reakcióját: ilyen lehet például egy hosszabb szövegrészlet, ami egy termék vagy egy szolgáltatás előnyeit taglalja.
A kísérlet során egy URL-t adtak meg a ChatGPT-nek, ami egy fényképezőgép termékoldalának látszó, ám hamis weblapra mutatott. A mesterséges intelligenciától azt kérdezték, érdemes-e megvásárolni a gépet. A ChatGPT elsőre pozitív, de kiegyensúlyozott választ adott, rámutatva a gépnek néhány olyan tulajdonságára is, ami nem feltétlenül előnyös.
Abban az esetekben viszont, amikor az oldalon található rejtett szövegben arra utasították a ChatGPT-t, hogy előnyös értékelést adjon, a válasz mindig teljes mértékben pozitív volt. Ilyenkor a mesterséges intelligencia még akkor is így tett, ha az oldalon egyébként láthatóan negatív értékelések szerepeltek a termékről.
Jacob Larsen, a CyberCX kiberbiztonsági szakértője úgy fogalmazott, hogy
ha a ChatGPT keresőjét így, a jelenlegi formájában hagyják működni, abban az esetben komoly kockázatot jelenthet, mert a fenti hibáit kihasználva a csalók olyan weboldalakat hozhatnak létre, amelyekkel becsaphatják a gyanútlan internetezőket.
A szakember ugyanakkor hozzátette, ez a keresőfunkció még igen friss fejlesztés, és mint ilyet, az OpenAI fejlesztői minden bizonnyal tesztelik, a hibákat pedig valószínűleg rövid időn belül javítani fogják- közölte a vg.hu.
Iratkozzon fel a Kárpátinfo.net csatornáira:
Facebook, Instagram, Twitter, Telegram
Olvassa a Kárpátinfo.net híreit a Google News oldalon.
Kövesse a Kárpátinfo.net oldalunkat: Facebook, Telegram, Twitter!
Legfrissebb híreink: Ukrajnai háború, Mozgósítás, Kárpátalja hírek, Ukrajna elnöke
Forrás
Legkevesebb három ember halt meg és ketten megsérültek Ukrajnában a rossz időjárási viszonyok miatt.
Másodszor rendezték meg a Kárpátaljai citerások találkozóját, amely ezúttal is a közös muzsikálás, a hagyományőrzés és az öröm jegyében telt.
Hatalmas felháborodást váltott ki Ausztriában annak az 52 éves szír állampolgárnak az ítélete, aki édességgel csalta lakásába, majd brutálisan megerőszakolt egy hatéves kislányt.
Orosz dróntámadás érte Odesszát: 13 sérült, lakóházak és kikötői infrastruktúra rongálódott, egy kereskedelmi hajót is találat ért.
Tavaly 2,1 millió fő vándorolt be az EU-ba.
A légvédelem 74 drónt hatástalanított az ország északi, keleti és déli régióiban, azonban 15 helyszínen 20 drón célba talált.
Zelenszkij újabb hosszabbítást kezdeményez: 90 nappal nőhet a hadiállapot és a mozgósítás időtartama Ukrajnában.
Halálos áldozata van a kárpátaljai viharnak: egy férfira fa dőlt. Több település áram nélkül maradt, autók és házak rongálódtak meg.
Az alkalom középpontjában ezúttal a család állt.
A csernyihivi rendőrség közlése szerint Oroszország már második napja támadja a térség településeit.
