A mesterséges intelligencia (MI) robbanásszerű fejlődése új lehetőségeket hozott a tartalomgyártásban, kutatásban és oktatásban — ugyanakkor egyre komolyabb problémákat is felszínre hoz. Egy friss kutatás arra a jelenségre hívja fel a figyelmet, amikor az MI valódi források hivatkozását használja, de valójában kitalált vagy pontatlan tartalmat generál. Ez a jelenség, a hallucináció, komoly kihívást jelent az információ hitelessége szempontjából, különösen a tudományos és oktatási szférában.
A „hallucináció” kifejezést a mesterséges intelligenciák esetében olyan válaszokra használják, amelyek hivatalos forrásoknak tűnnek, mégis részben vagy egészben tévesek vagy kitaláltak. Ez azt jelenti, hogy a modell olyan információt ad meg, ami látszólag jól strukturált és hitelesnek tűnik, de valójában nem létezik a valóságban - írja az origo.hu.
Hallucináció vagy hamisítás?
Ez a probléma különösen veszélyes, amikor:
- szakmai cikkeket vagy tanulmányokat készítenek,
- kutatási forrásokat sorolnak fel,
- vagy döntéshozatalhoz használnak MI-t.
A Castilla-La Mancha Egyetem (GaIA) Mesterséges Intelligencia Tanulási Csoportja készített elemzést az MI összeesküvés-elmélet gyártó képessége, az információhamisítás és a hallucináció különbségéről. Arra a megállapításra jutottak, hogy minél fejlettebb MI-t használtak, annál kisebb volt az előforduló problémás esetek száma, de általános tapasztalat, hogy a "legenyhébbb" tévesztés, a hallucináció egyetlen esetben sem volt kizárható. Az MI nemcsak képes valódi, létező forrásokat felsorolni, hanem ezeket hitelesnek látszó idézetekkel vagy állításokkal is összekapcsolja. A probléma ott kezdődik, hogy a MI nem ellenőrzi a forrás tartalmát, hanem statisztikai minták alapján generál válaszokat. Ez gyakran félrevezető vagy téves következtetéseket ad, még akkor is, ha a forrás neve valós.
Az ilyen típusú hibák még a tapasztalt szakértők számára is nehezen észrevehetők. Egy 2025-ös technológiai elemzés szerint a MI-válaszok jelentős hányadában szerepelhetnek hibás vagy kitalált állítások. 3–27% között lehet a pontatlan információ aránya, mert az MI nem tud valós idejű tényellenőrzést végezni, hanem valószínűségi minták alapján állít elő válaszokat. Hiába vagyunk tehát alaposak egy-egy feladatmeghatározásnál a lehető legpontosabbak és legalaposabbak, teljesen nem szűrhető ki az MI pontatlansága, csak ha tételesen mi magunk ellenőrizzük végig a mesterséges intelligencia által összeszedett információkat.
Van kiút az útvesztőből?
Ezek az eredmények azt mutatják, hogy a MI-k önmagukban nem garantálják a pontosságot, még akkor sem, ha professzionálisan hangzó nyelvezetet használnak. A szakértők szerint a legjobb gyakorlatok közé tartozik:
- Minden MI-által generált információ ellenőrzése valódi forrásokkal,
- Több, független forrás összevetése, különösen tudományos kutatásoknál,
- Tudatos médiahasználat és kritikus olvasói hozzáállás kialakítása.
Az MI továbbra is rendkívül hasznos eszköz — de soha nem helyettesítheti az emberi szakértelmet és ellenőrzést – összegzett a GaIA.
Olyat is lát, amit mi nem
A Cambridge-i Egyetem kutatói által fejlesztett új „szuperintelligencia” nemcsak gyorsabb, de sokkal megbízhatóbb is az emberi szemnél, ha a vérképek elemzéséről van szó. A leukémia felismerése során ugyanis a rendszer olyan, mikroszkopikus méretű jeleket is észrevesz a vérben, amik felett még a legtapasztaltabb professzorok szeme is gyakran átsiklik a fáradtság miatt.
A kreativitás ugyanakkor nem erőssége a mesterséges intelligenciának, legalábbis annak a részének, ahol megjelennek az érzelmek. Az MI kiválóan alkalmas nagy adatmennyiségek feldolgozására és mintázatok felismerésére, míg az ember képes ezeket az információkat kontextusba helyezni és értelmes narratívává formálni.
Kövesse a Kárpátinfo.net oldalunkat: Facebook, Telegram, Twitter!
Legfrissebb híreink: Orosz-ukrán háború, Mozgósítás, Kárpátalja hírek
Kövesse a Kárpátinfo.net oldalunkat: Facebook, Telegram, Twitter!
Legfrissebb híreink: Ukrajnai háború, Mozgósítás, Kárpátalja hírek, Ukrajna elnöke
Forrás
Az izraeli döntés egyértelmű jelzés más kormányok hajóüzemeltetői és a biztosítótársaságok számára, és bizonyítja Ukrajna jogi és diplomáciai lépéseinek hatékonyságát.
Munkácson végső búcsút vettek Budkai Petrótól, aki 568 napig eltűntként szerepelt.
A rendőrök lövésekkel állítottak meg egy agresszív kamionsofőrt Kárpátalja bejáratánál. A férfi ráhajtott a rendőrökre és menekülni próbált.
A parancsnokoknak biztosítaniuk kell annak feltételeit, hogy a katonák legfeljebb két hónapig maradjanak harci pozíciókban.
Az ukránok továbbra is 4,32 hrivnyát fognak fizetni kilowattóránként.
A légvédelem 172 drónt hatástalanított, azonban az Iszkander-M típusú ballisztikus rakéta, valamint 22 helyszínen 32 drón célba talált.
A kifizetések egy részét a vállalkozások számára népszerűtlen adóemelés végrehajtásától tenné függővé.
Az amerikai elnök erről egy fehér házi eseményen beszélt, miután bejelentette, hogy hosszan beszélt telefonon az orosz elnökkel.
Bár jelenleg nem vezetnek be óránkénti áramszüneteket, a szakértők takarékosságra figyelmeztetnek.
Közölte az amerikai külügyminisztérium szerdán.
