A mesterséges intelligencia (MI) robbanásszerű fejlődése új lehetőségeket hozott a tartalomgyártásban, kutatásban és oktatásban — ugyanakkor egyre komolyabb problémákat is felszínre hoz. Egy friss kutatás arra a jelenségre hívja fel a figyelmet, amikor az MI valódi források hivatkozását használja, de valójában kitalált vagy pontatlan tartalmat generál. Ez a jelenség, a hallucináció, komoly kihívást jelent az információ hitelessége szempontjából, különösen a tudományos és oktatási szférában.
A „hallucináció” kifejezést a mesterséges intelligenciák esetében olyan válaszokra használják, amelyek hivatalos forrásoknak tűnnek, mégis részben vagy egészben tévesek vagy kitaláltak. Ez azt jelenti, hogy a modell olyan információt ad meg, ami látszólag jól strukturált és hitelesnek tűnik, de valójában nem létezik a valóságban - írja az origo.hu.
Hallucináció vagy hamisítás?
Ez a probléma különösen veszélyes, amikor:
- szakmai cikkeket vagy tanulmányokat készítenek,
- kutatási forrásokat sorolnak fel,
- vagy döntéshozatalhoz használnak MI-t.
A Castilla-La Mancha Egyetem (GaIA) Mesterséges Intelligencia Tanulási Csoportja készített elemzést az MI összeesküvés-elmélet gyártó képessége, az információhamisítás és a hallucináció különbségéről. Arra a megállapításra jutottak, hogy minél fejlettebb MI-t használtak, annál kisebb volt az előforduló problémás esetek száma, de általános tapasztalat, hogy a "legenyhébbb" tévesztés, a hallucináció egyetlen esetben sem volt kizárható. Az MI nemcsak képes valódi, létező forrásokat felsorolni, hanem ezeket hitelesnek látszó idézetekkel vagy állításokkal is összekapcsolja. A probléma ott kezdődik, hogy a MI nem ellenőrzi a forrás tartalmát, hanem statisztikai minták alapján generál válaszokat. Ez gyakran félrevezető vagy téves következtetéseket ad, még akkor is, ha a forrás neve valós.
Az ilyen típusú hibák még a tapasztalt szakértők számára is nehezen észrevehetők. Egy 2025-ös technológiai elemzés szerint a MI-válaszok jelentős hányadában szerepelhetnek hibás vagy kitalált állítások. 3–27% között lehet a pontatlan információ aránya, mert az MI nem tud valós idejű tényellenőrzést végezni, hanem valószínűségi minták alapján állít elő válaszokat. Hiába vagyunk tehát alaposak egy-egy feladatmeghatározásnál a lehető legpontosabbak és legalaposabbak, teljesen nem szűrhető ki az MI pontatlansága, csak ha tételesen mi magunk ellenőrizzük végig a mesterséges intelligencia által összeszedett információkat.
Van kiút az útvesztőből?
Ezek az eredmények azt mutatják, hogy a MI-k önmagukban nem garantálják a pontosságot, még akkor sem, ha professzionálisan hangzó nyelvezetet használnak. A szakértők szerint a legjobb gyakorlatok közé tartozik:
- Minden MI-által generált információ ellenőrzése valódi forrásokkal,
- Több, független forrás összevetése, különösen tudományos kutatásoknál,
- Tudatos médiahasználat és kritikus olvasói hozzáállás kialakítása.
Az MI továbbra is rendkívül hasznos eszköz — de soha nem helyettesítheti az emberi szakértelmet és ellenőrzést – összegzett a GaIA.
Olyat is lát, amit mi nem
A Cambridge-i Egyetem kutatói által fejlesztett új „szuperintelligencia” nemcsak gyorsabb, de sokkal megbízhatóbb is az emberi szemnél, ha a vérképek elemzéséről van szó. A leukémia felismerése során ugyanis a rendszer olyan, mikroszkopikus méretű jeleket is észrevesz a vérben, amik felett még a legtapasztaltabb professzorok szeme is gyakran átsiklik a fáradtság miatt.
A kreativitás ugyanakkor nem erőssége a mesterséges intelligenciának, legalábbis annak a részének, ahol megjelennek az érzelmek. Az MI kiválóan alkalmas nagy adatmennyiségek feldolgozására és mintázatok felismerésére, míg az ember képes ezeket az információkat kontextusba helyezni és értelmes narratívává formálni.
Kövesse a Kárpátinfo.net oldalunkat: Facebook, Telegram, Twitter!
Legfrissebb híreink: Orosz-ukrán háború, Mozgósítás, Kárpátalja hírek
Kövesse a Kárpátinfo.net oldalunkat: Facebook, Telegram, Twitter!
Legfrissebb híreink: Ukrajnai háború, Mozgósítás, Kárpátalja hírek, Ukrajna elnöke
