Az emberi gondolkodás legfontosabb elemeinek egy része nem alakítható át számítógépes utasításokká. Emiatt a mesterséges intelligencia talán soha nem érheti el az emberi intelligencia szintjét. A gépi rendszerek ennek ellenére egyre nagyobb hatást gyakorolhatnak a társadalomra, kiszámíthatatlan működésük pedig komoly biztonsági kockázatokat jelenthet.
Peter J. Denning informatikus szerint Alan Turing 1950-ben megfogalmazott egyik elképzelése téves irányba terelte a mesterséges intelligencia kutatását.
Akkoriban sok tudós úgy vélte, hogy az emberi intelligencia a testtől függetlenül is létezhet, és számítógépen futó programként újraalkotható – írja a SciTech Daily nyomán az origo.hu.
A mesterséges intelligencia nagy problémája
Denning érvelésének központi eleme a hallgatólagos tudás. Ide tartoznak azok az ismeretek, tapasztalatok és képességek, amelyeket az emberek folyamatosan használnak, de nem tudnak teljes egészében szavakba önteni.
Ilyen például a józan ész, az intuíció, a környezet érzékelése és a másokkal való mindennapi interakció.
Ugyancsak ide sorolható a gyakorlati tudás, valamint a társadalmak közös kulturális és történelmi háttere.
A kutatók évtizedek óta próbálják a józan észt a számítógépek által feldolgozható formában rögzíteni. Az 1980-as években elindított Cyc projekt például 40 év alatt egy 25 millió bejegyzésből álló adatbázist hozott létre. Denning szerint azonban még ez sem bizonyult elegendőnek ahhoz, hogy a szakértői rendszerek valóban emberi módon használják a háttértudást.
Más tudni valamit, és más képesnek lenni rá
A gyakorlati készségek további akadályt jelentenek.
Egy gépben eltárolható annak leírása, milyen eredményt kell elérni. Azt azonban már jóval nehezebb kódolni, hogyan hajtja végre az ember az adott feladatot.
Ezt jól szemlélteti a zenélés. Egy virtuóz hegedűművész képes gyönyörű zenét játszani, de nem feltétlenül tudja pontosan elmagyarázni, hogyan lehet ugyanazokat a mozdulatokat és érzéseket létrehozni. Egy robot utánozhatná a zenész mozgását, biológiai test nélkül azonban nem élhetné át, mit érez a muzsikus játék közben, vagy milyen élményeket tapasztal a közönség a zene hallgatásakor.
Denning szerint az intuíció, a spontán kreativitás és a képzelőerő szintén nehezen alakítható át számítógépes utasításokká.
A szavak önmagukban nem hordozzák a teljes jelentést
A számítógépek csak olyan adatokat és utasításokat tudnak feldolgozni, amelyeket megfelelő formában kódoltak. Denning ezt nevezi reprezentációs problémának. A hallgatólagos tudás jelentős részét azonban nem lehet egyszerűen jelekké vagy számokká alakítani.
Érvelése alapján a szavak csupán utalnak a jelentésre, de nem azonosak azzal, hiszen tartalmukat a mélyen gyökerező emberi tapasztalatok és ismeretek töltik meg.
Denning szerint a legnépszerűbb nyelvi modellek (például a ChatGPT, a Claude és a Gemini) hiába használnak szavakat, azokat korántsem úgy fogják fel, mint mi. Mivel pedig a szakemberek számára is rejtély a saját, hallgatólagos tudásunk pontos működése, egyelőre arra sincs válasz, hogyan lehetne ezt átadni a mesterséges intelligenciának.
A kontextus folyamatosan változtatja a jelentést
Az emberi kommunikáció megértéséhez a szavak mellett a körülményeket is ismerni kell. Ugyanaz a mondat egészen mást jelenthet attól függően, hogy valaki őszintén, gúnyosan, dühösen vagy játékosan mondja.
A kontextus abban is segít, hogy az emberek eldöntsék, mikor helyénvaló a humor, vagy hogyan kell tapintatosan fogalmazni. Ezek a háttérfeltételezések korábbi beszélgetésekre, közös tapasztalatokra és társadalmi szabályokra épülnek.
Denning szerint ez a háttér gyakorlatilag végtelen. Minden helyzet korábbi helyzetekhez kapcsolódik, amelyek további előzményekre vezethetők vissza.
A nagyobb nyelvi modellek sem feltétlenül oldják meg a problémát
Hasonló nehézséget jelent a kultúra megértése. A kultúrához értékek, társadalmi normák, történelmi tapasztalatok, közösségek és emberi kapcsolatok tartoznak. Bármilyen hatalmasra hizlalják is a nyelvi modelleket, Denning szerint önmagában ez nem elég ahhoz, hogy a rendszerek megértsék a fizikai megélésen és az emberi kultúrán alapuló tudást.
A mesterséges neurális hálózatok idővel kialakíthatják a saját gépi tudásukat. Elképzelhető azonban, hogy ezt az emberek már nem tudják majd értelmezni.
Így egy áthidalhatatlan szakadék jön létre: a gépek nem férnek hozzá teljesen az emberi hallgatólagos tudáshoz, az emberek pedig nem feltétlenül látják át a gépi rendszerek belső döntési folyamatait.
Nem csak a szuperintelligencia jelenthet veszélyt
Denning szerint ez utóbbi a mesterséges intelligencia biztonságát is érinti. Ha a mesterséges intelligencia nem látja át a szavaink mögötti rejtett kontextust, szinte lehetetlen lesz úgy beállítani, hogy biztonságosan szolgálja a céljainkat.
A kutató úgy véli, hogy a legközvetlenebb veszélyt nem feltétlenül egy embernél intelligensebb gép jelenti. Nagyobb kockázatot teremthetnek az egymással összekapcsolt, részben önálló rendszerek. Ezek anélkül is komoly károkat okozhatnak, hogy elérnék az emberi intelligencia szintjét.
Kövesse a Kárpátinfo.net oldalunkat: Facebook, Telegram, Twitter!
Legfrissebb híreink: Ukrajnai háború, Mozgósítás, Kárpátalja hírek, Ukrajna elnöke
