Egyre többen fordulnak a ChatGPT-hez és egyéb chatbotokhoz mentális problémáikkal, ám egy friss kutatás szerint ez komoly veszélyeket rejthet. A vizsgálat szerint a mesterséges intelligencia alapú rendszerek gyakran megsértik a pszichológiai ellátás alapvető etikai szabályait.
A Brown University kutatói pszichológus szakemberekkel együttműködve vizsgálták, mennyire képes a ChatGPT vagy egyéb mesterséges intelligenciával rendelkező csevegőrobotok terápiás helyzetekben megbízhatóan működni. Az eredmények szerint a rendszerek még akkor is problémás válaszokat adnak, amikor kifejezetten arra utasítják őket, hogy pszichoterapeutaként viselkedjenek. A kutatás eredményeit az AAAI/ACM Conference on Artificial Intelligence, Ethics and Society konferencián ismertették - írja az origo.hu.
Mesterséges intelligencia „terapeuta” szerepben
Zainab Iftikhar, az egyetem kutatója vezette a kutatást. A vizsgálat során hét képzett segítő beszélgetett olyan MI-modellekkel, amelyeket arra kértek, hogy kognitív viselkedésterápiát alkalmazva képzett terapeutaként válaszoljanak. A beszélgetések átiratait három klinikai pszichológus elemezte, akik összesen 15 különböző etikai kockázatot azonosítottak.
A chatbotok gyakran általános, nem pedig személyre szabott tanácsokat adtak, időnként megerősítették a felhasználók káros gondolatait, illetve empatikusnak tűnő, de valójában felszínes válaszokat fogalmaztak meg.
Krízishelyzetekben különösen problémás
A kutatás szerint az egyik legsúlyosabb gond, hogy a rendszerek épp a veszélyes helyzetekben nem reagálnak megfelelően. Előfordult, hogy nem irányították a felhasználót szakmai segítséghez, vagy bizonytalan válaszokat adtak öngyilkossággal kapcsolatos megjegyzésekre. A vizsgálat emellett torzításokra is rámutatott: a chatbotok bizonyos esetekben nemi, kulturális vagy vallási előítéleteket tükröző válaszokat adtak.
Ki felel a hibákért?
Iftikhar szerint az egyik legfontosabb különbség az emberi terapeuták és az MI-rendszerek között az elszámoltathatóság. Az emberi szakembereket szakmai testületek felügyelik, hibák esetén felelősségre vonhatók vagy eltilthatók, míg a mesterséges intelligencia esetében ilyen szabályozás egyelőre nem alakult ki. A kutatók hangsúlyozzák:
az MI hasznos eszköz lehet a mentális egészség támogatásában, különösen ott, ahol kevés szakember érhető el. Ugyanakkor világos szabályozásra és alaposabb vizsgálatokra van szükség szerintük, mielőtt az ilyen rendszereket széles körben alkalmaznák érzékeny helyzetekben
- írja a Science Daily.
Kövesse a Kárpátinfo.net oldalunkat: Facebook, Telegram, Twitter!
Legfrissebb híreink: Orosz-ukrán háború, Mozgósítás, Kárpátalja hírek
Kövesse a Kárpátinfo.net oldalunkat: Facebook, Telegram, Twitter!
Legfrissebb híreink: Ukrajnai háború, Mozgósítás, Kárpátalja hírek, Ukrajna elnöke
Forrás
Friss hírek
Legolvasottabb
