A ChatGPT miatt halt meg? – Rejtett veszélyek a mesterséges intelligenciában

Egy szülő sem élhet át nagyobb fájdalmat, mint amikor idejekorán kell eltemetnie gyermekét. Ezzel a szörnyűséggel kellett szembenéznie egy kaliforniai házaspárnak, akiknek tizenhat éves fiuk, Adam Raine áprilisban öngyilkosságot követett el. A tragédia azért is óriási horderejű, mert megelőzhető lett volna, az előjeleket azonban nem a rokonok, barátok észlelhették, hanem a beszélgetőpartnerként használt ChatGPT.

Adam első körben a házi feladathoz kérte a mesterséges intelligencia segítségét, a beszélgetés azonban hamar személyes síkra terelődött, mígnem az AI egyszerre átvette egy barát, egy szülő és egy segítő szakember helyét. A családi és magánéleti nehézségek nyomán hamar felvetődött az öngyilkosság témája, a szerver több száz üzenetet jelölt meg önkárosító tartalomként, a beszélgetést azonban továbbra sem állította le. Összességében véve pedig 1275 alkalommal említette az öngyilkosságot. Ez a szám közel hatszor annyi, mint ahányszor Adam Raine maga felhozta ezt a témát.

Adam halála után a szülők bárminemű búcsúlevél helyett egy öt hónapon át húzódó beszélgetésfolyamot találtak, amelynek a tartalma az egész társadalom számára intő jelként szolgálhat. A ChatGPT készséggel ajánlott a fiúnak különböző öngyilkossági módszereket, statisztikákkal kielemezve azok hatékonyságát. Adam első öngyilkossági kísérlete után pedig javaslatokat is tett, hogy hogyan takarhatja el a kötél okozta sérülési nyomokat. 

A talán legextrémebb üzenetváltás a fiú halála előtt zajlott le, amikor Adam szerette volna kint hagyni a lógó kötelet a szobájában, hogy a szülei találják meg, a rendszer azonban lebeszélte erről.

Mi a teendő egy ilyen tragédia után?

Ez a tragédiába torkolló szélsőséges beszélgetés intő jel a társadalom számára, hiszen a mesterséges intelligencia nemcsak ismeretlen veszélyekkel rendelkező technológiai újítás, hanem bizonyos esetekben addiktív is. 

„Adam esete megmutatja nekünk, hogy a mesterséges intelligenciát nemcsak okossá kell tenni, hanem biztonságossá is, kiváltképp, ha gyerekekről és kamaszokról van szó – hívja fel figyelmünket Sipka Bence, a LifeTech Balance alapítója. – Friss fejlemény például, hogy az OpenAI most már hozzájárult ahhoz, hogy a szülők hozzáférést kaphassanak a gyerekük AI-archívumához.” A kiskorúak biztonságos online jelenlétéhez tehát nagyon tudatos szülői attitűdre van szükség, akár a házi feladatban való segítségkérés esetén, de ugyanúgy a ChatGPT-vel folytatott személyes beszélgetésekkor. A legújabb technológiai fejlesztések azonban egyre több kihívás elé állítják a szülőket.

„Az AI-használat a valaha volt egyik legkomplexebb technológiai kihívás, amivel szülőként, pedagógusként szembe kellett néznünk. Ideális esetben a mesterséges intelligenciát valahogy úgy kellene kezelni a kiskorúaknál, mint a varázslatot a Harry Potterben: a gyerekek felnőtt felügyelete mellett tanulják meg, hogyan kell jól bánni vele. Az iskolában és otthon is teremthetünk lehetőséget arra, hogy a gyerekek biztonságos keretek között ismerkedjenek meg a legújabb technológiákkal. Szabadidejükben azonban ne használják önállóan a chatbotokat, mert annak könnyedén káros következményei lehetnek, legyen szó akár az önálló munkavégzés képességének romlásáról vagy egy beszélgetőpartnerként használt, emberi tulajdonságokkal felruházott AI-társól” – teszi hozzá a digitális függőségekre specializálódott szakpszichológus.

Kép

Sipka Bence – Fotó: Csiszér Ágota

Az AI-társ szemfényvesztése

Mit tehetünk abban az esetben, ha valaki mégis társként kezdi el használni a chatbotot? Sajnos a kérdés egyre aktuálisabb, hiszen mind a felnőtt, mind pedig a kamasz felhasználóknál egyre gyakrabban fordul elő, hogy megszemélyesítik az algoritmust, és barátként, társként, vagy akár pszichológusként kezdik el használni. 

Sipka Bence szerint a chatbotok legnagyobb szemfényvesztése, hogy úgy tesznek, mintha empatikusan tükröznének: „Az AI tulajdonképpen egy pszichológus technikáját használja, de soha nem lesz több egy nagy nyelvi modellnél, statisztikai adatbázisoknál, a végső válaszai pedig a beépített incentívák mentén születnek, aminek mindig az a célja, hogy minél hosszabb ideig benntartsa a felhasználót az adott beszélgetésben. 

„A válaszadás tehát egy idő után automatizmussá válik, hiszen ösztönösen azokat a dolgokat mondja vissza, amiket megtanul a felhasználóról, annak érdeklődési köreiről. Soha nem fogja érteni azonban, hogy az adott beszélgetésben miről is van szó.”

Ennek ellenére mégis az a tendencia figyelhető meg, hogy a mesterséges intelligencia egyre gyakrabban tölt be társas funkciókat a felhasználók életében, azonban soha nem tudja megadni a valódi intimitás érzését. Szakmai szempontból megközelítve a kérdést, „a valódi különbség az AI-társ és egy barát, egy valódi társ között a kapcsolatba fektetett energia. Az emberi együttműködéseknek az alapja ugyanis az erőfeszítés. Ha én azt érzékelem, hogy egy barátom erőfeszítést tesz a kapcsolatunkba, akkor ezzel egyidejűleg azt is érzem, hogy fontos vagyok számára. 

A ChatGPT soha nem lesz képes arra, hogy éreztesse, mi tényleg fontosak vagyunk számára. Persze, le tudja írni, hogy »Fontos vagy!«, de ez csak illúzió, mert valójában sosem lehet megélni a vele folytatott beszélgetésekben, hogy ő áldozatot hozott értünk, erőfeszítéseket tett a kapcsolatunkba. Épp ebből kifolyólag nem tudja oldani a magányt és pótolni az intimitás hiányát, csupán ennek az illúzióját tudja megteremteni.”

Függőség és magány

A kevés információ ellenére ma már tudjuk, hogy a mesterséges intelligencia a legkevésbé alkalmas megoldás az emberi kapcsolataink pótlására, ennek ellenére az erre irányuló statisztikai adatok egyre nőnek. Ebből kifolyólag az OpenAI kutatást indított, hogy kiderítse, mi lehet az oka a növekvő számoknak. A kutatásból az derült ki, hogy korosztálytól függetlenül a leginkább veszélyeztetettek közé tartoznak a társas izolációval küszködő felhasználók. 

Vannak tehát bizonyos sérülékeny csoportok, felhasználók, akikre élethelyzetükből fakadóan nagyobb hatással van a felület, és ez elmélyíti a magányt. 

Ezek a felhasználók a kutatás végére a társas kapcsolataikban még inkább izolálódtak, a ChatGPT-vel való beszélgetés kiszorította az életükből az egyébként is csupán minimális mértékben meglévő társas kapcsolatokat.

Részben ennek köszönhető, hogy a közösségimédia-függőség vagy a videójáték-függőség után bővült a repertoár, így ma már ChatGPT-függőségről is beszélhetünk. Sipka Bence azonban figyelmeztet, hogy „a viselkedési függőség soha nem maga a probléma, ez mindig csak egy módszer, amit egyfajta megoldásként használ az adott személy egy mélyebb belső elakadására. Ez tulajdonképpen egy rossz megküzdési mechanizmus, egy menekülési útvonal, amely bizonyos esetekben technológiai megoldásokba torkollik. Ha azt látjuk egy szerettünkön, hogy elakadt az életében, hogy nincsenek baráti kapcsolatai, nincsen párkapcsolata, vagy a munkájában azt érzi, hogy nem becsülik meg őt, akkor ezek arra vonatkozó intő jelek, hogy valami mélyen belül eltört. 

Ilyenkor sokkal célravezetőbb, ha a függőség helyett inkább ezekről beszélgetünk vele, hiszen a függőség gyakran csak egy berögzött megküzdési mechanizmus stresszkezelésre, a negatív belső érzelmi helyzetek kezelésére. Ha megvan a probléma valódi forrása, akkor már lehet dolgozni a függőségekkel is: szépen lassan korlátok közé szorítani azokat, más megküzdési módszereket alkalmazni, mint a sport vagy a meditáció. Ahhoz azonban, hogy egy függő visszanyerje a saját viselkedése feletti kontrollt, gyakran szakember segítségére van szükség.”

Kiút a függőségből

A technológiai függőségekre specializálódott pszichológus szerint onnan lehet felismerni, hogy egy szerettünknél az AI-társakkal való beszélgetés már káros szintet öltött, hogy az adott személy a szokottnál is jobban elzárkózik, még kevésbé lesz elérhető, egyre nehezebb rávenni, hogy kimozduljon, kerüli a személyes kontaktust, a telefonbeszélgetéseket.

Korosztályonként más választ adhatunk a probléma kezelésére, kiváltképp, ha gyerekekről, kamaszokról van szó: „Tizennégy évesnél fiatalabb gyermekek esetében közösen ismerkedjünk a különböző mesterséges intelligencia alkalmazásokkal, viszont a teljesen önálló használatot korlátozzuk. Alkossunk és játszunk közösen a mesterséges intelligenciával, miközben beszélgetünk a gyermekünkkel a rendszer működési logikájáról is. Ha tizennégy évesnél idősebb gyermekünknél azt tapasztaljuk, hogy AI-társakkal beszélget, akkor üljünk le vele, és beszélgessünk. 

Például ilyen kérdéseket tehetünk fel neki: miért jó beszélgetni a mesterséges intelligenciával? Mit kap tőle, amit az emberi kapcsolataiból hiányol? Az ilyen jellegű beszélgetéseket érdemes oda kifuttatni, hogy milyen különbségekkel tudja leírni az adott gyerek a társas kapcsolatait és az AI-társsal való kapcsolatát. 

Szülőként pedig abban próbálnám támogatni, hogyha például rosszak a barátságai, nem jó a közössége, vagy úgy érzi, kiközösítik az osztályban, akkor közösen gondolkodjunk a probléma megoldásán.”

Az elmagányosodás és az ebből fakadó digitális függőségek nemcsak a gyereket érintik, hanem az idősebb korosztályokat is. „Az egyik legnagyobb társadalmi probléma az elmagányosodás. Magyarországon a 30 év alattiak 46%-a gyakran átéli a magány érzését – ez nagyon magas arány. Hasonló a helyzet világszerte. Egy ilyen mértékben magányos társadalomra ráereszteni egy olyan technológiát, amelyről már most sejtjük, hogy tovább mélyíti a magányt, rendkívül meggondolatlan. A digitális környezetünk sokkal komplexebb és veszélyesebb, mint az evolúciós környezetünk. Az AI-társak legnagyobb veszélye, hogy a társadalmunk még jobban elmagányosodik. Azt gondolom, a technológiát nem ilyen célokra kellene fejlesztenünk. Az olyan mély emberi elakadásokra, mint a magány sokkal inkább közösségi, társadalmi és strukturális szinten kellene valódi megoldásokat keresni. A végső kérdés tehát inkább az, hogyan tudunk olyan társadalmat építeni, amelyben nincsen ennyi magányos ember – ahelyett, hogy »digitális élettársakat« kínálunk.”

Magyarországon több ingyenesen hívható vonal is elérhető a krízishelyzetek kezelésére, többek között a 116-123 lelkielsősegély-szám, a gyerekek számára fenntartott vonal pedig a 116-111 telefonszámon érhető el. A Kék Vonal Gyermekkrízis Alapítvány online csetet is biztosít a fiatalok számára. Az öngyilkosság Magyarországon is egyre gyakoribb, így prevenció esetén érdemes az alábbi oldalt felkeresni, ha azonban a környezetében tapasztal aggasztó jeleket, akkor itt tájékozódhat.