Talán kötelező olvasmánynak kellene lennie, igaz, kicsit hosszabb a megszokottnál: kinek a javát szolgálja a mesterséges intelligencia erőltetett fejlesztése?...

Miközben a mesterséges intelligencia nem is olyan lassan életünk minden területét behálózza, a sajtó pedig a technológiában rejlő „elképesztő” lehetőségektől hangos, hajlamosak vagyunk tudomást nem venni arról, hogy mit adunk fel a vélt vagy valós haladásért cserébe. Alábbi cikkünkben arra tettünk kísérletet, hogy rövid szellemi utat járjunk be az indián törzsfőnök lelkétől korunk talán leghíresebb neurológusának kijózanító figyelmeztetéséig.

„Az írógép volt az egyetlen gép, amit valaha is láttam, hogy használt. […] Úgy gondolta, hogy nem lehet a gépet büntetlenül használni: a gép elvégez valami feladatot, és eközben gazdája, vagyis az ember veszít emberségéből. Hozzá nem nyúlt volna mobiltelefonhoz vagy számítógéphez! Az internetnek még a létét is tagadta: olyan nincsen! Vagy ha van, semmi értelme.”

Technicizált, digitalizált világunkban különösen elgondolkodtató mondatok ezek, amelyeket Molnár Tamásról mondott Barna Teréz, a filozófus utolsó írásainak fordítója a Visszatekintés című kötetben. Elgondolkodtatók már csak azért is, mert az élete nagy részében az Egyesült Államokban élő, nemzetközi hírű filozófus nem olyan régen, 2010-ben halt meg – de hát hol voltunk még akkor a mindent behálózó virtuális világtól vagy éppen a mesterséges intelligenciától (MI)?

Az újabb és újabb technikai találmányokkal kapcsolatban rendre felmerült, hogy az ember veszít emberségéből.

Ismert a történet, miszerint a nagy amerikai vasútépítések idején – melyek indián rezervátumokat is átszeltek – az indiánok maguk is kipróbálták a vonatozást. Ebből az időből maradt fenn egy törzsfőnökről a történet. Amikor leszállás után hosszan üldögélt az állomáson, és megkérdezték tőle, hogy miért maradt ott, ő úgy válaszolt: „Várom, hogy utolérjen a lelkem.”

Leépülő agyműködés

A technikai fejlődés az utóbbi egy-két évtizedben, és különösen a Covid-járvány óta olyan sebességet vett, hogy az már szinte követhetetlen. Korántsem valami „boomer”, vagyis az idősebb korosztályokat érintő kérdésről van szó. Éppen ellenkezőleg: bár úgy tűnik, a fiatal generációk lubickolnak ebben a szép, új világban, szó sincs arról, hogy ez ne hatna vissza rájuk negatívan. Ezeken a hasábokon így írtunk egy amerikai szociálpszichológus bestsellerré vált könyvéről, A szorongó nemzedékről: „Jonathan Haidt felmérések és kutatások tucatjait tette vizsgálat tárgyává, és mindezek alapján határozottan kijelenti, szoros összefüggés van aközött, hogy 2010 és 2015 között az amerikai tizenévesek társas élete nagyrészt az okostelefonokra költözött és aközött, hogy ugyanebben az időszakban a mentális egészségre vonatkozó szinte minden vizsgált területen óriási romlás volt megfigyelhető.”

Nem ő az egyetlen: Martin Jan Stránský a világ egyik vezető egyetemén, a Yale-en klinikai adjunktus, és ebbéli minőségében talán mindenkinél nagyobb kritikusa a digitális világnak. Ám nem valami „gépromboló”, l’art pour l’art módon, hanem neurológusként, tudományos alapon. A cseh származású Stránský azzal érvel, hogy az okostelefonok és a virtuális világ elterjedése egyszerűen leépíti az agyműködést, és nem viszi előre az emberiséget. Szerinte igenis fel kell tenni a kérdést: miért van szükségünk egyáltalán az MI-re?

Hiszen csak annyit látunk, hogy az adatvezérelt világ gyorsabbá és könnyebben hozzáférhetővé tesz bizonyos dolgokat. A neurológusprofesszor szeptemberben Magyarországon tartott előadást a Brain Baron, és kifejtette, hogy mindazt, ami leginkább javította az életünket, még a digitális kor előtt találtuk fel – a telefont, az antibiotikumot és a mosógépet. A most mindennél fontosabbnak láttatott szórakoztató és kényelmi eszközök a korábbi innovációkkal ellentétben sokkal inkább öncélúak, és egy-egy globális nagyvállalat érdekeit szolgálják, nem az emberiség javát. Noha sok techoptimista jelenlegi – tulajdonképpen nyelvi modellnek tekinthető – MI után az általános MI (AGI) megalkotását, sőt a mesterséges szuperintelligenciát (ASI) várja türelmetlenül, Stránský professzor máshonnan közelít.

Szerinte nem az a kérdés, hogy egy számítógép képes lesz-e úgy gondolkodni, mint az ember, hanem az, hogy az ember egyáltalán képes lesz-e másként gondolkodni, mint a számítógép.

Felidézte a Massachusetts Institute of Technology Language Labs tavaly júniusban közzétett kutatását is. A vizsgálatban három csoportot különítettek el: az egyik a ChatGPT-t használta esszék írásához és tanuláshoz, a másik a Google-lal kereshetett információt, a harmadik viszont csak tollat, papírt, könyveket használhatott. Az eredmény megdöbbentő: a ChatGPT-t használóknál három hónap alatt (!) 47 százalékos anatómiai és fiziológiai agyműködés-csökkenést mutattak ki, egyszerűen azért, mert nem volt szükségük az agyuk aktív használatára. Sőt, 83 százalékuk alig három perccel az írás után már nem emlékezett rá, mit írt. A ChatGPT-t használó csoport csaknem felénél kognitív deficit alakult ki, miután abbahagyták az intenzív használatot, vagyis Stránský szavai szerint „hülyék maradtak”. A legjobb eredményeket (igaz, kicsit lassabban) azok érték el, akik hagyományos eszközökkel dolgoztak.

Manipulációk áldozatai

Tilesch György, az MI-stratégia és -irányítás világszerte ismert alakja sem teljesen derűlátó a humán oldalt illetően.

– Sokkal gyorsabban jöhet létre egy olyan világ, ahol az ember a meghatározó kommunikációit egy nyelvi modellel folytatja, aminek én nagyon-nagyon nem örülnék. Én attól a világtól félek, amit elönt a szintetikus tartalom és szintetikus kapcsolatok. És teljesen kiszorítja vagy egészségtelen szintre szorítja le az emberi kapcsolatokat. Attól félek, hogy most még ebben a kissé csökevényes, nem hibátlan korszakában a technológiának borzasztó gyorsan rászokunk arra, hogy emberi tulajdonságokkal ruházzunk fel nyelvi modelleket – erről a Friderikusz Podcastban beszélt a Szilícium-völgyben élő szakértő, kockázatosnak nevezve, hogy az egyre több emberi interakció révén „manipuláció áldozatai leszünk”.

Tudják, hogy mikor vagyunk sebezhetők, és tudják, hogy adott esetben mire hogyan reagálunk – mondta Tilesch György.

Arról is beszélt, hogy a Mattel, a világ egyik legnagyobb játékgyártó cége összeállt az egyik legnagyobb kínai MI-modellgyártóval abból a célból, hogy olyan babákat és plüssmackókat dobjanak piacra, amelyekkel beszélgetni lehet. Azt ugyanakkor szinte lehetetlen kontrollálni, hogy egy-egy ilyen játék milyen irányba vigye a beszélgetést a gyerekekkel – jobb esetben csak reklámokat fog nekik sulykolni, hogy vegyék rá apát, anyát az újabb költésekre, rosszabb esetben viszont felmerülhet az érzelmi manipulálás vagy egy olyan helyzet, hogy a kisgyerek valós barátként tekint majd a játékra.

Ez a fajta elszemélytelenedés, a valóságos emberi kapcsolatok lecserélése nem új keletű probléma, ám úgy tűnik, az MI mindennapjainkat behálózó jelenlétével ez is csak fokozódik. Szinte nem telik el nap, hogy ne hallanánk történeteket arról, hogy valakit öngyilkosságba kergetett az MI, más éppen „összeházasodott” egy karakterrel, megint mások pedig mint valami szektariánus vallás követői, istenükként kezdték tisztelni az MI-t.

Furfangosok garázdálkodása

Végül kanyarodjunk vissza kiindulópontunkhoz, ember és gép viszonyához. Somogyi Győző Kossuth-díjas festőművész már harminc éve arról beszélt, hogy a modern civilizáció „furfangos emberek” ezreit, millióit tartja el csak azért, hogy törjék a fejüket, hogy újabb és újabb szerkezeteket, vegyszereket, reklámokat, elméleteket agyaljanak ki egy-egy cég profitja növelésére, egy-egy zsarnok hatalma érdekében. „A szorgos furfangosok garázdálkodását senki nem látja át, senki nem hangolja össze, semmi erkölcs és magasabb szempont nem tereli jó irányba. Mindent azonnal kipróbálnak, megvalósítanak, piacra dobnak és a későbbi hatások kártételeit sem orvosolják, hanem újabb találmányokkal egyszerűen átlépik. Többnyire a még nagyobb új borzalmak feledtetik a korábbit” – mondta akkor a Magyar Szemle folyóiratban megjelent interjúban.

Somogyi Győző ekkor még mit sem sejthetett a digitális korról. Barsi Balázs ferences szerzetessel viszont most, a nyolcvanadik születésnapján már az MI-ről is beszélgettünk. A hitszónok szerint fontos tudatosítani, hogy az elnevezés ellenére az MI nem intelligencia. „Intelligenciája csak az embernek, csak a személynek van. Helyesebb azt mondani, hogy az intelligenciával rendelkező embert segítő gép. Hiába írja ki, hogy szeret téged, ez az abszolút üresség. Ez benne a sátáni, mert innen nézve az elszemélytelenedésnek az utolsó, iszonyatos találmánya.”

Pintér Balázs
forrás: https://demokrata.hu/tudomany/az-elszemelytelenedes-lepcsofokai-1134521/