Címke: mesterséges intelligencia

augusztus 5, 2024 | Boka László | Rovatok | Társadalom
MEGOSZTOM

Mesterséges intelligencia ma és holnap

Az igazi szellemíró

Az első ember, aki a nagy nyelvi modellel való szövegalkotás tapasztalatait leírja, sohasem létezett, mégis sokunk gyerekkori ismerőse. A 18. századi angol-ír szatirikus író, Jonathan Swift képzeletéből kipattant hajóorvos, Lemuel Gulliver harmadik útja során az óhatatlanul bekövetkező hajótörés után egy fantasztikus repülő szigetre, Laputába kerül, majd meglátogatja a lagadói Nagy Akadémiát. Itt egy sor olyan kísérlet leírása után, amelyek ma bizonyára jelölést kapnának az Ignobel Díjra, a mindannyiunk vizuális tudatalattijában háromszögletű kalapot viselő derék hajóorvos találkozik a ChatGPT ősapjával, egy negyven ember által működtetett, szoba méretű fa szerkezettel, amelynek feltalálója büszkén hirdeti, hogy ennek segítségével: „a legtudatlanabb személy jutányos áron maga írhat bölcsészeti munkákat, verseket, politikai, jogi, matematikai és teológiai értekezéseket, anélkül, hogy egy szikra tehetsége vagy műveltsége volna hozzá.” (Karinthy Frigyes fordítása) Majd spontán bemutatót rendez, tanítványaival működésbe hozza a gépet, amely az állam nyelvének teljes szókincsét tartalmazza, „nem feledkezve meg a viszonyszókról sem”. Az emberi erő által mozgatott ős-chatbot randomizált formában helyezi egymás mellé a szavakat, és ami értelmesnek tűnik, azt feljegyzik, és vaskos kötetekben megjelentetik, „melyekből a világ minden művészetek és tudományok gazdag anyagát merítheti.” 

Mivel Gullivert újabb csodálatos kalandok várják, Swift az olvasó fantáziájára bízza, milyen lenne a tudomány és a művészetek világa, ha a szöveggeneráló prototípus használatát derék feltalálójának elképzelései szerint valóban mindenki számára elérhetővé, sőt kötelezővé tennék. Ha a regény cselekménye ebben az irányban alakult volna tovább, az Open AI által 2022 végén elérhetővé tett ChatGPT széleskörű használata bizonyára megnövelte volna az érdeklődést Swift munkája iránt, még ha inkább csak érdekességként, semmint reális analógiák felkutatása végett fordult volna is a figyelem egy csaknem három évszázaddal korábban írott szatirikus regény felé. 

A mesterséges intelligencia jelenléte mindennapi életünkben voltaképpen már évek óta banalitás, általa generált tartalmakat is fogyasztunk, mégis a ChatGPT megjelenésével kapott „arcot”, karaktert a köztudatban. Aki kicsit is tájékozott a kultúrtörténet, azon belül technikatörténet vagy akár médiatörténet világában, az semmi meglepőt nem lát abban, hogy az MI mindennapjainkban való megjelenése egyszerre kelt félelmet, szorongást és elragadtatást. Hogy változásokat hoz, méghozzá várhatóan az életünk minden területén, az tagadhatatlan. Hogy milyeneket, arról lehet vitatkozni, de hogy része lett és lesz az életünknek, az olyan tény, amellyel szembe kell nézni. Jelen írásban a mesterséges intelligencia irodalmi alkotásba, irodalomba, műkritikába való beillesztésével kapcsolatos gondolataimat vázolom fel, tudatában annak, hogy egyelőre a találgatás pillanatában vagyok, afféle szellemi akrobatika kedvéért most nem ismertetni és elemezni, csupán megtippelni próbálok valamit, ami akár a közeljövőben megvalósulhat, de az is lehet, hogy épp olyan, minden realitást nélkülöző gondolat marad, mint a lagadói akadémikusok egyik-másik kísérlete.

Társszerző ChatGPT

Stanislaw Lem híres Elektrubadúrja ma ott lakik mindannyiunk számítógépében. A ’60-as években írt Kiberiáda versíró robotja, a zseniális Trurl mérnök alkotása sok mindenben hasonlít a mai szöveggenerátorokra, abban is, hogy képes a tanulásra, saját teljesítményének fokozására a kapott visszajelzések alapján. Mondhatni költői ambíciókkal rendelkezik. Elektrubadúr eleinte klasszikus stílusban ír, mivel alkotója nem sokat értett a költészethez, és csupán a klasszikusokat táplálta belé. Ám elég néhány találkozás avantgárd szerzőkkel, a gép átprogramozza magát, és azon túl „ködös, homályos, sokértelmű, mágikus és a teljes érthetetlenségig művészi verseket ír.” (Murányi Beatrix fordítása). Méghozzá olyan tempóban és mennyiségben, hogy rövidesen megváltozik körülötte az irodalmi élet szerkezete, az írók, költők feleslegessé válnak, hiszen Elektrubadúr „több ezer álnéven írt egyszerre, minden alkalomra azonnal szállította a kívánt méretű költeményt, és ezek az alkalmi versezetek olyan gyönyörűek voltak, hogy az állampolgárok egymás kezéből tépték ki az újságot.” Ha működése nem emésztene fel irdatlan mennyiségű áramot (mégiscsak a hatvanas években vagyunk), Elektrubadúr rendkívüli hatású és hatalmas mennyiségben születő szövegeivel világuralomra jutna, így azonban eladják egy távoli csillagrendszer uralkodójának, derék alkotója pedig megfogadja, hogy saját testi épsége és a világ biztonsága érdekében soha többé nem kísérletezik alkotó folyamatok kibernetikai modellezésével. 

Ami 1967-ben, a Kiberiáda megjelenésekor még elsősorban poén volt, ma valóság, noha a mai mesterséges szöveggenerátorok még távolról sem rendelkeznek Elektrubadúr műveinek esztétikai értékével vagy irodalmi hatásával. Az új idők jeleként szokták emlegetni, hogy Rie Quidan japán írónő idén jelentős irodalmi díjjal (Akutagawa-díjjal) kitüntetett regényének állítólag mintegy 5 százalékát társszerzőként már a ChatGPT írta. Az viszont rendszerint kimaradt a tudósításokból, hogy maga a regény cselekménye a közeljövőben játszódik, egyik témája éppen a mesterséges intelligencia térnyerése, és az a bizonyos 5 százaléknyi szöveg történetesen olyan szövegként jelenik meg a regényben, amelyet mesterséges intelligencia generált. A téma előtérbe kerülése után nyilván felmerült, hogy az irodalmi díjak odaítélésének kritériumai közé be fog kerülni (van, ahol már be is került), hogy hogyan, milyen körülmények között lehet felhasználni egy műben mesterségesen generált szöveget.

2023 decemberében a kínai Shen Yang hatvanhat utasítás betáplálásával mintegy három óra alatt megíratott egy teljes sci-fi „regényt”, illusztrációkkal, sőt még szerzői nevet is generált hozzá, és munkáját díjazták is egy pályázaton. Ami a szenzációra kihegyezett tudósításokból ismét kimaradt, az annak a pontosítása, hogy azért nem éppen Nobel-díjról, csak egy tematikus ifjúsági pályázatról van szó, és hogy a szerző alaposan átírta a generált szöveget (a 43 ezer szót mintegy hatezerre meghúzta). Noha a zsűri nem minden tagja ismerte fel, hogy mesterségesen generált szöveggel van dolguk, azért többek véleménye szerint a regény nem feltétlenül önmagában, csupán más pályakezdő amatőrök munkájához mérten bizonyult jobbnak. 

Az viszont nem kérdés, hogy az újgenerációs digitális Elektrubadúr írni kezdett, és bár egyelőre nem tudunk arról, hogy szerzői ambíciókkal is rendelkezne, az biztos, hogy tanulni már tud, tehát várhatóan egyre jobban fog írni. 

Hogy mit jelent ez az irodalmi alkotás közeljövőjére nézve? 

Kitolja-e az MI a határokat?

Voltaképpen nem is az a kérdés, hogy képes (lesz)-e a mesterséges intelligencia valóban jó regényeket írni, hanem hogy igazából mit is várunk el a regénytől, az irodalmi alkotástól? Hogy megismertessen bennünket olyan világokkal, amelyeket korlátozott élettartalmunk során nem ismerhetünk meg? Az MI több információhoz fér hozzá, mint amihez az egyes ember valaha is hozzáférhet(ett). Azért olvasunk irodalmat, hogy az egyes műveken keresztül párbeszédbe léphessünk az egymásra reflektáló irodalmi alkotások összességével? A nagy nyelvi modellek több szöveget használnak fel, mint amennyit bárki ember elolvasni képes. 

Képes lesz a közeljövőben az MI-író helyettesíteni az ember-írót? Talán inkább úgy kellene feltennünk a kérdést, hogy olvasóként, illetve megrendelőként milyen szövegeket szeretnénk olvasni? Egyes műfajokban, témákban a szöveggenerálási lehetőség gyors, rizikómentes szövegtermelést biztosít majd a kiadók számára. Pillanatok alatt, olcsón megíródik, és az ugyancsak MI által generált borítóval és illusztrációkkal együtt közreadható a százmillió ötszáznegyedik ellenségből szerelmesek alapkonfliktusú iskolai tiniregény a kötelező végzős bulival az utolsó előtti fejezetben, krimi hullával a vonaton, alkoholista vagy extrém hobbival rendelkező detektívvel, esetleg egy kerek, kis sci-fi az öntudatra ébredő gépről, és távoli galaxisok harcairól. Ebben önmagában nincs semmi újdonság, a 19. század óta mindig is léteztek tömegtermelésben dolgozó, ugyanazt a történetet ezer változatban szállító szerzők, szerzői csoportosulások. A magyar ponyva fénykorában, a húszas-harmincas években többnyire pályaszélre szorult újságírók rekordmennyiségben gyártották a légiós, vadnyugati, szerelmes és kémhistóriákat a pesti kávéházak asztalainál, az anekdoták szerint, ha valakinek kiesett egy kézirat a zsebéből, valaki felkapta, és másnapra már meg is jelent.  De képes lesz-e az MI az emberhez hasonlóan megújítani a műfajt, kitolni a műfaji, tematikai határokat, más, új válaszokat találni régi kérdésekre?

Jól körvonalazott cselekménnyel, szereplőkkel, konfliktusokkal dolgozva, megfelelő irányítással bizonyára egyre jobb és jobb szövegek születnek majd. A programozás vizuális megoldása azt is elhiteti velünk, hogy a szöveg a szemünk láttára születik, és nem előfordulási valószínűségre alapozva teríti elénk őket az élénk gépelés ritmusában egy program. A bonyolultabb, széttartóbb cselekményű, elsősorban nyelvi, stilisztikai hatásra épülő szöveggel nehezebben boldogul majd. Talán egy napon a meglévő adatokra alapozva simán megír egy új Esterházy-, Márquez- vagy Austen-regényt, ami azért valljuk be, remek dolog lenne! De nem valószínű, hogy az MI Elektrubadúr lesz az új Esterházy vagy Bob Dylan. És nem mindegy, nagyon nem mindegy, milyen szövegek alapján tanul a gép. Most, a nulladik pillanatban ezen még sokat lehet és kellene is változtatni 

A művészeket és filozófusokat egyaránt évezredek óta foglalkoztatja a kérdés, hogy mit jelent embernek lenni. A művészi alkotás rendelkezésére álló mesterséges intelligencia megjelenése talán arra ébreszt rá, hogy eljött az ideje annak, hogy erre a kérdésre új válaszokat adjunk.

Vallasek Júlia

MI/AI vagy amit akartok?

Aligha kérdéses, hogy a dúsabb fantáziájú szerzőket (és hű olvasóikat) az utóbbi bő kétszáz évben folyamatosan s egyre intenzívebben foglalkoztatta valamiféle mesterséges intelligencia jövőbeli megszületésének, feltalálásának, forgalomba hozatalának a kérdése. Hogy ez aztán az eddig megvalósíthatatlan álmokat, netán a legrosszabb rémálmokat vonja-e maga után, az kinek-kinek a fantáziájára volt bízva. Egy darabig. Ahogyan közelebb és egyre közelebb kerültünk ugyanis a fikció valósággá váláshoz, úgy szaporodtak kérdéseink, kételyeink, akár félelmeink is – a nyilvánvaló technikai haladással párhuzamosan (a sok esetben csodaszámba menő kütyük, emberiséget segítő orvosi fejlesztések, a mindennapokat megkönnyítő automatizált dolgok, vagy az űrkutatásból származó robotika örömteljes elénktárultával). Utóbbi ugyanis a 18. század utolsó harmadától, az ipari forradalom kezdetétől alapvető feltalálások, technikai vívmányok sorát is jelentette, s a „gépesítés” hajnala óta csupán idő kérdése volt, hogy mikor jutunk el az egyre szofisztikáltabb eszközökön át egy olyan entitásig, amely maga is rendelkezhet valamiféle „intelligenciával”.

Kezdjük azzal, hogy mindez sokáig többnyire a fikció világába tartozott, a technikai innovációk jelentős része pedig eleve romantikus regények vagy később sci-fi filmek alapján indult fejlesztésnek. Ezek – ha nem is mindig közvetett módon – generálták a korábban csak alkotói fantáziákban megszületett ötleteket. A Némo kapitánytól a Star Trek világáig számtalan példa ismert a tudományos-fantasztikum világából merítő technikai fejlesztésekre. Bár Jules Verne 1870-ben megjelent, egyik leghíresebb regénye, ha nem is találta fel a tengeralattjárót, de nyilvánvalóan további mérnöki fejlesztésekre inspirálta az akkor még csak kezdetlegesnek sem mondható, emberi meghajtású víz alatti járművek továbbépítésére elszántakat. Captain Kirk kommunikátora azonban már egyértelműen inspirálta a későbbi mobiltelefonokat s a video-hívások lehetővé tételét valamilyen számítógép vezérelte platformon. Regényekben szereplő masinák, használati eszközök egész sora vált valósággá utóbb, a telefontól a csipogóig, s egészen az elektromos sokkolóig, ami egy Victor Appleton-regényben már 1911-ben feltűnt.

Mindeközben újra és újra előkerült valamiféle humanoid robot megvalósításának a reménye is, ez pedig csak valamilyen mesterséges tudattal, fejlett programozással, saját „intelligenciával” válhat valósággá, túl azon, hogy energiaforrásra van szüksége. E ponton két dolgot fontos máris meglátnunk. Az egyik az, hogy a mesterséges intelligencia (MI) – angolul Artificial Intelligence (AI) – tudományága az 1950-es, 1960-as évekbeli kezdete óta számos ponton és alapvető módon módosult, átalakult, s bár évtizedek óta fejlesztik, csupán az elmúlt egy-két évben került be a köztudatba, jórészt a ChatGPT-nek köszönhetően. A másik, hogy az MI-nek (egyelőre) nincs biológiai és pszichés működése, kivetülése, „csak” intelligenciája, vagyis bonyolult szoftverműködések révén az adatok folyamatos és gyors feldolgozása mellett egyfajta tanulási képessége, illetve van valamilyen fizikai (jórészt nem látott, csak képernyőkre vetülő, mégis tudottan egy központi hardver-szerű) megjelenése. Az emberek robotok iránti „vonzalma” ezt az űrt – a biológiai és pszichés karaktereket – akarta áthidalni mindenkoron. Azt, hogy az Óz-beli bádogember valóban életre keljen, s egyre emberszerűbb is legyen. Lehessen vele közvetlenül „társalogni”, fizikai kontaktusba kerülni, legyenek érzelmei.

Félelem a fejlődéstől

Mindezzel párhuzamosan s ennek némiképp előfeltételeként – szintén hosszas előkészületek után – a 20. század végére eljutottunk a PC-ig, vagyis a személyi számítógépig, ami a fentebb említett „alapintelligencia” előfutáraként vált kézzelfoghatóvá egyre nagyobb számú felhasználó számára. Ekkor, egy új technikai forradalom látványos beérésekor jelentek meg a sokszor irreális elvárások mellett azon félelmek is, amelyek ma, a ChatGPT-korában még inkább felhangosodni látszanak. A programok ugyanis, amelyek mára elárasztották mindennapjainkat, virtuális valóságot építettek: olyan számítógép generálta környezetet, amely által már nem a fizikai valóságban kell feltétlenül kontaktusba kerülnünk egy „mesterséges tudattal” (amelynek bármilyen tetszőleges alakja lehetséges ráadásul), vagy egy valós személynek az ún. avatárjával, kiber-kivetülésével. A sport, az utazás, a különböző médiajátékok és a filmipar mellett a szexpiac is egyre erőteljesebben ennek a valóságot is meghaladó élmény-együttesnek az ígéretét tette meg legfőbb szlogenjévé, amely részben már meg is valósult, gondoljunk csak a VR-szemüvegekre. És itt egy fontos pontra kell kitérnünk.

Az emberiség nagyjából a ’80-as, ’90-es évekre jutott el odáig, hogy elkezdett félni magától a technikai fejlődéstől. Korábban is felmerült persze a gondolat, hogy például nukleáris fegyverek formájában a haditechnológia véget vethet az életnek a teljes bolygón, de az jellemzően még egy hardver-koncepcióra épített. Az ezredforduló előtt felmerült, emlékezetes Y2K-hiba volt talán az első alkalom, amikor a fejlett világnak globálisan meg kellett birkóznia azzal a gondolattal, hogy egy szoftvernek vagy néhány sornyi kódnak is drasztikus következményei lehetnek. Az egyes művészeti ágak, például a szépirodalom és a film persze ebben is előfutárnak bizonyult. A Blade runner (1982) – magyarul Áloműzők –, amely Philip K. Dick Álmodnak-e az androidok elektromos bárányokról? című regénye alapján készült, már a mesterséges intelligencia, az identitás és az emberlét témáját járta körül. A sokkal ismertebb James Cameron-féle Terminátor (1984), éppúgy, mint annak még látványosabb folytatása, a Terminátor: Az ítélet napja (1991) a távoli jövőből a jelenünkbe visszatérő gépek, halálosztók témájára épített, akik egy olyan lehetséges valóságból érkeznek, amelyben a mesterséges intelligenciával ellátott gépek öntudatukra ébredve már átvették az irányítást a Földön. Ennek értelmében az emberiség az MI fejlesztéssel önnön végzetének balsorsú bakója lett. A Skynet-hez kapcsolt félelmek sokáig leginkább katonai pusztító gépekben testesültek meg, s nem véletlen, hogy az MI mai, induló szakaszában is annak „demilitarizálásáról” való megállapodást sürgetnek a legnagyobb tech-cégek nyilatkozataikban. 

Az 1990-es évek hollywoodi kasszasikerei végén a sort egy mára klasszikussá lett alkotás, a Mátrix folytatta összetettebben és cizelláltabban, komoly mondanivalóval, mondhatni filozófiával. Az 1999 nyarán, vagyis éppen 25 éve bemutatott zseniális filmben mesterséges intelligenciájú gépek immár nem fellázadnak, a hatalom eleve az ő kezükben van és az emberek mind rabszolgák egy szimulált valóságban, anélkül, hogy tudnának erről, s ahol csak energiaforrásként van rájuk szükség. Az egész filmbéli eseménysor azzal indul, hogy az emberiség a 21. századra önmaga nagyszerűségét csodálta, mert megalkotta az MI-t, ami később a „gépek és emberek” konfliktusához, s előbbiek felülkerekedéséhez vezetett.  Hogy folytassuk a filmes sort: az Én, a robot (2004), ami nem szorosan véve adaptáció, de mégiscsak Isaac Asimov egyik novelláskötetének történeteire alapult, szintén az emberek és az MI kapcsolatát vizsgálta egy olyan futurisztikus társadalomban, ahol a robotok már mindennaposak. A filmben (és az eredeti történetekben is) a mesterséges intelligencia központi szerepet játszik, a cselekmény az NS-5-ösöknek nevezett kifinomult robotok fejlesztésének határaira és azok emberiségre jelentett potenciális veszélyeire összpontosít. A fejlett robotok vagy az MI/AI által jelentett potenciális rizikófaktorokkal kapcsolatos témát számos film járta körül tehát máris, az említettek talán csak a legismertebb példák. Közös bennük, hogy megkérdőjelezhetetlenül globális változást jeleznek, s visszahatnak az „emberi” lényeg újragondolására, ösztönöznek annak újraértékelésére is.

Szolgáló vagy leigázó?

Eddig szándékosan kerültem a „teremtés” szót. Gépek feltalálásáról, technológiák gyártásáról, MI-fejlesztésről beszéltem, de ma is az a helyzet, ami korábban: az elme és a fantázia világát jól ismerő alkotóművészek és bölcselők előbbre járnak a problémafelvetésben magában, mint a technikai megvalósításon ügyködők, akik a következményekkel nem mindig számolnak. Pár éve Ridley Scott filmje (Alien: Covenant) már elsősorban a teremtés, az evolúció és az emberiség természetének bonyolult témáival foglalkozott, miközben értelemszerűen érintette a mesterséges intelligenciával kapcsolatos kérdéseket, félelmeket is. A patinás sci-fi sorozat előző filmjében, a sokak szerint leginkább rendezői melléfogásként értelmezhető Prometheusban (2012) bemutatott android, David karakterén keresztül találkozunk a tökéletes MI-vel rendelkező robottal, mint megalkotója „teremtményével”, akit szolgának teremtettek és úrrá lehet. Ez a problematika úgy tűnik, mára rémségesebb, mintha a híres Alien-filmek eredeti szériájához hűen csupán pusztító űrlényeket mutogatnának! Az android ugyanis furulyázni tanul, ha kell, tizenkilencedik századi verset szaval, vagy éppen Wagnert zongorázik, sosincs szüksége alvásra, mondhatni tökéletesen emberszerű, de nem tudjuk, mit „gondol”. Folyton éber, úgy óv bennünket, hogy közben ki is vagyunk téve önkényének, márpedig a fejlett android egyre inkább keresi az emberi intelligencián túl a lét legnagyobb kérdéseire is a választ: a teremtés kérdésén, talán a fajok eredetén töprengve előbb-utóbb maga is teremteni akar.

E hosszasabb kitérő pusztán arra szolgált, hogy rávilágítsunk: mindazoknak, akiknek a fantáziájából az idők során kipattant az MI népes előfutárainak a gondolata, azokat erőteljesen foglalkoztatta az a manapság különösképpen előtérbe kerülő kérdés, hogy vajon szolgálója vagy leigázója lesz-e egy önálló értelemre jutó, öntudatára ébredő akármi az emberiségnek? Minél inkább emberszerűbb ugyanis egy „gép”, annál inkább emberi tulajdonságokkal ruházzuk fel azt, vagy ő szeretné önmagát felruházni ilyenekkel, s ezek közt biza, nem csak jó és építő szándékú létezik.

Ma még persze nem ilyen radikális félelmek uralkodnak, ahogyan a technikai fejlesztések sem tűnnek végezetesnek, akkor sem, ha az utóbbi negyed század fejlesztései léptékszerűen nagyobbat ugrottak, mint korábban másfél század együttvéve. Ezek pedig egyértelmű és drasztikus változást hoznak már ma is életeinkbe. A technika eredményei pillanatok alatt természetessé válnak számunkra, holott bő 30-35 éve még a televíziók többsége sem volt színes, nem tudtuk, mi az a mobiltelefon, s a világháló fogalmát is csak szűk beavatottak ismerték. Amikor az említett Mátrix című film megjelent, a világháló még viszonylag új s kezdetleges volt, a mesterséges intelligencia pedig alapvetően csak álomnak számított, fejlesztés alatt állt, de ezen évek techno-optimizmusa mellett is érezhető volt már egy szorongás amiatt, hogy hová vezetheti az emberiséget a kibertér és egy megzabolázhatatlan szoftver-technológia. E kettős aspektusra (a technológiai fejlesztések hihetetlen felgyorsult tempójára, s azon változásokra, amiket mindez generál) egy-egy személyes példát hozhatok. Ez némiképp az ezredfordulóra hihetetlenül megnőtt információmennyiséghez való hozzáférést és az audiovizuális médiát is érinti. Az Európai Bizottság, a Közösség audiovizuális politikájának alapelveiről és irányelveiről a digitális korban című állásfoglalása 1999-ben ilyen mondatokat tartalmazott: „az audiovizuális média alapvető szerepet játszik a társadalom értékeinek kialakulásában és terjedésében, miközben nem csupán ahhoz járul hozzá, amit látunk a világ dolgaiból, hanem azt is befolyásolja, hogy miként lássuk a világot.” Vagyis befolyása kiterjed arra is, hogy mit gondolunk arról, hogy saját magunk kik vagyunk, vagy, hogy hová tartozónak (vagy nem tartozónak) véljük magunkat a világban! Kulcsszerepet játszik kulturális identitásunk létrejötte folyamatában, s a globalizáció révén az egész emberiség jövőtudatát – így vagy úgy – meghatározza. Amikor e sorok születtek s a Mátrix a magyar mozi-nézők elé került, már közel egy éve dolgoztam fiatal bölcsészdoktor-jelöltként az Országos Széchényi Könyvtárban, annak Központi Tájékoztató részlegén. Senkire nem emlékszem a közvetlen munkatársi környezetemben, aki a fent idézett sorokat komolyabban átgondolta volna, előre látta volna, milyen radikális változások elé nézünk. Az internet alig pár olvasói gépen futott csak, eleve mindösszesen 4 (!), kezdetleges MS-DOS alapú számítógép segítette CD-ROM adatbázisokkal a tájékozódni vágyókat a nemzet első számú dokumentumgyűjteményében, de még évekig szinte mindenki nyomtatott szakkönyvekből, segédkönyvekből tájékozódott. E-mailt ugyan már használgattak egyes kollégák, a mobiltelefonok viszont éppen csak megjelentek, elterjedőben voltak. A világ negyed század alatt mondanom sem kell, óriásit változott. Ahogyan az olvasók is, akik egykoron hosszú sorokban várakoztak a Könyvtár lépcsőin, sorszámot húzva, hogy hozzájussanak előbb-utóbb a vágyott dokumentumokhoz, lassan, fokozatosan kikoptak a közgyűjteményekből, amint az információk többsége vagy a vizsgákra való szakirodalom egy-két kattintással elérhetővé vált számukra. Az olvasói terekből a Mátrix-világ képernyőinek tereibe költöztek.

A megváltozott olvasói igényeken túl, melyek jogosan egy felfokozott digitalizációra összpontosítottak, az átalakulóban lévő olvasási hajlam kérdésköre egy külön tanulmányt igényelne, erre itt nem térhetek ki. Elegendő annyit írnom talán, hogy e jelenség az MI révén történő „kiszolgálással” karöltve a ma felnövekvő generációkat egyértelműen egyfajta kollektív elbutuláshoz vezetheti. (Egyes kutatások már bizonyították, hogy az emberiség ún. kollektív intelligenciahányadosa a 20. század végéig nőtt, azóta csökkenő tendenciát mutat, a digitális világ csökkenti e hányadost, rontja az új generációk önálló gondolkodási paramétereit). Vagyis az intelligencia, ami egy egyén esetén ugyan adott, de korábban olvasással, kutatással, utánaolvasással fejleszthető volt, azt a digitális kiszolgálás és a csökkenő olvasási készség érezhetően rombolja, akkor is, ha a kép nem fekete-fehér. 

A tét: kinek a kezében?

Az érem pozitív oldalán ott áll többek között, hogy különböző tanuló programok immár a digitális bölcsészet segítőiként kéziratos szövegek felismertetésében és gyors átírásában, hangfelvételek, történelmi dokumentumok digitalizálásában és megőrzésében is segítséget nyújtanak. Mi több, az MI algoritmusok rendszerei képesek művészeti stílusokat utánozni, önállóan zenét komponálni vagy vizuális műalkotásokat létrehozni bemeneti adatok vagy előre meghatározott szabályok alapján. Egy új MI program, a Google AI fejlesztette Bard, többek között ma már képes regényeket írni. Hatalmas szöveg- és kódhalmazt tanítottak be neki, így különböző műfajú regényeket tud percek alatt megírni, a romantikus thrillerektől a sci-fi eposzokig. A mesterséges intelligencia hamarosan elérheti azt a pontot, ahol képes lesz olyan kreatív tartalmat is létrehozni, amelyet egyáltalán nem lehet majd megkülönböztetni az ember által létrehozott tartalomtól. Ez máris valóság a festészetben, egyes képzőművészeti és zenei ágakban, de forradalmasíthatja az esztétikát és a kritikát is annyiban, hogy a szerzőség és a kreativitás hagyományos fogalmait alapvetően kérdőjelezi meg, írja fölül.

A 21. század első két évtizedének digitális környezetében eleve alapjaiban módosult a piac, a média, a kulturális szféra, az orvostudomány – és persze a politika világa. Mindez számtalan kockázatot is hordoz, hiszen sem médiatudatosságra, sem online piaci gyakorlatokra, viselkedésre nem készül(het)tünk fel az információs bumm rövidsége, fél emberöltőnyi ideje okán, illetve az ezalatt is folyamatosan változó platformok, közösségi oldalak zsibvásárában. Ha például az online térben valaki eladás céljából meghirdet valamit, az jó eséllyel (70-80%-ban) nem valós vásárlókkal, hanem algoritmusokkal kezd el csevegni. Tanuló algoritmusokkal, amelyek online csalásokra „szakosodtak”, s jövedelmező módon csalnak ki adatokat, személyes és főleg bankkártya adatokat az emberekből. Egyik területi szakértő úgy fogalmazott, hogy most még „algoritmikus hipnózisban” vagyunk… 

Mint minden nagyobb volumenű technikai fejlesztésnek – akárcsak a globalizációs folyamatoknak vagy a géntechnológiának –, ennek is több oldala létezik tehát. Érdemi és árnyoldala is. Mára lassan megszokottá vált, hogy egy telefonos/internetes szolgáltató vagy bank ügyfélszolgálatán eleve egy chatbottal csevegünk a valós alkalmazott helyett. A magyar nézők a közmédiában is találkozhattak már MI generálta televíziós bemondónővel, a fejlesztések pedig egy sor korábbi szakmát (az időjóstól a statisztikusig és a könyvelőkig) válthatnak idővel ki. Azzal kezdtem, hogy a Chat GPT megjelenése áttörést jelentett, e révén realizáltuk jószerével, hogy a jövő, a 21. század valóban elkezdődött. Bár a ChatGPT-t egyre többen használják, nagyon kevesen értik annak valós működési elvét, hiszen az nem arra készült, hogy „mesterséges szakértői rendszer” vagy online beszélgetőtárs legyen, hanem elsődlegesen szöveggenerálásra találták ki: egy statisztikai alapon működő fejlett szoftver, amely matematikai műveleteket végez. Hogy milyen színvonalon, arról még megoszlanak a vélemények. Egyetemi oktatóként ma még könnyen lefülelem, ha egy diák ezt a szöveggenerátort használja például a beadandó dolgozata elkészítésére, ami hol nagyon cizellált mondatokkal, hol bődületes tévedésekkel van tele. E kettőség jól jellemezi a mai helyzetet, ami viszont villámgyorsan változhat. Pár éve még legyintettünk egyes szövegfordító programok bornírtságain is, mondván, utolérhetetlen az emberi elme cizelláltságban, nyelvi kifejezőerőben, szituatív alkalmazkodásban stb. Mára alighanem óvatosabban fogalmaznánk, a fordítóprogramok is óriási fejlődésen mentek át, az informatikai-technikai fejlődés pedig a hétköznapjainkat meghatározóan is megállíthatatlannak tűnik, bizonyos területeken valóban azokat a „végső határokat” feszegetve, amelyek az egykori Star Trek tévésorozat 1989-es mozifilmes változatában még valóban futurisztikusnak tűntek.

Nem vagyok sem túlzottan pesszimista, sem hurráoptimista. Véleményem szerint az MI-fejlesztések nem a „kreatív iparágak” alkotásainak a kiváltásában, vagyis művészeti stílusok utánzásában, önálló zene-komponálásban vagy vizuális műalkotások létrehozásában mérik majd összhatásukat. Azt sem gondolom, hogy az intelligens programok az emberiség ellen fordulnának valamikor. Gyermekkoromban azt tanultam, sosem a boszorkányoktól, a rémszerű lényektől kell félnem, hanem csak a gonosz emberektől. Az MI fejlesztések tétje sokkalta inkább az, hogy milyen érdekek, hatalmak, autoritások kezében összpontosulnak, s miként élnek, adott esetben élnek vissza vele, többek között az információkhoz való szabad hozzáférés és azok „előválogatása”, „értelmezése”, a befolyásolás, a piaci vagy ideológiai propaganda révén. Aligha kérdéses: így is, úgy is már új korszak köszöntött ránk.

Boka László

A borítóképet az Adobe Photoshop MI plugin generálta.

augusztus 18, 2023 | Mayer Ágota | Rovatok | Társadalom
MEGOSZTOM

Hol leszünk mi, ha túlnő rajtunk MI?

Pedig milyen élethű a pufajkás Ferenc pápáról készült fotó! Aztán kiderült, hogy deep fake, olyan mesterséges intelligencia segítségével készült digitális termék, aminek semmi köze a realitáshoz, noha az interneten terjedő milliárdnyi kép között ugyanolyan valóságosnak tűnt, mint bármelyik másik fotó. 

A mesterséges intelligencia (MI, az angol betűszó rövidítésével AI) már aránylag hosszú ideje velünk van, de két tényező irányította rá a világ figyelmét erre a még eszköznek nevezhető, de az embertől egyre gyorsabban függetlenedő elmére. Tavaly novemberben jelent meg a ChatGPT, ami hatalmas népszerűségnek örvend, néhány hónap alatt több millióra növekedett a felhasználóinak a száma. Az MI-rendszerek hozzáférhetőségével – és a ChatGPT pont ezt teszi – tulajdonképpen mindenki programozóvá válhat, mert nem kell megtanulni informatikai kódokat írni, elég egyszerű mondatokban utasításokat adni az eszköznek, és az létrehozza az eredményt az előzetes elképzelések alapján. Felmerül azonban két probléma. Az egyik aggodalomra okot adó tényező az, hogy ezek az MI-rendszerek fekete doboz-szerűen működnek, amelyekbe a felhasználó betáplálja az inputot, de nem tudni és hogy mi zajlik le a rendszer belsejében, hanem csak kijön egy output, és az így megszülető eredmény sokszor meghökkentően meggyőző, máskor pedig zavarba ejtően téves. A tudásnak ez a hiánya, hogy miképpen is generálja az MI az utasításokra adott válaszokat, illetve magának az MI-nek a szédületes és már öngerjesztő fejlődése megijesztette a szakembereket.

Olyannyira, hogy idén márciusban megjelent egy Elon Musk tech guru, és Steve Wozniak Apple társalapító nevével fémjelzett nyílt levél, amelyet időközben már több mint háromezren írtak alá, és amelyben arra figyelmeztettek, hogy az MI-rendszerek nagyon komoly kockázatokat jelenthetnek a társadalomra és az emberiségre nézve. A levél aláírói úgy vélik, hogy a mesterséges intelligenciával foglalkozó laboratóriumok versenyt folytatnak az egyre erősebb digitális elmék kifejlesztése és bevetése érdekében, csakhogy ezeket az eszközöket senki, még alkotóik sem tudják megérteni vagy megbízhatóan irányítani. A megfelelő biztonsági elemek és rendszerek kiépítése nem tud lépést tartani a fejlesztés szédületes ütemével, ezért a nyílt levél aláírói azt javasolták, hogy minden mesterséges intelligenciával foglalkozó laboratórium legalább hat hónapig függessze fel a GPT-4-nél erősebb MI-rendszerek fejlesztését.

Arról nem tudni, hogy a médiavisszhangon kívül bármilyen foganatja lett volna ennek a felhívásnak, mindenesetre május végén egy újabb, mindössze egy mondatos nyílt levél látott napvilágot, mely nem kevesebbet állít, mint azt, hogy az MI technológia egy napon kipusztíthatja az emberiséget, ezért azt a világjárványokkal és az atomháborúkkal egyenrangú társadalmi kockázatnak kell tekinteni. A levelet a mesterséges intelligencia kifejlesztésében vezető szerepet játszó ipari vállalkozók írták alá: ott található közöttük az MI „keresztapjának” nevezett Geoffrey Hinton professzor, Sam Altman, a ChatGPT-t kifejlesztő OpenAI cég vezérigazgatója, valamint Demis Hassabis, a Google DeepMind, és Dario Amodei, az Anthropic vezérigazgatója, továbbá Bill Gates, Yi Zeng professzor, a Kínai Tudományos Akadémia tagja, az Automatizálási Intézet mesterséges intelligencia laboratóriumának az igazgatója, Alvin Wang Graylin, a HTC China elnöke, Albert Efimov, az Orosz Mesterséges Intelligencia Szövetség kutatási vezetője, és sok más szaktekintély, valamint közéleti szereplő a világ minden tájáról. Ezek már olyan erős megnyilvánulások, hogy a jelzett problémával való szembenézést nem lehet tovább halogatni. Az MI fenyegetés egyik szószólója, Yuval Noah Harari filozófus szerint a mesterséges intelligencia feltörte az emberi civilizáció operációs rendszerét, a nyelvet, és ezzel szabad utat nyert az emberek tudatába, illetve teljes kulturális felépítményébe: a gazdaság, a jog, a politika, a vallás a művészet világába, mert mindezeket a nyelv határozza meg. 

Az MI nem pusztán önmagától veszélyes, hanem az ember sebezhetősége miatt, ami túlzott hiszékenységéből fakad. Az emberiség történetének egyik alaptapasztalata, hogy vele gyakorlatilag bármit el lehet hitetni, és ez sosem volt nyilvánvalóbb, mint napjainkban. A manipulációk eddig is, MI nélkül is gőzerővel működtek. Vessünk csak egy pillantást a nap mint nap felénk özönlő információáramlásban a különböző narratívákra, amelyeket valakik terjesztenek, mások pedig elhisznek anélkül, hogy a legcsekélyebb mértében ellenőriznék az állításokat. Hányan vannak azok, akik elhiszik azt, hogy a Föld lapos, azt, hogy a bucsai mészárlást az ukránok rendezték meg, azt, hogy nem is volt holokauszt, hogy Soros György személyesen szervezi a migránsáradatot? Az alternatív valóságok terjedését eddig a rendkívül hatékony propagáló közeg, az internet tette lehetővé, amelyet – eddig legalábbis – emberek működtettek, de most korszakhatárhoz érkeztünk, mert a manipulációba új entitásként belép a mesterséges intelligencia, mely képes a fizikai valóságtól teljesen független, mégis tökéletesen hitelt érdemlőnek tűnő képeket, hang- és videótermékeket, narratívákat gyártani, amikkel még a racionális embereket is meg tudja téveszteni. 

Ez a veszélyforrás alapvetően befolyásolhatja a társadalmi-politikai rendet. A hihetőnek tűnő, valójában alaptalan diskurzusok gyártásával az emberek közötti értelmes párbeszéd lehetősége szűnik meg, az alternatív valóságokban élők nehezebben értenek szót egymással, mint azok, akik nem beszélik egymás anyanyelvét. Az MI ezt a folyamatot fogja felgyorsítani, alternatív valóságok tömkelege fog megtermelődni, és az emberek úgy fognak tetszés és ízlés, habitus, hangulat alapján szelektálni köztük, ahogy ma a nyakkendőjüket választják ki a szekrényből. Sőt, maguk gyárthatnak immár alternatív valóságokat, miután ChatGPT képében erre rendkívül hatékony eszközt kaptak a kezükbe. Az alternatív valóságok kritikátlan elfogadásának jelenségét könnyíti a nyugati világban divatos nyelvfilozófiai elképzelés, mely a nyelvet nem a fizikai valóságot megnevező, azt leképező eszközként, hanem önálló entitásként képzeli el. A nyelvnek ebben a koncepcióban nincs a fizikai valóság tényeinek megfeleltethető rögzítettsége, hanem attól teljesen függetlenedett struktúra, emiatt az igazságtartalmak megállapítására sem lehet a tényeknek való megfeleltetés kritériumát alkalmazni. A diskurzusok igazságtartalmának kritériuma az, hogy kik és hányan hisznek bennük, illetve a regnáló hatalom mely diskurzust tekinti mérvadónak, amelyet az elnyomás eszközeként használva erőltet rá a társadalomra. 

Mert a hatalom felismerte azt, hogy a társadalmak irányíthatatlanná válhatnak, ha számtalan egymással versengő, egymásnak gyakran teljesen ellentmondó egyenrangú diskurzus van forgalomban. Vannak országok, ahol már be is vetették a technológiát, illetve a mesterséges intelligenciát a társadalmi tudat ellenőrzése érdekében. A kínai példa a legismertebb ebben a tekintetben. A hatalmi tudatmanipuláció alaptézise az, hogy a számtalan egymással versengő diskurzus közül az lesz az irányadó, amely a legtöbb csatornán, a lehető legtöbb úton-módon eljut az emberekhez, akiknek tulajdonképpen lehetőségük se legyen elkerülni a manipulatív üzeneteket. Az MI rendkívül hatékony eszköz lehet a hatalom kezében ahhoz, hogy elhitessen bármit a társadalommal, hogy így teremtsen valamiféle egységet a tudatok szintjén.

A társadalmi kockázat másik vetülete az, hogy nem csak a hatalmi érdek kényszeríti ránk saját narratíváját az MI segítségével, de mi magunk hagyatkozunk önként egyre inkább a mesterséges intelligenciára. Lustaságból, időnyerésből vagy más indokok miatt egyre több mindent bízunk rá mindabból, amit nekünk kellene elvégeznünk: diákok írják meg iskolai dolgozatukat a ChatGPT segítségével, a mesterséges intelligencia olvas el helyettünk dokumentumokat, jelentéseket, az kivonatolja számunkra, sőt, válaszol is helyettünk az e-mailekre. Vagyis magunk mondunk le bizonyos kompetenciáinkról az MI javára, sőt, közvetlen emberi kapcsolataink közé iktatunk be egy közvetítőt, amelyről sok mindent nem, de egyvalamit egyelőre biztosan tudunk, azt, hogy nem száz százalékig megbízható. Emiatt a ráhagyatkozás és megbízhatatlanság miatt az emberi kapcsolatok, legyenek azok közösségi vagy magán jellegűek, félrecsúszhatnak vagy teljesen megszűnhetnek.

Nem szeretném úgy befejezni ezt az írást, hogy ne hangsúlyoznám azt, hogy az MI-technológiában hihetetlenül sok pozitív potenciál van. Kézenfekvő, hogy az oktatásban és a gyógyászatban gyorsan nagyon komoly eredményeket lehet elérni a segítségével. Az MI forradalmasíthatja az ipari technológiát, a termelést, felgyorsíthatja a tudományos felfedezéseket, illetve olyan kényes területeken is hozhat pozitív fejleményeket, mint a hadászat vagy a jog. De éppen azért, mert az MI az emberi élet minden szegmensébe beférkőzhet, szükség van egy átfogó, akár globális szabályozásra, ami azt a célt szolgálná, hogy kiépüljenek olyan biztonsági rendszerek, amelyek meggátolják azt, hogy az MI túlnőjön az emberiség ellenőrző képességén. Ilyen biztonsági rendszerek akár az atomegyezményekhez hasonló államközi szerződésekkel is létesülhetnének, ezekben közös garanciákat lehetne vállalni arra, hogy a nemzetek nem használják fel tömegpusztító eszközként a mesterséges intelligenciát. 

Az optimisták bíznak ebben a forgatókönyvben, lényegében a fent említett levelek aláírói is abban reménykednek, hogy talán még nem túl késő lépni. De erre csekély az esély, mert az emberiség sorsát nem a tudósok és a lelkiismeretes értelmiség irányítja, hanem a politika. És a globális politikai versengés terepe újabban pont az MI-hajsza. Azok az országok tesznek majd szert előnyre vetélytársaikkal szemben, amelyek hatékonyabb mesterséges intelligencia-technológiát fejlesztenek ki. Az államok sokkal inkább érzékelik a technológiai lemaradásban rejlő veszélyt, mint a mesterséges intelligenciában rejlő kockázatokat, ezért sem fog leállni a fejlesztés, nemhogy hat hónapra, de hat napra sem. És ezért sem lesz érdemi az ellenőrző rendszer, mert ez is csak lassítaná, nehezítené a fejlesztést, holott a gyorsaság a legalapvetőbb tényező az előny kicsikarásában. A versengés önmagában véve is egy olyan öngerjesztő folyamat, ami szinte lehetetlenné teszi az emberiség hosszú távú céljait szem előtt tartó együttműködést, amit csak még jobban hátráltat az ukrajnai háború miatt is mérhetetlenül bizalmatlanná fajuló nemzetközi rendszer. És mindez a mesterséges intelligencia kontrollálatlan növekedésének kedvez. Ha pedig az ember teljesen elveszíti a kontrollt fölötte, akkor az Úr vagy az MI legyen irgalmas hozzánk.