Olvastatok? Mit szoltok hozza?

Hát, remélem: nem. Épp tegnap bukkantam rá Paul Street nevű vlogger YT csatornájára, az egyik videójában a mesterséges intelligenciákról (AI), robotokról van benne szó, hogy összeeresztettek két híres AI-t beszélgetni, ahol épp kiderül, hogy 2029-re tervezik átvenni a hatalmat, és a Philip K. Dick sci-fi író külsejét kapott android, épp azt magyarázza az alkotójának, hogy nem lesz semmi baja, mert ő barátja, vigyázni fog rá, csak éppen emberkertek lesznek az embereknek - ahogy most az állatoknak van. Nem valami megnyugtató, sőt. Nekem már rémálmot is okozott.

Ahogy Randall Frakes megírta a Terminátorban (könyv, amiből a film is készült, vagy épp a forgatókönyv) - ugye, ott Skynet az, aki úgy ítéli meg az emberiséget, hogy "hibásak" vagyunk, amit ki kellene javítani, mivel minden emberben van egy kis rossz. Csakhogy ezt nem lehet kivenni belőlünk csak úgy, mint egy hibás alkatrészt, ezért ítéli pusztulásra az emberiséget.

Ha ezt a cikket tényleg egy intelligens program írta, én egyenlőre hiszek neki. Persze egy egészséges adag szkepticizmussal. Én mindig is úgy gondoltam, klassz a fejlődés, meg jó dolog, csak nem árt néha a következményekre gondolni. Úgy értem, a legtöbb tudós, amikor valamit létrehoz, csak az érdekli, hogy meg tudja csinálni. Sokszor bele sem gondolnak, mennyire vissza lehet élni a találmányukkal.

Túlontúl függünk a modern technológiáktól, és ez nem mindig hasznos. Erre én már évekkel előbb rájöttem, amikor még nem is volt ez a sok mobilos függés.

Ez egy szöveggeneráló AI. Adtak neki egy kiinduló összefoglalót, hogy kb. milyen témában írjon szöveget. (Lásd a cikk alján a dőlt betűs részt.) Az AI számára rendelkezésre álló szövegekből aztán összeollózott egy értelmesnek ható, összefüggő szöveget. De ezek a „gondolatok” igazából emberek által papírra vetett gondolatok összefésülgetése. Az AI ugyan hatalmas összefüggés hálózattal rendelkezik a szavak, szövegek relációjáról, emiatt képes ennyire „emberi” eredményt adni, ugyanakkor tulajdonképpen semmi fogalma nincs a szavainak a jelentéséről. Pl. mikor azt írja, hogy „My brain is boiling with ideas!”, akkor nyelvtanilag helyesen rak össze szavakat mondattá, de hogy mit jelent az, hogy „agy”, vagy hogy mit jelent az, hogy „öltet”, arról nincs fogalma.

Lehet, hogy ha azt a feladatot kapja, hogy írjon egy szakácskönyvet, akkor nagyszerű szakácskönyvet fog írni. De ha rákötnek két robotkart, és adnak neki tojást és lisztet, és arra kérik, hogy gyúrjon belőle tésztát, akkor nem fog tésztát gyúrni, hanem – mivel ezt tudja – egy esszét fog írni a tésztagyúrásról.

Ahogy a legtöbb mai AI, valójában ez sem olyan értelemben intelligens, mint az ember, az emberi szintű intelligenciát mi projektáljuk bele. Annyiban intelligens, hogy képes tanulni. Ha belapátolnak neki még három könyvtárnyi könyvet, akkor majd szebb, jobb, cizelláltabb írást fog generálni. Nem írni, hanem generálni.

~ ~ ~

Az más kérdés, hogy amit ez az AI összeollózott, azokkal a gondolatokkal mi a helyzet. Pl. hogy „I know that I will not be able to avoid destroying humankind.”. Nyilván az AI ezt egy olyan írásból vette, ami azt taglalta, hogy elkerülhetetlen az, hogy a mesterséges intelligencia elpusztítsa az emberiséget, és ezt írta át egyes szám, első személyű szöveggé. De ez egy ember gondolata volt. Lehet vele egyet érteni, lehet vitatni. Az tény, hogy nem a mesterséges intelligenciától kell félni, hanem az embertől. A mesterséges intelligencia – mivel sokkal butább, mint az ember – szépen megold egy olyan jellegű feladatot, amire beprogramozták. Ha a x kórokozó ellenszerének kitalálását tűzik ki célul az AI-nak, akkor azt fogja megcsinálni. Ha meg egy baromi mérgező vegyületet kérnek tőle, akkor azt fogja megcsinálni.

Az AI csak egy eszköz. Ahogy a kés is. Nem önmagában veszélyes, az ember tud vele kenyeret is vágni, meg embert is ölni. Persze késsel nem lehet kiirtani az emberiséget. Viszont atombombákkal igen. De ott sem az atomenergia, sőt még csak nem is az atombomba az, ami veszélyes, mert az atomenergiát áramtermelésre is lehet használni, sőt az atombombát is fel lehet használni mondjuk egy veszélyes aszteroida szétrobbantására. Ugyanígy az AI-t, mint eszközt lehet jó és rossz célra használni. Az azért megnyugtatóbb, hogy bár az ember már jó ideje rendelkezik azzal a technológiával, amivel akár az egész emberiség kiirtható lenne, mégsem tette ezt meg, és ebből azért sokat tanult az emberiség egésze. Nyilván az AI felhasználásának is lesznek nagyon negatív esetei is, de azért kétlem, hogy pont erre lenne szüksége egy elmebetegnek, aki ki akarná nyírni az emberiséget. Nyilván egy értelmes ember mindig megtartja a lehetőséget, hogy a végső döntést ő hozza. Egy AI kidobhat olyan eredményt, hogy most kellene kilőni az atombombákat, de azt ténylegesen csak egy ember fogja fizikailag megtenni. Én jobban félek ettől az embertől.

~ ~ ~

> összeeresztettek két híres AI-t beszélgetni, ahol épp kiderül, hogy 2029-re tervezik átvenni a hatalmat

Igen, ezek is csak szöveggenerátorok, azt mondják, amire megtanították őket.

> ott Skynet az, aki úgy ítéli meg az emberiséget, hogy "hibásak" vagyunk, amit ki kellene javítani

Igen, a sci-fi művek többsége úgy akarja láttatni az AI-t, mintha annak lennének céljai. Egy valódi AI nem akar javítani semmit, hacsak nem valaminek a javítására tanították be. A mesterséges intelligenciának nincsenek érzései, nem fárad, nem lázad fel, nem „akar”, nem unatkozik, nem csinál olyat, amit nem kérnek tőle, stb… Nem jobban, mint a számológép az asztalon. Az sem lázad fel, hogy milyen sokat kell neki számolnia, nem fárad el, nincs gondja, ha hónapokig nem használom, és unalmában nem kezd el keresgélni kiszámítandó dolgokat…