Beléptünk a szingularitásba? Olyan gyorsan fejlődik a mesterséges intelligencia, hogy a kutatók alig bírják követni a tempót, ezért ezer tudós követeli a fejlesztések átmeneti leállítását. Szóval ez már a szingularitás? Nyomon követhetetlen az MI?

> Beléptünk a szingularitásba?

Messze nem.

> Olyan gyorsan fejlődik a mesterséges intelligencia

Mi számít gyorsnak. A ChatGTP-t fejlesztő kutatócsoport 2015-ben jött létre, 2018-ban jött ki az ChatGPT első változata, 2019-ben a második. A harmadik változat 2020 nyarán. A köztudatba berobbanó 3.5-ös változat 2022 őszén jött ki. Most a 4. változat pár hete jelent meg. Van itt egy nem előzmények nélküli 8 éves kutatás, fejlesztés. Az, hogy a média előtte nem foglalkozott vele különösebben, majd úgy tolta reflektorfénybe, hogy most a csapból is ez folyik, és olyan jellegzetességeket tulajdonít az MI-nek, amivel az nem rendelkezik, így lehet, hogy a fejlődés gyorsnak tűnik. De itt a kulcsszó a „tűnik”.

> a kutatók alig bírják követni a tempót

Mit értesz követés alatt? Minek a tempójáról beszélsz?

> ezért ezer tudós követeli a fejlesztések átmeneti leállítását

Alapvetően nem azért, amit eddig a kérdésben írtál. Az MI alkalmazásának vannak nyilvánvalóan veszélyei, kvázi mint minden új technológia, ez is felvet problémákat. Lehet vele élni, meg lehet vele visszaélni is. De ez kb. majd mindenről elmondható volt a technológia fejlődése során, a lyukkártyás szövőgéptől, a villanykörttől, a – kimondani is szörnyű – *robbanó*motoros autótól az interneten, GPS-en, mobiltelefonon át egészen az mesterséges intelligenciáig. Most a téma médiafényt kapott, nyilván az érdeklődés is nagy lett iránta, így sokan keresik az alkalmazásának a lehetőségeit. Van, aki nemes céllal, és hát igen, van, aki nem éppen etikus szándékkal.

És amúgy maga a nyílt levél is olyan, mint az MI használata. Van, aki lehet, hogy tudós, de az adott területnek nem szakértője, nem sokkal tud többet, mint egy laikus, de vannak meg nem alapozott félelmei. Van, aki szakértő, és vannak jogos fenntartásai az MI alkalmazásával kapcsolatban. Van, akinek meg szimplán csak jó alkalom arra, hogy szerepeljen a médiában.

De alapvetően nem magával az MI-vel van gond, sokkal inkább azzal, hogy az emberek többségének a valóságtól igencsak távol álló elképzelései vannak arról, hogy hogyan működik egy MI, mit tud és mit nem, mit hogyan csinál. Olyan ez kicsit, mint a bűvésztrükk. Amíg nem tudod, hogy *pontosan* mi történik, addig egy mutatvány tűnhet mágiának, tűnhet még veszélyesnek is. Ha viszont tudod mi történik, akkor még mindig tűnhet zseniálisan ötletesnek, de többé nem tűnik se varázslatnak, se veszélyesnek, csak egy trükknek.

> Szóval ez már a szingularitás?

Nem. A ChatGPT remekül össze tud ollózni szövegeket, de olyan szinten, hogy akár programkódokat is össze tud ollózni úgy, hogy az még ha nem is mindig működőképed, de még értelmesnek tűnő. De ez még mindig csak szöveggenerálás. Értelemmel nem rendelkezik, azt csak mi, emberek „költjük” hozzá. A ChatGPT sem önmaga nem fog jobb MI-t írni, sem hozzá nem fog járulni egy jobb MI megírásához.

Amúgy hasonló kérdések már felvetődtek itt a GYK-n, előkerestem azt a beszélgetésemet a ChatGPT-vel, ami jól megmutatja, hogy mire képes és mire nem a technológia. Íme: [link]

A válaszok önmagukban értelmesnek tűnnek. Állítás, érvelés, példák, stb… De aki ért annyira a matematikához, hogy tudja, hogy mit jelent az, hogy egy szám páros, az pontosan látja, hogy ezek csak generált szövegek, nincs mögötte logikus következtetési, belátási képesség, konzisztens, ellentmondásmentes modellje a világnak, az önellentmondás felismerésének a képessége.

Egyszerűbb, szubjektívebb természetű kérdésekben persze a ChatGPT meglepően jónak és helyesnek tűnő válaszokat ad. Akkor tényleg az értelmes beszélgetőtárs *látszatát* tudja kelteni. De ez olyan, mint mikor öt percig beszélsz valakihez, majd ő azt válaszolja, hogy „hmm, elgondolkodtató az, amit mondtál”. Ez a válasz benned azt a *benyomást* fogja kelteni, hogy az illető megértett téged, figyelmesen követte a gondolatmenetedet, ami számos saját gondolatot szült benne, amit még meg kell rágnia magában. Holott lehet, hogy az illető igazából azért válaszolta ezt, mert nem figyelt, nem hallotta, hogy mit mondtál, így valójában nincs megértés, pláne tényleges elgondolkodás a válasza mögött. Ezt csak te költöd hozzá a válaszához.

Nem értem a dolgot. Ezt írja a cikk:

"A tanulmány arra jut, hogy akár 300 millió munkahelyet is érinthet az MI töretlennek látszó fejlődése."

Majd két sorral lejjebb meg ezt:

"A jelentés becslése alapján az amerikai munkahelyek mintegy 7 százalékát válthatja ki teljesen az MI, 63 százalékát kiegészítheti, a maradék 30 százalékot pedig egyáltalán nem érinti."

Nekem ebből az jön le, hogy az amerikai munkahelyek 7%-a lenne kiváltható az AI-val, 63%-ának pedig kisebb-nagyobb segítséget jelentene, ha alkalmaznák. Vagyis az USA-ban található összes munkahely 63%-ánál lehetne kisebb-nagyobb mértékben gyorsabbá, pontosabbá, könnyebbé, termelékenyebbé tenni vele a munkát, és mindössze 7%-át tudná teljesen kiváltani (gyanítom, adatrögzítés, adatbázis-feldolgozás, meg hasonlóan unalmas, repetitív munkákat).

Akkor ez most jó vagy nem? Megszűnne egy csomó olyan munkahely, amit senki sem szívesen csinál, csak éppen az jutott, cserébe viszont rengeteg csomó munkahelyen könnyíthetne-gyorsíthatna a munkafolyamatokon. És ezt akarják elkaszálni?

Ez csak nekem fura így, vagy másnak sem tűnik kereknek ez a történet?

A szingularitás nem olyan fogalom amibe be lehet lépni.

Szimplán annyit jelent, hogy nem tudjuk mi van egy adott határ mögött, mert nincs hozzá tudásunk…