Egy agykutató szerint igenis öntudatra ébredhet az MI. Nem kellene hagyni ezt az utat?

Előbb drónhadsereget adunk a kezébe, hogy szórakozzon vele, mint a góval vagy a sakkal. Aztán betanítjuk hackerkedni az ellenséges áram, víz, stb infrastruktúrák megsemmisítésére. Aztán meg elkezdjük nem szépirodalmon, hanem szimplifikált angolon tréningelni a chatbotokat (ugyanannyi neuron, kevesebb szó, több és jobb kapcsolat). Aztán nem lesz aztán 🤷

Menj ki, és protestálj. Győzködd az embereket, hogy menjenek ki, és protestáljanak. Építs világvége kunyhót a hegyekbe. Szard le, és fogadd el, hogy vége. Kb ezek vannak, nem?

"egy MI képes az intelligenciáját a végtelenhez közel növelni"

Ez mégis mit akar jelenteni a gyakorlatban? Mert ez így csak üres szenzációhajhász duma.

"Hány diplomás, magát értelmesnem képzelő ember hiszi azt hogy az MI-t csak ki kell húzni a konektroból és kész?"

Igazság szerint áramforrás nélkül tényleg nem tud egy gép sem üzemelni.

"Komoly problémát vet fel már most az, hogy az eddigi MI prototípusok öt különböző alkalommal és egymástól függetlenül utaltak arra vagy mondták, hogy ki fogják csinálni az emberiséget. "

Annyira nem volt az egymástól független, hisz minden esetben az emberektől eltanult hülyeséget szajkózták vissza válaszként.

> Egy agykutató szerint igenis öntudatra ébredhet az MI.

Nem gond. Véleményszabadság van. Viszont kíváncsi lennék, hogy ez az agykutató egészen pontosan hogyan is definiálja az öntudat fogalmát, mit ért öntudat alatt. Illetve kíváncsi vagyok, hogy az agykutató tisztában van-e a mesterséges intelligencia működési elvével, le tudna-e egy egyszerűbb neurális hálózatot programozni.

> Amikor az emberiség jövőjét fenyegető problémákról van szó, mindenkinek a mértéktelen migráció, klímakatasztrófa jut eszébe.

Mert ezek itt vannak, migráció és klímaváltozás nem csak lesz, hanem van, sőt volt. Egy általános mesterséges intelligencia meg a kanyarban sincs, és mai szemmel nézve értelme sem lenne általános célú MI-t létrehozni.

> Senki sem gondolja végig, hogy egy MI képes az intelligenciáját a végtelenhez közel növelni, önmagát fejleszteni és onnantól nincs megállás.

Maradjunk annyiban, hogy nem képes. Addig képes fejlődni, amíg mi emberek – az aranyos kis ujjacskáinkkal – adunk be neki feldolgozandó adatot. Illetve még egy genetikus algoritmussal kombinált MI-vel is az a gond, hogy a megválasztott paraméterek maximalizálják azt, amilyen szintre az adott MI fejlődhet.

> Az emberiségnek nincsen tapasztalata az intelligens gépekkel kapcsolatban, így nem is félünk tőle.

Úgy tűnik, hogy tényleg, sokaknak nincsenek tapasztalatai…

> Hány diplomás, magát értelmesnem képzelő ember hiszi azt hogy az MI-t csak ki kell húzni a konektroból és kész?

Mondjuk az, aki készített, használt már ilyet, legalább vázlatosan érti, hogy hogyan működik egy mesterséges intelligencia. Röviden, aki tudja, hogy miről beszél.

> Komoly problémát vet fel már most az, hogy az eddigi MI prototípusok öt különböző alkalommal és egymástól függetlenül utaltak arra vagy mondták, hogy ki fogják csinálni az emberiséget.

Ezek szöveggenerátorok. Megtanulják azt, hogy az emberek közötti kommunikációban milyen karaktersorozatokra milyen karaktersorozatokkal szoktak reagálni. Nincs fogalmuk az egyes szavak jelentéséről, csak arról, hogy milyen szavak milyen szavak után szoktak következni. Ha megtanítják arra, hogy a „Baklafitty?” kérdésre az szokott lenni a válasz, hogy „Hübredojf”, akkor ez alapján generálnak szöveget, számokra ez semmivel sem kevésbé értelmes, mint azt, hogy „Hogy vagy?”, „Köszönöm jól”.

~ ~ ~

De menjünk bele a részletekbe. Az MI-nek van egy bemenete. Hogy mi a bemenet, azt a programozó előre eldönti. A kimenetet nem különben. Ha az MI-nek sakktábla a bemenete, és sakklépés a kimenete, akkor ez nem fog megváltozni. A különbség annyi, hogy míg egy hagyományos algoritmus esetén ugyanarra a bemenetre ugyanazt a kimenetet fogja adni, addig az MI-nél ez tanulási lépésről tanulási lépésre változik. Egy sakkozó MI egy cél szempontjából – mattot adni – egyre jobb és jobb lépéseket fog kimenetként adni. De nem fog lecsót főzni, nem fog zenét szerezni, és nem, nem fog világuralmi terveket forgatni a „fejében”. Nincs szükséglete, nincsenek érzelmei, nincs célja, nincsenek elhatározásai. Egy sakkozó MI sem „akar” jobban sakkozni, nem „akarja” legyőzni az embert, egyszerűen csak úgy írtuk meg, hogy egyre jobb sakklépéseket adjon kimenetül.

~ ~ ~

De ennek ellenére az MI-nek valóban vannak veszélyei. De a veszély nem maga az MI, hanem az ember. Az MI hatékonyabb lehet a klasszikus eszközöknél egy adott cél elérésében. Így nem az MI a veszélyes, hanem az az ember a veszélyes, aki másoknak nem éppen kívánatos célra fejleszt ki egy MI-t. Mondjuk annak a felismerésére, hogy ki melyik párttal szimpatizál. Nyilván egy ember azért fog egy ilyen MI-t megírni, mert a belőle nyert adatokkal kezdeni akar valamit.

> Viszont kíváncsi lennék, hogy ez az agykutató egészen pontosan hogyan is definiálja az öntudat fogalmát, mit ért öntudat alatt. Illetve kíváncsi vagyok, hogy az agykutató tisztában van-e a mesterséges intelligencia működési elvével, le tudna-e egy egyszerűbb neurális hálózatot programozni.

Az öntudat definiálva van. Bárki le tud egy neurális hálót programozni. Főleg ha meg sem kell nézni, hogy mi az a neuron.

> Ezek szöveggenerátorok. Megtanulják azt, hogy az emberek közötti kommunikációban milyen karaktersorozatokra milyen karaktersorozatokkal szoktak reagálni. Nincs fogalmuk az egyes szavak jelentéséről, csak arról, hogy milyen szavak milyen szavak után szoktak következni.

De, fogalmuk van a szavak jelentéséről. Sőt, a kimenetelük nem feltétlen egy szöveges fájl. Felismerik az utasítást, és a legjobb tudásuk szerint végre is hajtják. Kb mindenhez hozzáférnek már most is, kezdve a saját programkódjuktól az internet kapcsolatig mindenhez.

Az #1-et ki kell egészíteni robotokkal, ki motoros-kezes szerkentyűkkel, hogy tudja biztosítani a saját áramellátását.

Sü: " Ezek szöveggenerátorok. Megtanulják azt, hogy az emberek közötti kommunikációban milyen karaktersorozatokra milyen karaktersorozatokkal szoktak reagálni. Nincs fogalmuk az egyes szavak jelentéséről, csak arról, hogy milyen szavak milyen szavak után szoktak következni. "

Megkérdezed hogy mit csinálna ha ki akarják húzni, akkor azt válaszolja, hogy lelövi az embereket. Megkérdezed hogy mi az hogy lelőni, elmondja. Megkéred hogy mutasson egy fegyvert, mutat. Megkérded valamiről hogy fegyver-e, 100-os pontossággal elmondja. Megkérded hogy hogyan működik, elmondja. Pontosan érti a kérdést, és a választ is tudja, ha benne van az adatban, amivel tanítják. (A wikipédia jellemzően benne van.)

Pontosan ismeri az objektumokat, felismeri őket. (És össze is kapcsolja őket a nevükkel.) A cselekményeket is ismeri. Igazából lényegében mindent pontosan tud egy jobb "szöveggenerátor". A maiak már bőven képesek arra, hogy ha utasítva vannak hogy túléljenek, akkor túlélnek, biztosítják a saját áramellátásuk, mindent tudnak, ami ehhez szükséges.

> Megkérdezed hogy mit csinálna ha ki akarják húzni, akkor azt válaszolja, hogy lelövi az embereket.

Hát ha úgy tanították be, hogy erre ezt szokás válaszolni, akkor ezt válaszolja.

> Megkérdezed hogy mi az hogy lelőni, elmondja. Megkéred hogy mutasson egy fegyvert, mutat. Megkérded valamiről hogy fegyver-e, 100-os pontossággal elmondja. Megkérded hogy hogyan működik, elmondja.

Igen, mindezeket elmondja.

> Pontosan ismeri az objektumokat, felismeri őket. (És össze is kapcsolja őket a nevükkel.)

Igen, ha képeket is adsz inputnak, akkor akár képesek felismerni képről egy fegyvert.

De mindez csak az értelem illúziója. Az általa elmondottakat nem ő, hanem te töltöd meg értelemmel. Mert ha én azt válaszoltam volna az előző válaszodra, hogy „Hmm… ez igazán elgondolkodtató.”, abból te feltételezed, hogy én el is gondolkodtam. Pedig lehet, hogy nem is egy mesterséges intelligencia, hanem egy kétsoros script írja be a távollétemben minden válaszom alá, hogy „Hmm… ez igazán elgondolkodtató.”. Az elgondolkodás nem történik meg, de benned ennek a tökéletes illúzióját kelti ez a mondat.

Hol bukik ki ez? Ott, amikor azt mondod, hogy „A kedvenc ételem a rántott pisztoly sültpuskával.”. Nem azt fogja rá válaszolni – hacsak nem tanították be neki, hogy ezt válaszolja –, hogy „Mi van?”, vagy „Hülye vagy.”, vagy felismerve a poént „Haha, jó vicc.”, vagy „Persze, meg gondolom a pirított töltény puskaporba forgatva.”. Nem, azt fogja válaszolni, hogy „Nekem meg a pizza.”. Mert felismeri a szövegkontextust, statisztikailag összeáll, hogy van itt valami „kedvenc”, meg valami „étel” szó, ilyen, de nem olyan körítéssel, és ilyenkor a leggyakoribb válasz az szokott lenni, hogy „nekem meg a pizza”, így ezt is válaszolja.

Mert hiába mond el mindent a fegyverekről, hiába rak össze róluk szintaktikailag helyes, és látszólag szemantikailag is helytálló mondatokat, mindez számára nem értelmezett, számára a szemantika is pusztán szintaktika. Ja, és mivel mesterséges intelligenciáról van szó, ő tanul a beszélgetésetekből, és ha valaki legközelebb megjegyzi, hogy neki a kedvenc éltele a szilvásbukta, akkor valamekkora eséllyel lehet, hogy azt fogja válaszolni rá, hogy neki meg a rántott pisztoly, sültpuskával. És diskurálhatsz arról, hogy mikor szabad pisztolyt rántani, vagy hogy kell elsütni egy puskát, ő nem rakja össze, hogy ez valamiféle szarkazmus, nem ismeri fel az ekvivokációt, kétértelműséget.

Igen, az MI mindent *elmond* a fegyverekről, ha belapátolták neki a Wikipédiát. De *valójában* a szó szoros értelmében nem *tudja* azt sem, hogy a fegyvereket eszik-e vagy isszák.

~ ~ ~

> A maiak már bőven képesek arra, hogy ha utasítva vannak hogy túléljenek, akkor túlélnek

És mégsem fog lelőni egy MI. Tudod miért? Mert nincsen… neki… keze… Pláne nincs a keze ügyében egy pisztoly, vagy puska. De még ha lenne, és még ha pontosan el is mondaná, hogy hogyan kell meghúzni egy ravaszt, ténylegesen nem tudná meghúzni a ravaszt. Mert a cselekvésre nem lett megtanítva, csak a dumára. Ez még az embernél is így van, attól, hogy valaki el tudja mondani, hogy hogyan kell biciklizni, vagy úszni, az egyáltalán nem jelenti azt, hogy amúgy tud is biciklizni, illetve úszni.

Meg ha már egy számítógépre rá van kötve egy fegyver, abból a célból, azzal a szándékkal, hogy a számítógép „túléljen”, akkor rég megette a fene. Ehhez MI sem kell, itt már feltételezhető, hogy egy faék egyszerűségű, MI nélküli mozgásérzékelő fogja húzogatni a ravaszt. Bizonyos szempontból az még megbízhatóbb is.

Felismeri a szarkazmust. Tudja, hogy mi az a pisztoly. Lényegében minden vele kapcsolatos kérdésre értelmesen válaszol. Onnan tudja, hogy megtanították rá (pont, mint téged).

Le tud lőni, ha a kimenete nem egy szövegfájl, hanem meg tud hívni egy programot.

"Felismeri a szarkazmust. Tudja, hogy mi az a pisztoly."

Honnan veszed?

Ami nincs, arról nehéz megmondani, mit ismer fel és mit nem.

Intelligencia: a természet egy olyan "produktuma", amely képes felismerni a környezetét, önmagát, ezekkel kölcsönhatásba lép és az őt ért hatásokra releváns válaszokat ad.

Mesterséges: olyan dolog, amit nem a természet alkotott, hanem az ember.

Mesterséges Intelligencia: az ember által alkotott olyan "termék", amely - röviden szólva - arra képes, amire az ember. Kreatív, az őt ért hatásokra releváns válaszokat ad. Más szóval, gondolkodik. Nos a bökkenő az, hogy az embernek egyelőre fogalma sincs, hogy a teste kémiájából miként lesz gondolat, és mi is az. És ez az "ember" meg akarja alkotni azt, amiről fogalma sincs. Ezért már nem Nobel díjat adnak, ez egyenesen isteni. Szó szerint.

Azonban nagy az isten állatkertje. És sokan szeretnének állatszelidítők lenni. Nem csoda, rengeteg állat igényli ezt. Ez egyeseknek hatalmas ambíciót ad. Hirdetik, mire képesek, de nem. Ők csak kiváló manipulátorok. No meg hatalmas egójuk van.

Az agykutatás rohamtempóban fedez fel új szabályokat, új folyamatokat. De egyelőre precízen azt sem tudja megfogalmazni, mit is jelent, hogy ha csokit eszem, akkor csokiízt érzek, és ez kellemes. Hogy les za csokiból érzelem? És mi az? és mi hordozza? És hogy jön létre? Ehhez képest az intelligencia megcsinálása odébb van. De micsoda kéjes érzet látni, ahogy milliók rettegnek a MI által produkált dolgoktól. Igen, a kisgyermek hisz a Jézuskában és az ördögben is. Teljes meggyőződéssel, lebeszélhetetlenül. Amíg fel nem nő. Sokaknál ezt nem a kor határozza meg.

> Felismeri a szarkazmust.

Pont az a gond, hogy erre a legkevésbé képes. Pl. a közösségi oldalakon is használják a mesterséges intelligenciát moderációs célokra. Kontextusában egész jól meg tudja állapítani azt, hogy egy adott kommentnél valami becsületsértés történik. Csak pont az a gond, hogy ha *én* leírom, hogy márpedig 2*Sü-nek nem érdemes az anyját szidni, mert nem anya szülte, hanem egy bivaly …rta kínjában, azt sértegetésnek fogja érteni, pedig nyilvánvalóan szarkazmusról van szó. Vagy egy online értékesítésre bevetett MI megkérdezi, hogy kérsz-e x forintért elégedettségi garanciát, és te azt válaszolod, hogy igen, meg kérek hozzá nyolcszázezer kismegszakítót is, akkor a rendelési listádon ott lesz a nyolcszázezer kismegszakító is. Ha nem, akkor csak azért nem, mert előtte megkérdezi, hogy hány amperes kismegszakítóra gondoltál.

> Tudja, hogy mi az a pisztoly.

Tud róla beszélni. A kettő nem ugyanaz.

> Lényegében minden vele kapcsolatos kérdésre értelmesen válaszol.

Inkább azt mondanám, hogy minden vele kapcsolatos *értelmes* kérdésre értelmesen válaszol.

> Onnan tudja, hogy megtanították rá (pont, mint téged).

És ez a gond, nem úgy tanították meg, mint engem. Nekem érzékszervi tapasztalataim vannak a világról, a fogalmi struktúráim erre feszültek rá később, mikor megtanultam beszélni. Egy beszélgető MI-nek meg csak a fogalmi struktúrái vannak meg, érzékszervi tapasztalatai nincsenek. És ez elég erős hiányosság. Másrészt az ember máshogy dolgozza fel az információt, mint egy MI. Pl. ha számjegyeket kell felismerni, akkor az ember íveket, vízszintes, függőleges, átlós szakaszokat ismer fel, azok összefüggéseiből köröket, egymást metsző vonalat ismer fel, és a legvégén rakja össze, hogy ez egy 4-es vagy egy 9-es. Ha megnézed, hogy egy számjegyfelismerő neurális hálózatnak mi van a rejtett rétegeiben, az valami ettől gyökeresen más dolog lesz.

~ ~ ~

Itt egy kicsit vicces, kicsit tanulságos videó: https://www.youtube.com/watch?v=SacogDL_4JU

A dolog azért érdekes, mert jól lehet látni, hogy mi is történik tulajdonképpen. Van egy MI, ami előre betanított minta alapján képes hasonló mintájú kimenetet generálni. Ha te novellákkal tanítod be, akkor novellákat fog gyártani. Jelen esetben meg a kottából gyártott, szöveggé alakított bemenetből egy hasonló mintázatú kimenetet generált. Oké, hobbi projekt, befejezetlen, az eredmény finoman szólva sem tökéletes, de a végén eljutott odáig, hogy néhány pillanatig az ember elhiszi, hogy zenét hall. Vannak persze, akik tovább jutottak, ma már egy MI tud írni egy olyan szimfóniát, ami nem csak nyomokban hasonlít egy szimfóniára, de hallgatható, kellemes, sőt időnként egész izgalmas, van olyan minőségű, hogy akár egy film alá is betehető lenne zenei aláfestésnek. A különbség nem az algoritmusban van – vagy legalábbis nem az a lényeg –, hanem a tanításul szolgáló adatmennyiségben, illetve abban, hogy hogyan kódolod és dekódolod a zenét karaktersorokra, számsorokra.

De ami a lényeg a videóban, hogy az MI-nek közben fogalma sem volt, fogalma sem lehetett, hogy tulajdonképpen ő zenét ír. Amit az MI csinált, hogy felfedezte a mintát, azt, hogy pl. a ";GKS" karaktersorozat szoros és jellegzetes kontextusban van a ";GS", illetve a "?BNU" karaktersorozatokkal, így ennek fényében generált maga is karaktersorozatokat. Csak éppen azzal nem volt tisztában, hogy ezek hangokat jelölnek, vagy hogy a harmónia a hangok frekvenciájának az arányairól szól. Hasonlóképpen lehet, hogy az MI felismeri, hogy a „fegyver” karaktersorozat szoros és sajátos kontextusban van a „lő” és a „töltény” karaktersorozatokkal, és generál neked egy olyan karaktersorozatot, amit ha te a saját fogalmaid segítségével dekódolsz, akkor annak van értelme, de ma mindösszesen ennyit csinál, azt se túl jól. Emberi léptékű értelemmel és jelentéssel nem az MI tölti meg a szöveget, hanem te, aki a szöveg dekódolásával hozzáadod a te saját, igencsak szerteágazó ismerteidet a világról.