Mi az AI legnagyobb hiányossága?

#50

"It pedig te állitod hogy az ember nem lemásolható, bármilyen indoklás nélkül."

Ez bizony rád is vonatkozik! Mert még senki nem másolt le embert, pláne úgy, hogy bizonyíthatóan ugyanúgy megéli azt, hogy ő valaki, mint egy ember.

Én legalább megpróbáltam - filozofikus síkon ugyan, mivel más nem áll rendelkezésre - boncolgatni a témát. Számomra így egyoldalúan is érdekes volt eltöprengeni rajta.

Úgy érzem, az iménti kérdésedre sok különböző belépési pontot adtam, rajtad múlik, élsz-e valamelyikkel.

> az AI is egy "élet" nélküli valami.

Az a baj, hogy az élet egy borzasztóan nehezen definiálható fogalom. Illetve mivel definícióról van szó, önkényesen definiálható fogalom.

> Vélhetően tökéletesen fogja szimulálni azt. Átmegy majd a Turing-teszten.

„Ha egy madár úgy jár, mint egy kacsa, úgy úszik, mint egy kacsa, és úgy hápog, mint egy kacsa, akkor azt a madarat kacsának hívom.”

> Öntudata azonban soha nem lesz AI-nak

Az a másik baj, hogy az öntudat szintén egy eléggé nehezen definiálható valami. Mi az öntudat? Tudás önmagunkról, reflektálás önmagunkra. Ennek vannak szintjei, valamilyen szintig a telefonomnak is van tudása önmagáról, és reflektál önmagára, mikor kijelzi, hogy hamarosan le fog merülni. Oké, hogy ez fényévekre van az emberi öntudat szintjétől, de mindenesetre az öntudat nem egy bináris fogalom, hogy vagy van, vagy nincs, hanem egy skála.

Ha nagyon leegyszerűsítjük, akkor hogyan működik egy ember? Vannak inputjai – látás, hallás, szaglás, stb. –, meg vannak outputjai – jellemzően a beszéd és a mozgás –, vannak belső folyamatai, memóriája stb… Nos, egy szoftvernek is vannak inputjai, outputjai, belső folyamatai, memóriája. Az más kérdés, hogy nyilván egy ember jóval több inputtal, outputtal, memóriával rendelkezik, mint egy ventilátor fordulatszám szabályozó algoritmus a számítógépben. Ilyen szempontból csak a komplexitás különbözik.

De a komplexitáson túl mi az a fizikai természetű, vagy jól definiálható fogalmi természetű valami, ami esetében minden kétséget kizáróan kijelenthetjük, hogy ilyennel egy AI semmiképp sem rendelkezhet?

Materialista természetű gondolkodás ez tőlem? Nem gondolnám. Ha metafizikai természetű dolgokat is figyelembe veszünk, akkor pl. lehet azt mondani, hogy az AI-nak nincs lelke. De az embernek honnan van lelke? Egy AI-nak nem kaphat ugyanonnan lelket? Isten nem mondhatja azt, hogy „na, ez az AI már elért egy olyan szintű intelligenciát, hogy adok neki lelket”? Még ha el is fogadok metafizikai természetű létezőket, én akkor sem látok különbséget egy ember és egy AI között a komplexitáson, meg a téma szempontjából irreleváns eltéréseken kívül.

> szimuláció…

Informatikai nézőpontból input van és output. Az emberben mik az érzések, gondolatok? Megfelelő körülményekre adott megfelelő reakciók. Ha valami tökéletesen képes minden tekintetben úgy viselkedni, mint ami érez és gondolkodik, akkor az a valami érez és gondolkodik. Ahogy írtam, ha valami minden tekintetben olyan, mint egy kacsa, akkor azt észszerű kacsának nevezni.

A szimulációról azért tudjuk hogy szimuláció, mert valamilyen téren egyszerűsítés, vagy valamilyen téren eltér a valóstól. De egy tökéletes szimuláció nem megkülönböztethető a valóságtól. És itt elvi akadálya, korlátja tudtommal nincs annak, hogy miért ne lehetne egy olyan szintű szimulációja az érzéseknek és gondolatoknak, ami megkülönböztethetetlen az emberi érzésektől és gondolatoktól.

Meg meg lehet fordítani a kérdéskört. Honnan lehet biztosra tudni, hogy az ember maga – tudtán kívül – nem csak szimulálja a saját érzéseit? Ilyen kérdésekre aligha lehet minden kétséget kizáró választ adni.

"Az a másik baj, hogy az öntudat szintén egy eléggé nehezen definiálható valami. Mi az öntudat? Tudás önmagunkról, reflektálás önmagunkra."

A telefon NEM reflektál saját magára (pszichológiai értelemben), óriási tévedés, vagy pedig hevenyészett párhuzam. Egy alrendszere figyel egy másik alrendszert, és reagál rá. Az önreflexió egészen más jellegű és minőségű fogalom.

"Ilyen szempontból csak a komplexitás különbözik."

Ha nagyon leegyszerűsítjük, akkor igen. Meg ha kivágunk az ablakon jónéhány más tényezőt, ami ezen jócskán túlmutat.

"De a komplexitáson túl mi az a fizikai természetű, vagy jól definiálható fogalmi természetű valami, ami esetében minden kétséget kizáróan kijelenthetjük, hogy ilyennel egy AI semmiképp sem rendelkezhet?"

Az életélmény, amelyhez véleményem szerint szükség van valami olyasmire, mint a psziché, az összes irracionalitásával, szubjektív megéléseivel, és a látszólag érthetetlen komplexitásával együtt.

Még az emberi psziché működését sem ismerjük igazán, ehhez képest már építeni akarunk egyet, és az emberrel egyenlővé tenni...

"lehet azt mondani, hogy az AI-nak nincs lelke. De az embernek honnan van lelke? Egy AI-nak nem kaphat ugyanonnan lelket?"

Kitől kaphat? Tőlünk? Bináris kódból aligha áll elő "lélek".

"Isten nem mondhatja azt, hogy „na, ez az AI már elért egy olyan szintű intelligenciát, hogy adok neki lelket”?"

Elvonatkoztatva a vallások által leírt istenektől, belépve a metafizikai értelmezési keretek közé, lehetne egy olyan pont elméletileg, amelytől kezdve egy számítógépnek saját életélménye van?

Ezt kérdezgettem oldalakon keresztül, hogy hol lehet ilyen pont, és mitől tudhatjuk, hogy átlépte? Nem csak arról van itt szó, hogy felruházunk emberi minőséggel egy igen-hamis elven működő gépet, mint ahogy tettük gyerekként a plüssfiguráinkkal, vagy teszik sokan felnőttként a háziállataikkal?

"egy tökéletes szimuláció nem megkülönböztethető a valóságtól"

Külső szemlélő számára talán nem, de itt ugye tudjuk, hogy mi hoztuk létre a semmiből, beletáplálva azokat a rögzült és már megértett akció-reakciókat, amelyeket magunkból megismertünk.

"Honnan lehet biztosra tudni, hogy az ember maga – tudtán kívül – nem csak szimulálja a saját érzéseit?"

Nyilván felvetődik az a kérdéskör, hogy nem szimuláció-e az egész Univerzum. Tegyük fel, hogy nem (hiszen ha igen, akkor lényegében mindegy, van-e benne másik szimuláció), és az, amit te és én megélünk, mint emberi létezés, ez a szubjektív nézőpont és életélmény nem reprodukálható, csak és kizárólag egy új ember születésével egyelőre.

Akárhogy nézem, ha felokosítok egy hűtőszekrényt (kisarkított példa), abból még nem születik meg egy új életélmény. Legfeljebb annak egy szimulált variánsa - éppen úgy, ahogyan egy tamagocsiból sem lesz soha "hús-vér" kutya, bármennyire is okossá tesszük.

#52

„Ha egy madár úgy jár, mint egy kacsa, úgy úszik, mint egy kacsa, és úgy hápog, mint egy kacsa, akkor azt a madarat kacsának hívom.”

Erre még reagálnék, mert szerintem itt van az alapellentét a kétféle szemlélet között.

Szó nincs arról egyelőre, hogy az egy madár!

Az egy madárnak kinéző valami, közelebbről kacsát formáz, kacsaszerű hangot ad ki, és úgy is mozog.

Kacsa? Nem feltétlenül, mert lehet egy filmes kellék is, egy robot, ami megtévesztően utánoz egy kacsát.

> A telefon NEM reflektál saját magára (pszichológiai értelemben)

Nem pszichológiai érelemben. Ha ezt a kitételt tesszük, akkor az úgy már csak az emberre vonatkozhat, amivel megint oda lyukadunk ki, hogy öntudata csak az embernek van, mert csak az embernek van öntudata…

A telefon reflektál önmagára. Igen, ehhez a saját alrendszerei kommunikálnak egymással, mint ahogy az embernél is. Ha mikor a telefon kiírja, hogy alacsony az akkumulátor töltöttsége, ezért energiatakarékos üzemmódra kapcsol, akkor az valamire való reflektálás. Ha nem önmagára való reflektálás, akkor mire való reflektálás?

> Ha nagyon leegyszerűsítjük, akkor igen. Meg ha kivágunk az ablakon jónéhány más tényezőt, ami ezen jócskán túlmutat.

Nem leegyszerűsítjük, hanem a lényegét nézzük. És pont azt kérdezem, hogy mi is pontosan az a jó néhány más tényező, ami ezen túlmutat?

> Az életélmény, amelyhez véleményem szerint szükség van valami olyasmire, mint a psziché, az összes irracionalitásával, szubjektív megéléseivel, és a látszólag érthetetlen komplexitásával együtt.

Életélmény, psziché… Megint csak a hétköznapokban jól értett, de analitikus megközelítésben definiálatlan fogalmak ezek.

> Még az emberi psziché működését sem ismerjük igazán, ehhez képest már építeni akarunk egyet, és az emberrel egyenlővé tenni...

Igen, nem ismerjük a psziché működését. És ez valóban komoly technikai akadálya – a sok közül – annak, hogy ma, vagy az elkövetkező évtizedekben az emberrel általánosan, minden téren összevethető AI-t alkossunk. (Más akadályai is vannak ennek, mint pl. az indíték hiánya, a dolog bonyolultsága, így költségessége, stb…) De elvi akadálya tudtommal nincs annak, hogy megismerjük a pszichét ha nem is teljesen, a téma szempontjából elégséges szintig.

> Elvonatkoztatva a vallások által leírt istenektől, belépve a metafizikai értelmezési keretek közé, lehetne egy olyan pont elméletileg, amelytől kezdve egy számítógépnek saját életélménye van?

Megint itt ez az életélmény. Az életélménynek pontosan mik az egzakt jellemzői, ismérvei?

> Ezt kérdezgettem oldalakon keresztül, hogy hol lehet ilyen pont, és mitől tudhatjuk, hogy átlépte?

Pont ezért írtam, hogy pl. az öntudat az nem egy éles határ, ami van vagy, vagy nincs, így nem is lehet ilyen határt átlépni. Az öntudat az egy skála. Ugyanezt gondolom az olyan fogalmakról is, mint életélmény és hasonlók. Egy csimpánznak van intelligenciája, öntudata, életélménye? És egy papagájnak? És egy aligátornak? És egy keszegnek? És egy tengeri csillagnak? És egy hangyának? És egy csigának? És egy földigilisztának? És egy szivacsállatkának? És egy tulipánnak? És egy moszatnak? Hol a határ, van valami objektív ismérv alapján meghúzható határ? Mert nyilván önkényesen húzhatunk egy határt, hogy mitől tekintünk valamit intelligensnek, öntudattal rendelkezőnek, de ez attól még önkényes határ lesz.

Kicsit olyan kérdés ez, hogy hol a határ a délután és az este között…

> Nyilván felvetődik az a kérdéskör, hogy nem szimuláció-e az egész Univerzum. Tegyük fel, hogy nem (hiszen ha igen, akkor lényegében mindegy, van-e benne másik szimuláció), és az, amit te és én megélünk, mint emberi létezés, ez a szubjektív nézőpont és életélmény nem reprodukálható, csak és kizárólag egy új ember születésével egyelőre.

Miért szempont az intelligencia, öntudat szempontjából, hogy mi reprodukálható és mi nem? Ugye mondtam, hogy az élet egy nehezen definiálható valami. Anno a vicc kedvéért megpróbáltunk mindenféle definíciót adni. Pl. az egyik ilyen definíció volt, hogy élő az, ami képes az önreprodukcióra. Oké… De akkor a menopauzán régen túlesett nagymama nem él? Hiszen nem képes – már – az önreprodukcióra. És aki eleve meddő és így is született?

Oké, hogy ezeddig mindaz, amit emberi intelligenciával összemérhetőnek tartottunk az egy ember volt. De mi van, ha az AI is eléri ezt a szintet? Mi bizonyítja, hogy az életélmény – jelentsen az bármit – semmiképpen nem jelenhet meg mesterségesen kreált valamiben?

Hogy a világ szimuláció-e vagy sem? Sokszor feltett kérdés, és szerintem lényegtelen. Attól, hogy a világ szimuláció, attól még ugyanaz a percepciód róla, hogy valóság. Hiába tudod, hogy a fal is szimuláció, attól még nem tudsz átmenni rajta, számodra ugyanúgy valós falként fog viselkedni. Ugyanígy teljesen mindegy, hogy mi magunk, a gondolataink, érzéseink szimulációk-e vagy sem, még ha valamilyen módon le is vonnánk ezt a következtetést, akkor is valósnak élnénk meg az amúgy szimulált érzéseinket és gondolatainkat és mások számára is pont ilyen valósnak tűnnének. Akkor hol is van a különbség? Meg lényeges-e ez a különbség? A színészről is tudjuk, hogy csak eljátssza a szerepet, de ha jól játssza, akkor valósnak éljük meg, együtt sírunk vele, együtt nevetünk vele. A jól előadott bűvésztrükkről hiába tudjuk, hogy bűvésztrükk, mégis tökéletes bennünk az az illúzió, hogy a bűvész tényleg a semmiből húzott elő egy galambot.

~ ~ ~

> „Ha egy madár úgy jár, mint egy kacsa, úgy úszik, mint egy kacsa, és úgy hápog, mint egy kacsa, akkor azt a madarat kacsának hívom.”

> Szó nincs arról egyelőre, hogy az egy madár!

Amúgy a fenti pontos idézet helyett szokták azt a változatot is mondogatni, hogy „ha valami úgy néz ki, mint egy kacsa, úgy úszik, mint egy kacsa, úgy hápog, mint egy kacsa, akkor az valószínűleg egy kacsa”. A Turing-teszt is valahol ebből indul ki. Ha képes vagy egy mesterséges intelligenciát megkülönböztetni egy embertől, akkor oké. Ha viszont nem, akkor egyáltalán van-e még valamilyen lényegi különbség a kettő között? Ha igen, akkor mi, és miért lényegi ez a különbség ez, ha amúgy meg nem megfigyelhető, nem megállapítható?

> Kacsa? Nem feltétlenül, mert lehet egy filmes kellék is, egy robot, ami megtévesztően utánoz egy kacsát.

Ebben az esetben pl. van mi alapján megkülönböztetni a kettőt. A kacsában nem merül le az elem, a kacsa szokott enni stb… De ha nincs ilyen megfigyelhető lényeges különbség, akkor az a filmes kellék egyenértékű egy kacsával. Aztán persze lehet tovább menni, pl. egy kellékből valószínű nem olyan finom a kacsasült…

Nyilván egy AI mindig megkülönböztethető lesz egy embertől, az emberben agy van, ami elektrokémiai elven működik, az AI meg valószínű pusztán elektromos alapon. Az ember húslevest, meg rántott húst eszik, az AI meg 230 V-ot. Egy ember sejtekből épül fel, egy AI meg tranzisztorokból. De ezek releváns, minőségi különbségek az intelligencia, öntudat és hasonlók szempontjából? Nem érzem ezt. Pont úgy, ahogy vannak növényevő meg húsevő állatok. Jól megkülönböztethető különbség ez? Igen. Van relevanciája ennek abból a szempontból, hogy az adott lény állat-e vagy sem? Nincs. Lényegtelen részletkérdés.

#55

Nem tudom, hol kezdődik az életélmény. Hogy a papucsállatkának vagy a moszatnak van-e.

Egy biztos: mindegyik élőlény igyekszik megvédeni saját magát. Van, amelyik védekezni is tud, van, amelyik csak stresszjeleket mutat, és figyelmezteti a fajtársait az olykor fatális veszélyre.

Még a fák is, a gombatelepeken keresztül kommunikálva egymással, illetve a leveleikből eregetve kémiai anyagot a levegőbe.

Hogy a fenében tekinthetnék tudattal rendelkező élőlénynek valamit, aminek erre semmilyen szándéka nincsen? Márpedig alapvetően a gépeknek nincs, amíg bele nem programozza valaki szántszándékkal.

Ez volna az a pont, amelytől életélménynek tekinthetjük egy AI létezését? Innentől fogva ugyanúgy megéli az életet, mint egy ember? (Hasonló bonyolultsági szintről beszélünk, papucsállatkával jönni nem ér.)

Bár magam is programozok, olyan távol áll tőlem ez a mechanikus elvű, technokrata gondolkodás, hogy elképzelni nem tudom, ezt mások hogyan képesek áthidalni a saját elméjükben.

> Márpedig alapvetően a gépeknek nincs, amíg bele nem programozza valaki szántszándékkal.

De ha beleprogramozza, akkor már van. Az életösztönt az evolúció programozta belénk. Akinek volt, azt túlélt, és továbbörökítette az ehhez szükséges ösztönöket, reflexeket, amelyiknek nem volt az a változat záros határidőn belül kihalt. Bár ez sem olyan egyszerű, azért vannak ilyen téren is furcsa jelenségek a természetben, pláne az ember beavatkozásaiban. Azért az embernek sikerült olyan fajtákat kitenyésztenie, kinemesítenie, amik bizonyos szempontból számunkra előnyösek, de az élettel nehezen összeegyeztethető tulajdonságokkal is bírnak.

Hogy most spontán, vagy kívülről jövő az életösztön, az mellékes. Sőt még szerintem az is mellékes, hogy van-e. Lehet, hogy az AI számára ez nem fontos, vagy nem tesszük fontossá. De nem gondolnám, hogy ez kritériuma lenne az intelligenciának, kreativitásnak. Egy novellaíró AI-t én a novelláin keresztül ítélek meg, hogy mennyire kreatív, izgalmas az, amit írt. Hogy most tiltakozik-e az ellen, hogy kihúzzák a konnektorból, az számomra századrangú szempont. Ha szükség van ilyen viselkedésre, akkor megtanítjuk rá az AI-t, ha nincs – és legtöbbször nincs – akkor meg nem. Ez utóbbi nem feltétlenül hiányosság, adott helyzetben még előnyként is tekinthetünk rá.

"Ez utóbbi nem feltétlenül hiányosság, adott helyzetben még előnyként is tekinthetünk rá."

Hát igen, egy bombahatástalanitó robotnál nem jönne ki túl jól, ha meló előtt azon kezdene el drámázni, hogy ő felrobbanhat a bombával együtt...

56

Rengeteg állat van amelyiket nem zavarja a halál.

-Rovarok kőzt rengeteg him elpusztul vagy gyakran megis eszi a nöstény párosodás után.

-Lemmingek tömegesen lesznek öngyilkosok...

-Még az embernél is előfordul. "Kizárt, nincs ilyen. Maximum olyan elmebetegek, akiknek súlyos korlátozza a betegségük a belátóképességüket." De ettől még inteligens marad, vagy megint felvetődik hogy mi a határ??

"Az életösztönt az evolúció programozta belénk. Akinek volt, azt túlélt, és továbbörökítette az ehhez szükséges ösztönöket, reflexeket, amelyiknek nem volt az a változat záros határidőn belül kihalt."

Ez csak feltevés. Élőlény nem létezett túlélési ösztönnel?

Ki bizonyított be ilyet?

Olyan létezhetett, hogy nem volt képes alkalmazkodni a körülményekhez. De hogy meg sem próbált volna...

"De nem gondolnám, hogy ez kritériuma lenne az intelligenciának, kreativitásnak."

Annak nem is. Az AI mindenképpen tekinthető intelligenciának a maga módján. De ettől még nem éli meg létezőként a saját életét. Dolgozik nekünk, mint egy betanított munkás, amelyiknek nincsenek saját vágyai, igényei, késztetései. Kizárólag arra képes, amire beprogramozták, illetve azt tudja elsajátítani, amire a képességei lehetővé teszik.

Mi ruházzuk fel ezekkel a készségekkel, de "életet lehellni belé" valószínűleg sohasem fogunk tudni, legalábbis ezen a belátási és megértési szinten biztosan nem.

"Öntudatra ébredni", majd az emberiség ellen fordulni tehát soha nem fog egy robot.

Istent játszunk, az a helyzet, miközben az élet lényegét sem tudjuk pontosan meghatározni és megérteni. Inkább elfordítjuk a fejünket, és úgy teszünk, mintha egy élő valaminek lehetne tekinteni egy általunk létrehozott, "leprogramozott", bináris képződményt.

Vagy pedig saját magunkat sem tekintjük élőnek, csupán egy biorobotnak, aki elhiszi magáról, hogy él.

Számomra ez a felfogás abszolút idegen, furcsa, és nem tükrözi a valóságot, amit már közel négy évtizede átélek.

Annyit írok még a végére - mert a nézetkülönbségeink miatt a szócséplést feleslegesnek tartom, meggyőzni úgysem tudjuk egymást - , hogy nem attól éli meg valami vagy valaki a saját életét, mert mi úgy tekintünk rá, vagy definiáljuk.

Nem, azt nem mi döntjük el. Az élet átélése egy objektív dolog annak számára, aki részesül benne, bár maga az élet a sallangjaival együtt már szubjektív élménnyé válik.