Meghalt az első ember, akinek halálát az MI okozta. Az emberiség a végzetébe rohan?

"Akkor mégis van egy nagyon sarkos, és gyorsan felfedezhető különbség az MI és egy ember között. És normális esetben az ember tudja, hogy egy MI-től mi várható és mi nem, és racionálisan gondolkodó ember a helyén is fogja kezelni azt a beszélgetést, amit az MI-vel folytatott."

Ebben igazad van, csak azt nem veszed figyelembe, hogy te, meg én mondjuk érdeklődünk a téma iránt, vannak ismereteink, pl. itt is most eszmét cserélünk, vitatkozunk, ezáltal sokféle szemszögből át tudjuk gondolni ezt.

Plusz, jó eséllyel bőven 100 fölött van az IQ-nk, legalábbis a magam nevében ezt ki tudom jelenteni, de az írásaid alapján rólad is az a benyomásom, hogy az átlagnál messze értelmesebb és nagyobb ismeretanyaggal rendelkező ember vagy.

A magunkfajtákra a racionális gondolkodás sokkal inkább jellemző.

De vegyél egy olyan embert, akinek a kognitív képességei a legjobb esetben is csak átlagosak. Mivel ez kb. természetes eloszlást követ, az elmondható, hogy a társadalom felére ez ráillik.

Erősen kétlem, hogy az ilyen szerényebb képességű, és pláne erősen ismerethiányos emberek racionálisan, a helyén kezelve a dolgokat társalognának egy AI-al, pláne, ha az már szinte emberinek hat a proaktív kommunikáció és az audiovizuális élmény miatt.

Hiába tudják, hogy egy AI.

Nagyon könnyen bevonódhatnak érzemileg.

Végülis azt is tudjuk, hogy a film, amit nézünk, nem a valóság, és valójában nem hal meg DiCaprio a Titanicban, hanem ott van a kamera, meg a rendező, aki a felvétel után azt mondja, hogy próbáljuk el mégegyszer, és DiCaprio bizony él.

Mégis tudunk a filmben látott, amúgy nem létező karakterekhez is érzelmileg viszonyulni, a főg-cit utáljuk, ha a főhős meghal, sajnáljuk, stbstb., van, aki még el is sírja magát az ilyeneken, mint a Titanic pl.

Ezt csak még erősebbé teheta a nem elég fegyelmezett elméjű és racionális emberek esetében egy ilyen AI.

És lehet, hogy pesszimista vagyok ezügyben, de mondjuk néhány rokonomat meg ismerősömet ismerve én simán elképzelem róluk, hogy ennyire "meghülyítse" őket egy AI.

Pedig nem pszichés betegek.

Nem tudom, ki emlékszik még a teveklubra, de annak idején közülük több is teljesen belehülyült egy ilyen tök egyszerű hülyeségbe, mint egy hót bénán megrajzolt teve.

Volt olyan, hogy unokatesóm hetekig rendszeresen elsírta magát, és szabályosan depressziós tünetei voltak, mert meghalt a tevéje. És nem 12 éves gyerek volt, hanem 20 éves fiatal felnőtt.

Én továbbra is azt húznám leginkább alá, hogy amely probléma az MI létezésétől függetlenül ugyanúgy fennáll, annak a problémának nem az MI az oka, akkor sem, ha az MI is belekerül a képletbe.

Az emberek egymást is képesek meghülyíteni. Ahogy írtad, MI nélkül a Teveclub oldal miatt is összetört valaki lelkileg. Akkor az, hogy most valaki az MI-vel való interakciótól, vagy mondjuk egy másik emberrel folytatott interakciójától csavarodik be, készül ki, az már részletkérdés.

Az ideális az lenne, ha meghatározó módon lennének közösségek, emberi kapcsolatok. Ha a szomszédoddal naponta beszélsz 2 percet, akkor idővel igen jól fogod ismerni, ő érzékelni fogja, ha valami problémád van, be fog kopogni, hogy nincs-e valami gond, ha három napja nem látott. Ehhez képest le tudsz élni úgy 10 évet mondjuk egy 5 emeletes házban anélkül, hogy egyetlen lakók sem tudja mondjuk azt, hogy mit dolgozol, és senkinek nem tűnt fel, hogy egy hónapra elutaztál. Nem is az a gond, hogy vannak, akik ilyen helyzetbe kerülnek, hanem az, hogy ezt természetesnek gondoljuk.

Mert nincs idő. Nincsenek formális alkalmak, hogy megismerjük egymást. Semmi nem kényszerít vagy ösztönöz arra, hogy a köszönésen túl bármiről is beszélgetni kelljen másokkal, de már köszönést sem tartják sokan szükségesnek vagy önmagukkal szembeni minimum elvárásnak. Vannak olyan munkák, ahol egy munkahelyen is le lehet húzni éveket úgy, hogy azt sem tudja senki, hogy van-e családod vagy sem, vagy hogy hol laksz. A háromgenerációs együttélések ritkák, úgy természetesnek vesszük, ha egy néninek az egyik gyereke Angliában, a másik Portugáliában dolgozik, és évente kétszer látja az unokáit.

Az emberek frusztráltak, szoronganak. Nincs közösségtudat. A társadalom nem segít célokat találni, értékrendet kialakítani. Mert aki tudja mit akar az életével kezdeni és tudja, hogy miért ezt az utat választotta, azt igen nehezen fogja földre fektetni egy MI vagy egy ember szövegelése, lesz víziója, ami segít átlendülni a komolyabb nehézségeken is, ami tartást ad, ami ösztönöz.

Ez a probléma. Hogy most az MI az esetleg rátesz-e egy lapáttal vagy sem? Van ott elég gond, ahova az a lapátnyi kerül. A probléma nem az MI-vel jött, még csak nem is közösségi médiával vagy az internettel, maga az urbanizáció óhatatlanul generálja ezt. Ha most betiltjuk az MI-t, azzal a problémákat nem oldottuk meg, csak elodáztuk, ha egyáltalán elodáztuk. Mivel nem az MI léte valójában a probléma, úgy nem az MI-hez való viszonyulás kialakítása fogja megoldani a problémát.

~ ~ ~

De hogy beszéljek egy kicsit az MI ellen is, én teljesen más területen látok számomra ennél sokkal komplexebb problémákat. Pl. megcsúszik a jégen az autó. Az ember megijed, megpróbálja visszaszerezni az autó feletti irányítást. Mondjuk olyan helyzetbe kerül, hogy nem tudja elkerülni a balesetet, döntenie kell, hogy egy szabálytalanul közlekedő részeg srácot üt el, vagy egy nagyon öreg, de nagyon elegánsan öltözött bácsit a járdán. A döntés általában nem racionális. Lehet a fiatal túléli az ütközést, az öreg nem. Az öreg már leélt egy életet, a fiatal előtt ott a lehetőség. A fiatal lehet, hogy úgy tűnik, hogy most rossz úton jár, de lehet, módja van jobb útra térni. De mindezt nincs lehetőség 1 másodperc alatt végiggondolni. Akár racionálisan dönt valaki, akár ösztönösen, ha nem pszichopata, sokáig fog vívódni a döntésén. Pedig 1 másodperc alatt kellett eldöntenie azt, ami 2 év rágódás után sem egyértelmű. Akkor sem, ha felületesen nézve egyszerűbbnek tűnik a döntés, mondjuk egy kislány és egy agresszív hajléktalan között kellett dönteni.

És ott vannak az önvezető autók, amik gyakorlatilag autóvezető MI-k. Azoknak valamilyen módon dönteniük kell. Mire tanítsuk őket? Mi alapján döntsenek? Ha még csak olyan külső jellegzetességek alapján, mint életkor, nem, feltételezhető egészségi állapot stb., az még hagyján. De ha ezt arcfelismeréssel összekötve olyan nyilvános adatokkal is ki lehet egészíteni az inputot, mint családi állapot, foglalkozás, iskolai végzettség, feltételezhető intelligenciaszint, akkor igen nagy probléma adódik.

És ez a probléma nem abból áll, hogy kit üt el egy önvezető autó egy balesetben. A legtöbb embert ez a kérdés nem fogja érinteni. Hangos lesz persze egy-egy ilyen eset, de valójában kevesek életére lesz valódi hatással. Ennél sokkal-sokkal nagyobb probléma, hogy az MI tulajdonképpen – és elkerülhetetlenül – emberi életek értékét teszi mérlegre. Márpedig ha reprodukálható, algoritmikus módszerünk van arra, hogy emberek életének értéke között különbséget tegyünk, akkor ez a lehetőség aligha fog az önvezető autókra korlátozódni csak. A történelemben bármikor, mikor valakik életét kimondva kevesebbre vagy többre tartottuk másokénál, bármilyen szempont alapján kategorizálva is, az mindig infernális következményekkel járt. Mert ha az álláshirdetésekre jelentkezők közül is hasonló módszerrel döntünk, ha mondjuk a fizetésed, nyugdíjad függ az „értékedtől”, ha a választáson az életed értékével súlyozott a szavazatod, ha a kórházi várólistán függ ettől a pozíciód, akkor pokoli világ vár ránk.

Pl. ez a kérdés nincs annyira reflektorfényben. Nem is olyan plasztikusan egyszerű kérdés, mint amire a kérdező kérdez rá. Erről a kérdéskörről nem választ, hanem könyveket lehet írni.

Persze ez sem teljesen az MI veszélyeiről szól, hanem arról, hogy az emberek mennyire veszélyes célok elérésében kaphatnak nagy segítséget az MI által feltáruló lehetőségekkel. Mert ugye emberek közötti különbségtételek nem is olyan ritkán már felbukkantak a történelemben MI nélkül is, de annyira összetett és precíz módon, ahogy arra az MI lehetőséget ad, olyan módon eddig nem volt mindez megvalósítható.

És meglehet ezekre is fogunk jó válaszokat találni, mint ahogy az emberiség már sok problémát meg tudott oldani. De ehhez diskurzus kell, társadalmi vita stb. De a valódi kérdések nem merülnek fel széles nyilvánosság számára látható módon, mert a fókusz és a reflektorfény azon van, hogy valaki öngyilkos lett, mert az interneten és a könyvtárakban amúgy is rendelkezésre álló információt történetesen az MI szemlézte neki.

"Ahogy írtad, MI nélkül a Teveclub oldal miatt is összetört valaki lelkileg. Akkor az, hogy most valaki az MI-vel való interakciótól, vagy mondjuk egy másik emberrel folytatott interakciójától csavarodik be, készül ki, az már részletkérdés."

Talán olyan szempontból nem mindegy, hogy ez azért rávilágít arra, hogy még egy viszonylag "értelmes"(direkt az idézőjel) AI-ra távolról sem hasonlító, de mégis valamiféle virtuális entitással kapcsolatban is képesek bizonyos emberek elég komoly érzelmi mélységeket megélni, amik akár destruktívak is lehetnek.

"Az ideális az lenne, ha meghatározó módon lennének közösségek, emberi kapcsolatok"

Ebben nincs vita, csak én nem idealista vagyok, hanem realista. Nem hiszek abban, hogy tartósan előállhatnak ideális állapotok és folyamatok, abban meg pláne nem, hogy ebbe az irányba haladnának a társadalmi-szociális-egyéb folyamatok.

Bár, ha önkritikát gyakorlok, és megpróbálom kívülről szemlélni a saját bias-aimat, akkor be kell ismernem, hogy valójában pesszimista-realista vagyok, de ez még mindig az jelenti, hogy legalább félig a realitásból vezetem le, amit a világról gondolok.

De egyébként ezt te is nagyon jól leírod a továbbiakban - világos, hogy mi lenne az ideális, de ehhez képest viszont a realitásban az van, hogy van egy rakás probléma, ami nem teszi lehetővé az ideális állapotot, ráadásul ezek a problémák trendszerűen szaporodnak.

A teljesen fejletlen társadalmakat leszámítva sajnos van egy olyan trend, hogy a virtualitás vonzóbb az embereknek, mint a valódi kapcsolatok.

Ez jelenleg még kimerül abban, hogy a fizikai kapcsolatokat hanyagoljuk, és a szociális életünk arról szól, hogy a virtuális térben farmoljuk a like-okat, egyelőre még valódi emberektől, és valódi emberekkel csetelgetünk, de szerintem legalábbis aggasztó ez a trend.

Ha ebbe a felállásba még beledobjuk a nem ma, de mondjuk 4-5-10 év múlva realitássá váló mesterséges intelligenciákat, akkor bizony az veszélyes lehet sok emberre szerintem.

És akkor én is húzok egy vonalat :)

~ ~ ~

Ez az önvezető autó egy rendkívül érdekes téma, legalábbis filozófiai megközelítésből, de kicsit életszagútlannak érzem a meglátásaidat, legalábbis az emberi aspektusokat nézve.

Nem tudom, hogy valaha voltál-e már életveszélyben, amikor másodperc törtrésze alatt kellett lereagálni valamit, én már sajnos többször is.

(bár semmi köze nem volt a közlekedéshez, közlekedés során ilyen éles szituban még nem volt részem, szerencsére, remélem nem is lesz)

Egy dolgot megtanultam viszont utólag kielemezve ezeket a helyzeteket: az, hogy a döntés általában nem racionális, ez egyáltalán nem igaz.

Megvan ennek a maga racionalitása.

Az, hogy TE magad túléld. Semmi más nem számít egy ilyen helyzetben.

Persze ezt nem gondolod át, sőt, az ilyen kritikus helyzetekre jellemző, hogy a primitív ösztönök átveszik az irányítást, de olyan szinten, hogy részletekbe menően nem is emlékszel a történésekre.

Egyszerűen van ott egy fekete folt, egy kiesés a filmben.

De a külső szemlélők általi elmondásokból azért tudni lehet, hogy mit csináltál. És nagyon szépen látni azt a hót egyszerű racionalitást, hogy az életedet védted minden áron.

Na most ebből kiindulva viszonylag könnyen rövidre lehet zárni ezt a morális problémát, mégpedig úgy, hogy a saját/családja életét elsődlegesen szem előtt tartó vásárló milyen algoritmusért lenne hajlandó kiadni pénzt.

Tehát piaci logika.

És az egyetlen, piacilag életképes modell, a nagyon ősi túlélési ösztönre építve az, hogy az utasai életét védi minden áron.

Mert hát az az AI-ra mégiscsak egy hús-vér fogja rábízni az életét, vagy családjáét, és egész egyszerűen nem lenne piacképes egy olyan modell, ami nem az alapján működik, hogy az utazók élete az egyetlen fontos prioritás, és minden más másodlagos.

Tehát ha vásárlóként közelítem meg, egészen biztosan nem vennék olyan önvezető autót, ami egy kritikus helyzetben bármilyen más szempontot is figyelembe vesz, mint az én biztonságom, legyen az morálisan bármilyen indokolható is.

Ezt diktálja az alapvető életösztön.

Nem aközött kell tehát választania, hogy egy részeg huligánt, vagy egy decens öreg bácsit üssön el. Sokadlagos szempont.

A lényeg az, hogy engem, mint utast biztonságban tartson.