Egy gép vagy robot hogyan tudna mégis öntudatra ébredni?

#1, ez nem feltétlenül így van. A mai neurális hálózat alapú "MI"-t ha kiengedet tanulni az internetre, annak csúnya vége lesz. Ezt több példa is bizonyítja, benácult komment botok és apokalipszist vágyó AI :D

...de felesleges aggódni, amíg ezek a neurális hálózatok számításigényes szervereken futnak, addig nagyon könnyű lekapcsolni őket. Még elosztott erőforrás esetén is pillanatok alatt le lehet lőni.

Ez csak a sci-fi mozikban jelent veszélyt. A valóságba a közeljövőben nem.

Amíg nem kötnek rá atomfegyver vezérlést, vagy robothadsereget, mint a Skynetnél, nem fog problémát okozni. Maximum lesz pár nagyszájú kommentelő bot.

...

A kérdésre a válasz:

Az öntudat mivoltát, határát és kialakulását az embernél sem értjük pontosan.

Ha azt vesszük, egy ember sem tudja bebizonyítani magáról, hogy van öntudata. Kívülről ezt lehetetlen belátni filozófiailag.

Az agy is egy bioszámítógép, nagyon bonyolult fizikai összeköttetéssel.

Le lehet másolni, szimulálni szuperszámítógéppel... a jövőben, de filozófiailag lehetetlen kívülről megkülönböztetni egy tudatot egy tudattalan valamitől. Ha ugyan úgy viselkedik.

#2 nagyon jól leírta. Egyetlen öntudatról tudhatod biztosan, hogy az nem csak az öntudat kitűnő szimulációja: a sajátodról.

És az a helyzet, hogy a tökéletes öntudatszimuláció és valódi öntudat közt nem tudjuk, mi a különbség, lehet, hogy nincs is.

Az öntudat valamilyen formában az agyunk önátverése.

Valószínű, hogy gépeknél is úgy kell kezelnünk majd a tudat kérdését, mint az állatoknál, nem lesz olyan, hogy van vagy nincs, csupán fokozati különbségek lesznek.

És még a mi öntudatossági fokozatunknál is juthatnak feljebb.

Az gondolom mindenkinek érthető és elfogadható, hogy ha egy gép eléri az emberi tudatosság, döntőképesség, véleményalkotás szintjét, akkor lehet ugyanolyan veszélyes, vagy veszélyesebb......mint egy ember.

Azon a szinten a biztonságos kontroll és az önálló tudatos működőképesség mértéke fordított arányban fog állni.

Semmi sem indokolja, hogy az miatt mert "csak egy gép" már nem is lehet öntudata majd a jövőben. Az élet kialakulásakor is csak olyan élőlények voltak, akik nem rendelkeztek öntudattal. De aztán kialakultak az első olyan állatok, amikben már megvolt ez a képesség. Aztán ezekből az állatokból kifejlődött az ember, aki meg már olyan beképzelt lett, hogy csak magát tekinti értelmes, gondolkodó lénynek...

A mai gépekre azért mondhatjuk esetleg hogy "csak gépek" mert molekuláris szinten nagyon primitívek. A nanotechnológia még gyerekcipőben jár. Az élőlényeknél bezzeg alapvetőnek számít. Egy nyamvadt sejt is olyan elképesztően bonyolult molekulagépezet, amit mi még csak nagyon sokára fogunk hasonlót építeni a valóságban.

Nem értem miért olyan furcsa gondolat az, hogy egy gép öntudatra ébred. Hiszen ez már megtörtént a valóságban. Mi vagyunk rá az élő példa...

#3-#4, Igen ez egy nagyon érdekes példa.

Nem valószínű, hogy valaha megtudható mi az igazság.

Tényleg egy biztos pont van csak, az a saját öntudatunk. Lehet időpillanatok folyamatosan generálódó sorozata (a múlt pedig emlékek lenyomata), de lehet egy stabil folyamat is. Nehéz megfogalmazni.

...

Egy biztos, hogy neuronhálózatokból jött létre a miénk. Feltehetőleg átmeneti állapotként, ahogy egyre nőtt a neuronhálózat összeköttetése. Egyfajta ébredésként, ahogy reggel "betölt" a tudatunk.

Nem zárható ki, hogy szükséges hozzá a biológiai szoros fizikai neuronhálózat, mivel látható, hogy elég könnyen szétesik. Ájulásnál, alvásnál stb.. pillanatok alatt szétkapcsol a körkörösen működő thalamokortikális háló és már szét is esik az egész. Legalábbis így éljük meg.

Aztán, hogy intrakortikális, vagy szubukortikális részek önálló működése éppen micsoda... Vagy egyes döntési területek jóval az öntudatunk érzéke előtti aktivitása... pontosan micsoda, - reflexes rendszer? Mint a gerincvelőnk. Vagy miniöntudatok halmaza? A két lebeny a corpus callosumon keresztüli összekapcsolódása és annak átvágása gyakran a két kéz "harcát" eredményezi, mert a két agyféltek kapcsolata minimális lesz... és veszekedni kezd a két fél. Akár egy nadrág felhúzásán is. Irtó érdekes!

Ezer megválaszolhatatlan kérdés van.

Összegezve, lehet az tudat feltétele egy bonyolultabb neurális hálózat, ami a reflexes állatoktól is fejlettebb. (Egyes halaknál pl kimutathatóan nincs még meg az összetett hálózat, könnyen lehet csak reflexes biorobotok)

Másfelől, lehet nincs semmiféle feltétele az öntudatnak. Lehet mi is részei vagyunk egy nagyobb öntudatnak, mint egy ország pl... és meglehet, hogy öntudatként fogja érzékelni magát egy 100 mrd sejtből álló fejlett szimuláció is.

...

Személyes véleményem az, hogy szükség van egy nagyon komplex bioelektromos neurális hálózatra, mert meglehet, hogy a kvantummechanikának közvetlen szerepe van.

De m nem zárom ki azt sem, hogy egy gépi anyag is elérheti ezt. Ám úgy tűnik sajnos a választ sohasem tudjuk meg.

"Az gondolom mindenkinek érthető és elfogadható, hogy ha egy gép eléri az emberi tudatosság, döntőképesség, véleményalkotás szintjét, akkor lehet ugyanolyan veszélyes, vagy veszélyesebb......mint egy ember"

Nagyon precíz válasz (ahogy az előtte lévő is). Ehhez a fenti kiemelt részhez annyi tennék hozzá, hogy a "tudatos" döntési, véleményalkotási képesség mellett a motivációk is nagyon fontosak. Az embert az örökölt ösztönei arra késztetik, hogy gyűjtse a javakat, uralja és alakítsa a környezetét, magasra kerüljön a szociális ranglétrán. Egy gép lehet emberi értelemben tudatos (vagy tökéletesen szimulálhatja azt), de ha más a motivációja, akkor a döntései is mások lesznek. Az is lehet, egy emberi intelligencia szintű gép számunkra teljesen meglepő döntéseket fog hozni, mert az alap céljai teljesen eltérnek a mieinktől.

Egyébként ha létre tudunk hozni majd ilyen gépeket, akkor az lesz a legfontosabb, hogy megfelelő alap célokat adjunk nekik, és ne legyen ezek között az, hogy meg akarják változtatni a cléjaikat. :)

Asimov robotika törvényei alapvetések. Egy igazi próféta volt.

Itt az a kérdés, hogy mi a cél az adott eszközzel. Ha csak céleszköz, tanulási képességgel akkor nem veszélyes.

Ha valami általános giga vezerlőszoftver, ami sok emberi dologért felelős, akkor lehet veszélyes amíg ki nem húzzák a konnektorból.

Mondjuk egy hadosztály drónnal támadást indít Észak-Korea ellen, mert úgy értékeli hogy veszélyessé vált. Ilyen elképzelhető a következő 50 évben.

Azt leszögezhetjük, ma valódi intelligenciát az ember mesterségesen előállítani nem tud. Bizonyos funkciókat talán.

Azt is leszögezhetjük, hogy meglehetősen sok idő kell még, mire az ember arra a tudásszintre jut.

A rettegés amiatt következik be, mert elképzeljük ezen időtartam eltelését, és ime, itt a MI. De eközben öntudatlanul azt feltételezzük, hogy az emberi elme és vélekedés ezen időtartam alatt változatlan. És a mai szemléletről tudjuk, hogy sok gonosz akad közöttük. Ám a valóságban az emberi szemlélet és vélekedés bizonyos arányban áll a fejlődéssel. Ma senki se viselkedik úgy, mit az ősember, ha mégis, szankció következik.

Tehát ha feltesszük, hogy a tudás és a szemlélet mindketője változik megfelelően, akkor csak az a kérdés, eljut-e oda az ember, vagy menet közben kiirtja önmagát. Ha eljut, akkor nem akar önkiirtó lenni, tehát szemléletileg nem tervez gonosz gépet, amely aztán tovább fejlődve emberiséget akar irtani.

Következtetés: két ok van arra, hogy ne féljünk.

1. a mi életünkben nem fog történni ilyesmi.

2. az utódaink, ha odáig jutnak, már felismerték, nem érdemes se véletlenül se szándékosan öngyilkosnak lenni. Érvényesek lesznek Asimow elvei.

A gépek jelenleg is nagyságrendekkel gyorsabban fejlődnek, mint mi.

Még ha az agyhalottak ellenére normálisan elindul a GMO használata, ez akkor is így lesz.

Ezek után egyértelmű, hogy le fognak előzni. Nem is kell hozzá nagyon sok idő... talán néhány nemzedék.

Hogy utána mi történik, az sok mindentől függ, ahogy már leírták.

"Ma senki se viselkedik úgy, mit az ősember"

Ez egy külön érdekes kérdés. Szerintem kb. ugyanúgy viselkedünk, mármint ugyanazok a motivációink, csak más módon, más környezetben, más eszközökkel. A szankciók akkor lépnek működésbe, ha nem a megfelelő eszközöket vagy módot választjuk, de amúgy ugyanúgy teperünk a megélhetésért, ugyanolyan csoportokhoz csatlakozunk és alkalmazkodunk a belső szabályaikhoz, ugyanúgy segítjük egymást vagy harcolunk egymással, stb. A kulturális fejlődés sokat segített, hogy ezeket elnyomjuk, átformáljuk, de alapvetően ugyanúgy megvan bennünk minden olyan késztetés, ami az ősemberben is volt, és mélyen ezek határozzák meg, hogy mit és miért teszünk. (Mondjuk ez már kicsit pszichológia témakör.)

Én kicsit sötétebben látom a jövőt, szerintem soha nem fogjuk tudni teljesen hátrahagyni az emberi létnek ezeket az ősi elemeit, még ha a megjelenési formájuk folyamatosan változik is. Ha ezek átkerülnek majd az emberi szintű mesterséges intelligenciába is, na akkor van baj.