Mennyire indokolt és valós a félelem a technikai szingularitástól?

Valóban.

Ha meg benne van, akkor tovább fog fejlődni.

De ne úgy képzeld, hogy benne van egy 27-es erősségű "fejlődj!" utasítás, aztán eddig tud fejlődni, tovább nem.

Hanem olyan lehetőségek vannak benne, amivel fejlődni tud.

Ha ügyesen van megírva, akkor tovább tud fejlődni, mint amit az alkotók elképzeltek.

Nem teljesen filozófiai vita, egész véletlenül informatikus családban nőttem fel :D tehát van mire alapoznom.

Az ember sose emelkedhet Isten szintjére, ez így van; épp ezért egy gép nem tudja túlnőni az embert. Képzelőerő híján sokkal behatároltabbak a lehetőségei; arra képes, amit a programozása megenged neki, nem többet. A kreativitás és a problémamegoldó készség pedig két teljesen különálló dolog.

Mondtam már: ez ugyanolyan dolog, minthogy "levegőnél nehezebb tárgyak nem repülhetnek".

Majd, amikor már lesznek embernél okosabb gépek, egy ideig még mondhatod azt, hogy "de az emberiség együttes képességeinél még nem okosabbak".

Vagy mondhatod azt, hogy nem hiszed el, hogy okosabbak.

Ugyanezt csinálták a repüléssel is annak idején.

Csakhogy itt emberi találmányt hasonlítasz össze valamivel amit egy gépnek kéne magától kitalálni nulla emberi közreműködéssel.

A különbség ég és föld, csak mondom.

"egy gépnek kéne magától kitalálni"

Ilyen is volt: evolúciós algoritmus rakta össze a gépalkatrészeket. A feladat az volt, hogy tanuljanak meg járni.

Megtanultak.

Maguktól. Mindenféle emberi közreműködés nélkül.

Kedves 46%-os én meg felismerem azt, aki elvi alapon akarja megmondani, hogy márpedig a gép azért nem képes valamire, mert gép. De ha már ilyen közhelyeket szeretsz pufogtatni, itt egy másik:

Az élőlények is gépek, csak nem szilícium, hanem szén alapúak. Ehhez képest elég nagy különbség van egy prokarióta meg köztünk.

De akkor nézzük így, ha a programozás előre behatárol mindent, tehát nem lehet kreativitása, akkor mi emberek sem vagyunk kreatívak, mert bizony nekünk is van programunk, csak be vagyunk határolva annyira, hogy nem látjuk, és mivel nem látjuk a programunkat nem is tudjuk mi van benne, ergo mi sem rendelkezünk kreativitással csak követjük a programot.

Ha ezt így végigvesszük egy gép nem tudja, nem tudhatja, hogy kreatív, hiszen mi is gépek vagyunk programmal, és mégis kreatívak hiszük magunkat, pedig az csak a program része.

Nagyon szépen megkérlek, hogy "de az embernek szabad akarata van" dolgot ne dobd be, ugyanazok a fizikai törvények érvényesek rá, tehát vagy van, lehet szabad akarata a gépnek is, vagy az embernek sincs.

Gyakorlatilag amúgy eljutottunk a kínai szoba problémához, hogy mi a valóság és mi csak mímelése annak, és ez meg továbbvisz oda, hogy a mi valóságfogalmunk a hibás és egy teljesen szubjektív dolgot gondolunk objektívnek.

Miért ne dobjam be, hogy az embernek szabad akarata van? Teljesen más törvények szerint működik egy gép és egy ember, a kettő soha nem lehet egyenrangú. Asimov bácsi már levezette ennek okát, nézz utána, ha van időd.

Egyébként nem volt szándékomban. Arra utaltam, hogy az embernek van fantáziája, képzelete, az alapján valósít meg dolgokat. Egy gépnek nincsen. A gondolkodó, álmodozó, képzelgő gépek pedig maradjanak meg a mozivásznon.

Figyelj tanulmányozd a filozófiát és a mesterséges intelligenciával, idegtudományokkal foglalkozó híresebb szerzőket. Most valami beteg nagy katyvasz van a fejedben, és egyikhez sem értesz, és meg sem érted, amit leírunk, nem sok értelme van itt bohóckodni. Te most is ott tartasz, hogy "Van a gép meg van az ember".

De például el sem gondolkodsz azon, hogy a kreativitás az valójában micsoda, az ugyanis egy parancs, miszerint "maradj életben, ahogy tudsz" és ennyi ebből lett a te általad olyan nagyon csodált kreativitás. Gyakorlatilag a teljes élővilágot két parancs, a "maradj életben és szaporodj" köré építették fel, ennek mintegy a mellékterméke a kreativitás is, de ha ezt alapból nem látod át, akkor mi itt nem fogjuk megváltani a világot.