Ha a mesterséges intelligencia veszélyes az emberiségre, akkor miért hozzuk létre?

Nem rossz.

Persze, nem ismerjük előre a jövőbeni fejlődés valamennyi részletét.

Azt tudjuk, hogy egy olyan minőségi ugrás következik, mint amikor az agy elkezdett fejlődni, és többszörösére nőtt a mérete.

Ilyen amúgy többször is előfordult.

Azt is tudjuk, hogy az emberiség fejlődése során jelentősen szelídebb lett - és azt is, hogy fennmaradni csak akkor fog, ha tovább szelídül.

Meg azt is tudjuk, hogy az élőlények félnek a szokatlan, ismeretlen dolgoktól, ezért féltek itt ti is.

A kérdés még mindig az, hogy a majmok hogyan jártak volna jobban: ha kialakul az ember - vagy, ha nem?

53.: "Azt is tudjuk, hogy az emberiség fejlődése során jelentősen szelídebb lett - és azt is, hogy fennmaradni csak akkor fog, ha tovább szelídül."

Ez mondjuk igaz lenne, ha nem számítanánk bele pl. a keresztre feszítést, a karóba húzást, a géppuskát, a náci gázkamrákat, Hiroshimát és Nagaszakit, a hidrogénbombát vagy a Pol Pot rezsimet. A felsorolás tetszsés szerint folytatható. Ez mind nem fordul elő a majmoknál. De nem is ez a kérdés, hanem az, hogy honnan tudod, hogy ha létrejön egy nem emberi, hanem emberfeletti mesterséges intelligencia, az mit fog csinálni.

"ha nem számítanánk bele"

Ez megint csak mellébeszélés.

Az állatvilágban, ha két azonos fajú és nemű állat találkozik, akkor leggyakrabban az az első gondolata mindkettőnek, hogyan tudná megölni a másikat.

Embernél azért ez ritkább.

"az mit fog csinálni"

Nem tudom.

Azt tudom, hogy idáig mi volt, és ez alapján mi VALÓSZÍNŰ.

Jó, persze, te 100% bizonyosságra akarsz menni.

Na, olyan nincsen.

De a fejlődést megakasztani hatalmas butaságra vall.

55. Azzal, hogy végre kimondtad, hogy nem tudod megjósolni, hogy mit fog eredményezni az MI szuperintelligencia létejötte, vsz. egy fontos kijelentést fogalmaztál meg. Az továbbra is gond, hogy ennek ellenére azt állítod, hogy a korábbi történésekre alapozva meg tudod jósolni a _valószínű_ MI jövőt. Továbbra is azt kérdem, hogy mire alapozva, milyen kalkulációk alapján állítod azt, hogy meg tudod jósolni a mesterséges szuperintelligencia létrejöttének valószínű hatásait, továbbá szerinted mik lesznek ezek a hatások.

A hozzászólásaidba többedjére beleszőtt retorikai elemek ("mellébeszélés", "hatalmas butaság") irritálóak, de nem reagálok rájuk, mert olybá veszem, hogy az érvelési hiányosságaidat próbálod retorikával eltakarni.

Én indítottam újra a topikot. Mostantól egy L betűvel jelölöm a kommentjeimet, mert már az sem tudom pontosan, hogy én ki vagyok.

Szóval

"Azt tudjuk, hogy egy olyan minőségi ugrás következik, mint amikor az agy elkezdett fejlődni, és többszörösére nőtt a mérete.

Ilyen amúgy többször is előfordult."

Igen. Csak itt jön egy fontos kérdés: Törvényszerű-e, hogy minden civilizációs forradalom végül az emberiség javára váljon? Létezhet olyan (nem hatalomtechnikai) forradalom, ami visszaeséssel, vagy akár a civilizáció pusztulásával jár? Mint ahogy az előbb is írtam, az AI egyetlen eddigi találmányhoz, vagy lépcsőfokhoz sem hasonlít. Icike-picikét sem.

"Azt is tudjuk, hogy az emberiség fejlődése során jelentősen szelídebb lett - és azt is, hogy fennmaradni csak akkor fog, ha tovább szelídül."

Ez egyébként offtopic részemről, de egyes szakemberek azon az állásponton vannak, hogy az emberi gyarlóság, gonoszság, pusztítási vágy abból eredeztethető, hogy az ősember túl gyorsan ugrott fel a tápláléklánc tetejére az intelligenciájának köszönhetően. Gyakorlatilag elnyomott, gyenge, alsóharmadból (evolúciós léptékben mérve) hiphop csúcsragadozók lettünk, és a természetnek nem volt lehetősége olyan korlátokkal felszerelni, ami védte volna tőlünk a világot.

"Meg azt is tudjuk, hogy az élőlények félnek a szokatlan, ismeretlen dolgoktól, ezért féltek itt ti is." Én biztos, hogy nem félek. Én teljesen jogos, és nagyon fontos kérdéseket teszek fel.

"A kérdés még mindig az, hogy a majmok hogyan jártak volna jobban: ha kialakul az ember - vagy, ha nem?" Egyszer megválaszoltam, meg egyszer újra betettem. Nem akarom harmadjára is beküldeni, mert akkor már tényleg senki sem igazodik el itt.

Megint csak a régi érvek: "nem ismerjük, tehát veszélyes".

MINDEN veszélyes, amit újonnan kitalálunk. Mind áldozatot követelt még idáig, míg meg nem ismertük, és még utána is annak, aki rosszul használja.

Nem olyan rég halt meg egy ember azért, mert szörpnyitás közben rosszul tartotta a kést, és szíven szúrta magát.

TEHÁT akkor tiltsuk be a késeket?

De a történelemben idáig még amit feltaláltak, minden dolog előre vitte a fejlődést.

Csak az kellett, hogy kihaljon az a nemzedék, amelyik még nem született bele.

SOHA, SEHOL nem hallottam olyat, hogy 30 éves találmányt be akartak volna tiltani.

Például magyarázd el egy mai tininek, hogy tiltsuk be a mobilokat (veszélyes sugárzás, stb) - visz egyenesen a diliházba. Ha el akarod venni tőle, akkor még le is üt.

De olyat milliót, hogy friss találmánytól a frász törte ki a fél emberiséget.

Na, ezek vagytok ti most.

58. Hát bakker, olyan általánosságokat írsz, amit egy az egyben falvédőre lehetne hímezni.

"De a történelemben idáig még amit feltaláltak, minden dolog előre vitte a fejlődést."

LOL. Ilyesmiket hogy bírsz leírni? Konkretizáld már kérlek ezt a megállapításodat pl. a következő találmányokra: légibombába töltött anthraxspóra, Júdás bölcső, napalm, novicsok, guillotine.

"SOHA, SEHOL nem hallottam olyat, hogy 30 éves találmányt be akartak volna tiltani."

Vedd le a szemellenződet és bőven találsz ilyet. Például betiltották a freon használatát a hűtőgép hűtőközegeként. Miért? Mert kiderült, hogy károsítja az ózonréteget.

Vagy éppen az emberi genom szerkesztését, ami hatalmas találmány és sokaknak nagy üzlet lett volna, úgy betiltották, mint a pinty. És tudod miért? Azért, mert beláthatatlan veszélyekkel járna az emberiség számára, ha megengednék. Bizony, van ilyen, hogy valami hatalmas találmányt betiltanak amiatt, mert beláthatatatlan veszélyekkel jár.

Úgyhogy ezen a ponton érdemes lenne visszatérni arra kérdésre, hogy milyen hatásokkal járhat a mesterséges szuperintelligencia megjelenése az emberi faj jövőjére nézve. Vajon meg lehet-e most becsülni a veszélyeket, vagy beláthatatlan veszélyekről van szó? Ez az, amiről mintha kerülnéd, hogy kifejtsd a tényekkel alátámasztott véleményed, pedig a 41. válaszban arra utaltál, hogy tudod, mi következik most.

L

De hányszor írjam még le, hogy ez teljesen más, mint bármilyen találmány eddig?

Komolyan, neked ugyanaz a rizikófaktor egy késes szörpnyitásban, meg abban, hogy egy embertől független, kiszámíthatatlan szuperintelligenciára bízzuk a bolygót?

"De a történelemben idáig még amit feltaláltak, minden dolog előre vitte a fejlődést." Az emberi történelem nevetségesen kevéske ahoz, hogy ilyen megállapításokat törvényszerűvé emelhessünk. Majd ha lesz fél-egymillió év dokumentált történelmünk (spoiler, sosem lesz annyi) akkor megállapíthatjuk, hogy nem tud rosszul elsülni a fejlődés.

" Például magyarázd el egy mai tininek, hogy tiltsuk be a mobilokat (veszélyes sugárzás, stb)"

Többször leírtam. A kockázat típusa gyakorlatilag összehasonlíthatatlan a kettő között.

"De olyat milliót, hogy friss találmánytól a frász törte ki a fél emberiséget.

Na, ezek vagytok ti most." Lehet játszani az elvakult technokratát, csak ha nem teszünk fel kérdéseket, csak rohanunk előre vakon, könnyen bebaszhatagebasz. Az emberiség már tényként kezeli a legyőzhetetlenségét, pedig nem áll az olyan stabil lábakon, mint ahogy azt kellemes elképzelni.

Ha igazunk van, (nem mondom, hogy feltétlen az van) akkor az évszázad vége könnyen átmehet rémálomba, amihez képest a Sztálin rendszer valami utólérhetetlen utópia lesz...