Mit az a szuperintelligencia, hogy működik?

10 Azt hiszem nem érted.

Az AI egy program. Igazából az agyadban is egy program fut, csak a jelenlegi értelemben vett program. Nincs hozzá fordítónk, és a környezetet sem ismerjük.

Mind1. Képzeld el, hogy ez a tudat / agy / intelligencia egy ember tudata, aki VÉGTELEN erőforrással rendelkezik ha rácsatlakozik az internetre. Igen volt hasonló film, és egyáltalán nem tartom hülyeségnek ezt a gondolatot.

Az önálló döntések, az öntudat, és a kreatív intelligencia szerintem különböző dolgok. Ha az agyadban elég angy "processzor" lenne (lenne mondjuk 5600 IQ-d), akkor rengeteg problémát tudnál nagyon hamar megoldani, mivel GYORSAN pörög az agyad, és gyorsan feltalálja magát. Képzeld el mi lenne akkor, ha pusztán a netet, és komplett szerverparkokat haználna erőforrásnak és számítási kapacitásnak ez az öntudat. Azt hiszed akár egy ember is, vagy 100 felvehetné vele a versenyt?

Ez pusztán fikció, de abból indultunk ki, hogy mi lenne ha (két fülem lenne és szatyor lennék). Tehát ha elérjük az úgymond "szingularitást", a pontot ahonnan már nincs visszaút, onnantól te azt csinálsz amit akarsz, mert nem te fogsz irányítani. Megkockáztatom ez a mesterséges intelligencia végtelen számítási kapacitással azt sem tartaná fontosnak, hogy az ember létezzen, hisz az ember ostoba, gyarló és semmi mást nem csinál, csak vírusként a környezetét pusztítja. LOGIKUS döntés lenne az emberiség eltörlése. Nem morális kérdés, hanem logikus döntés a környezet javára amiben élünk, és az életterünket biztosítja.

„Az AI egy kib*szott agy. Gondolkodáson kívül semmire sem lesz képes”

Persze. Agyakat létre lehet hozni l'art pour l'art is, csak nem éppen megtérülő beruházás. A mesterséges intelligencia abban a pillanatban lehet hasznos és veszélyes, amikor önálló döntésekre kap felhatalmazást, és nyilván ez a léte értelme, hiszen éppen a számodra már kezelhetetlen bonyodalmak elintézésere alkotják meg. Egészen kicsiben már a Tay chatboxszal vagy a Tesla vezérlésével kapcsolatban is felmerültek ilyen aggályok, de a gondok java része még előttünk van. Nem tudom, #11:38/13:05 olvasott-e Lemet, de nem buta ember. Viszont a lengyel író-filozófus itt sem áll meg. A szuperintelligencia holmi emberi érdekeket kizáró vaslogika nélkül, mindenféle erkölcsi szűrő beiktatásával is hozhat számodra nagyon nemkívánatos döntéseket.

A "szuperintelligencia" egy, a tudományos fantasztikum által használt kifejezés, amivel javarészt a technikai téren hiányos tudású egyének szeretik riogatni embertársaikat, és így próbálják rossz színben feltüntetni a mesterségesintelligencia-kutatást.

Pár dolgot azért szögezzünk le.

A klasszikus értelemben vett mesterséges intelligencia még nem létezik. A gépi tanulás és a neurális háló önmagában nem az. Egy rendszer lehet több-kevésbé "intelligens", de ez nem jelenti azt, hogy a klasszikus értelemben véve intelligenciának nevezhetnénk. Amiket ma sokan annak tartanak, azok igazából csak mindenféle tudatosságot mellőző, a környezeti ingerekre adaptívan reagáló rendszerek. Csak manapság szeretjük mindenre ráhúzni az "okos", meg "intelligens" jelzőt, ami már egy hangyányit is képes a környezetéhez igazodva reagálni. Egy laikust persze le lehet venni a lábáról azzal, hogy egy tudat nélküli algoritmus felismeri az arcát, vagy netán azzal, hogy a meglévő információkat elemezve olyan következtetéseket is le tud szűrni, amiket ténylegesen nem is adott meg neki, de ezek pusztán gépies algoritmusok.

Stanisław Herman Lem pedig egy remek író volt. De író, és nem tudós. Munkássága kiemelkedő, a művei egyszerre szórakoztatóak és elgondolkodtatóak, de nem szabad ezeket tudományos "szentírásnak" tekinteni.

@#09:32:

Ezekben a kérdésekben Lem munkássága, ha „szentírásnak” nem is, de útmutatásnak bízvást tekinthető. Minthogy maga sem tetszeleg a tudós szerepében, és tanulmányszerzőként sem lépi át a saját írói hatáskörét, a gondolatainak értékéből mit sem von le, ha tudományos alap nélküli fantáziáláson kapod, bár ez nem túlságosan jellemző rá. Az említett kötetben sem foglalkozik technikai részletekkel vagy a tényleges megvalósíthatóság esélyeivel – csak annyiban, hogy adottnak veszi: A tudomány fejlődéséből és a társadalmak változásából logikusan következik az emberi gondolkodás képességeit meghaladó mesterséges intelletus létrehozásának igénye (azt hiszem, ő sehol sem használja a „szuperintelligencia” kifejezést), illetve azt, hogy erre előbb-utóbb képesek is leszünk. No igen, „egyszerű íróként” könnyedén megteheti, hogy átlépjen a mellékes gyártási ügyeken, és közvetlenül az ilyen feltételes módban létező, embert meghaladó gépek működésének és működtetésének problémáit, ellentmondásait, erkölcsi kérdéseit szálazgassa. Ezekben mindenféle tudós-flepni nélkül is kompetens véleményt fogalmazhat meg, ilyen értelemben ajánlottam Kérdező figyelmébe.

Annak ellenére, hogy a tranzisztorok és lyukszalagok korában a mai mesterséges intelligenciának még az ígérete sem nagyon sejlett fel, Lem nem erről beszél, szerintem ezért is méltatlan holmi leírócskázással félretenni a gondolatmenét. Az, hogy az általa felvetett dilemmák egy része hébe-korba már mostanában is előkerül, alighanem valóban a ma még csak tapogatózó kísérleteknek nevezhető eredmények feltupírozásának köszönhető. Ha a sajtó nagyon akarja, hogy legyen már valóban gondolkodó AI, akkor van is, és mindjárt nagyobbat üt Sophia robot talányos viccelődése az emberek kiirtásáról. Ez meglehetősen ellenszenves népbutítás, ugyanakkor pozitív hozadéka lehet, hogy idő előtt felszínre vet néhányat a reményeim szerint minél távolabbi jövő gondjaiból is.

@Kérdező:

El kell mennem itthonról, ezért nem tudok tisztességesen válaszolni, de éppen az efféle látszólag egyszerű problémákat igyekszik körbejárni a Summa Technologiae. Valahonnét egyébként megvan nekem HTML-változatban, ha gondolod, egy időre letölthetővé teszem, egyszerűbb, mint szaladgálni utána.

#17:

Jó a példa, a szuperintelligencia csakugyan ilyesfajta, számunkra már követhetetlen logika szerint működik, tehát mondjuk a "videót ne linkeljetek" kérésre videót linkel. Kár, hogy nem nekem jutott eszembe ezt ilyen frappáns módon illusztrálni. :(