Tényleg indokolt olyan mértékű félelem a mesterséges intelligenciától mint sok ember teszi?

#25: > Kedves 16-os, en erdemben nem szolnek hozza a temahoz, mert nem ertek hozza, csak nagyon megutotte a szemem, hogy a gep tudna zongoramuvessze valni. Nos, ez az egy biztos, hogy nem igaz.

Ha materialista szemszögből nézem, akkor az ember agy is egy számítógép. Ha az ember tud zenét alkotni, akkor elviekben egy számítógép is képes rá.

Ha nem materialista szemmel nézem, és azt mondom, hogy az ember rendelkezik valami nem anyagi jellegű összetevővel – mondjuk egy istentől kapott, vagy reinkarnálódott lélekkel –, akkor is felvetődhet a kérdés, hogy ha egy mesterséges intelligencia eljut egy bizonyos komplexitásba, akkor miért nem kaphatna isten(ek)től lelket, vagy miért ne reinkarnálódhatna valaki egy MI „testébe”.

Akárhogy is nézem, semmi nem teszi lehetetlenné, hogy egy számítógép alkotást hozzon létre.

(Mondjuk az alkotás azért kicsit más problémakör, mert ahhoz kell persze intelligencia is, de kell hozzá kreativitás is, ami egy merőben más jellegű tulajdonság.)

Mindemellett senki nem akarta a MI -t az emberrel összehasonlítani, a kérdés sem ez, hanem - olvasd el, fentebb.

Nem kell neki olyannak lennie, mint az emberi intelligenciának, lehet egyszerre több és kevesebb, egyszóval más.

Lehet, hogy lesz majd emberszabású robot, ami intelligenciában vetekszik az emberrel, de egyenlőre egyáltalán nem ez a cél, de ettől függetlenül komoly előrelépések vannak, mégpedig gyorsuló ütemben.

Aggódni nem árt, minden fejlett, fejlődő technológia miatt, legfeljebb alaptalannak bizonyul, de jobb félni, mint megijedni, tartja a mondás és az elővigyázatosság sosem árt.

Ez alapvető tévedés. Az aggódás a nem tudás, és a megismerésről való lemondás tárgyi megjelenése. A "jobb félni mint megijedni" nem azt jelenti, aggódj, hanem azt, ha félsz, felmérted a veszélyt és teszel valamit a megelőzősére. Ha megijedsz, akkor mindez váratlanul ért, mert nem voltál képes felmérni, hogy lehetséges.

Egyébként szép hosszú polémia alakult ki. Ez nem baj, de ha szigorúan veszem, az intelligenciáról alkotott képlékeny elképzelések hozadéka, nem pedig tárgyszerű vita eltérő álláspontok okán (lásd Parkinson megfelelő törvénye).

"„Egyes rendszerek bonyolultsági foka már nem teszi lehetővé, hogy mindent egy programozó alkosson meg, a program módosítja saját magát, és le is ellenőrzi a hatékonyságot.”

Az, hogy egy MI-vel gyártunk egy !másik! programot, az nem önmaga módosítása."

Nem, az nem az, ez igaz. Kicsit itt tényleg összecsúszott a két dolog, elismerem, de nem véletlen.

A program csinál programot menetrend illetve a saját magát módosító program is lehet fejlődési út, istenigazából szerintem ebből az utóbbi a jelentősebb veszélyforrás. A program csinál programot menetrend sokkal kötöttebb korlátokkal rendelkezik, ott tulajdonképpen az esetleges hiba átláthatóságának hiánya a veszély. A program, amit produkál, lehet, hogy nem bonyolultabb, mint a saját alapprogramja, de átláthatatlanul nagyobb lehet. Mintha bizonyos alapszabályokat kap egy tízoldalas pamflet olvasása révén és ez alapján íratsz vele egy kétszáz oldalas könyvet, amiben egyértelműen nehezebb kiszúrni a hibát.

Én sokkal nagyobb veszélyt látok azokban a programokban, amelyek képesek lehetnek saját futáskörnyezetüket módosítani, nem feltétlenül aktív futás közben, lehet ez akár újraindításokkal járó folyamat, tökmindegy.

Számomra a lényeges pont, hogy ha a program a saját futásmódját, itt kifejezetten az outputjaira gondolok, önállóan változtatni, akkor simán túlfuthat az általunk tervezett keretein. Ehhez nem is kell, hogy a fő algoritmusa legyen önváltoztató. Gondolj csak egy neurális rendszerre, egy agyszimulációra. Ma ez még csak kísérletezés, de a teljesen rugalmas, szinte bármilyen feladatra fogható rendszereknek ez a jövője.

Egy informatikus nézőpontjából ez lehet, hogy nem önmagát módosító programnak számít, mert mondjuk nem a saját főkódjába firkál, de a végeredmény ugyanaz.

"az, hogy egy MI programot írjon, attól olyan messze vagyunk, mint Edison a OLED kijelzőtől."

Ma ez igaz, de ha az elektronika olyan tempóval fejlődött volna, mint ma az informatika, Edison után max. 15-20 évre meglett volna az oled. :D

Még a fentiekhez igazodva, istenigazából nem programíró programban látom én a veszélyt, talán teljesen rossz volt a megfogalmazásom.

Az önállóan evolválódó programokban van a veszély (meg persze a jövő pozitív része is).

Ennek a kezdeteit látom és nem vagyok benne biztos, hogy ezen irány fejlődésénél gyorsabb lesz az ezt kordában tartani képes rendszerek fejlődése.

Ma még az önevolváló program tényleg nem jelent sokkal többet az olyan programoknál, melyeknek például egy játék végigjátszásához megadod az alapszabályokat és magától megtanulja végigjátszani azt, egyre jobban.

A korlátok elvileg kötöttek, de csak annyira, amennyire a korlátok megkötője előre tudott gondolkodni.

Az első ilyen hiba máris látszik, pont az elején általam említett programnál, ami miután kitanulta a játék végigjátszását, további fejlődést keresve megtanult CSALNI, megtalálta azt a módot, amivel az adott játékban cheatelni tud és azzal növelte a játékban a teljesítményét.

Pont ilyen részeknél kell előre kicsit megijedni, ha a mai kötött keretek közt van ilyen, mi lesz az exponenciális fejlődés mentén mondjuk egy évtized múlva?

"Akárhogy is nézem, semmi nem teszi lehetetlenné, hogy egy számítógép alkotást hozzon létre."

Jelenleg ott tartunk, hogy MI képes egy ismert festő, zeneszerző alkotásait elemezve olyan "művet" létrehozni, ami az adott művész stílusát felismerhetően utánozza.

Ha eljutunk odáig, hogy sok-sok művész sok-sok művét alapul véve létre tud hozni egy EGYEDI stílust és abban készíteni zenét, festményt, eljön a határ, ahol kérdésessé válik, hogy valóban lehet művészetnek, alkotásnak nevezni az eredményt.

Hasonlóan elmosódott határral kell itt játszani, mint az öntudat léte-nemléte. Valódi, markáns határvonal nincs, nem is lehet, azt csak szubjektív definíciókkal lehet kitűzni.

"A "jobb félni mint megijedni" nem azt jelenti, aggódj, hanem azt, ha félsz, felmérted a veszélyt és teszel valamit a megelőzősére. Ha megijedsz, akkor mindez váratlanul ért, mert nem voltál képes felmérni, hogy lehetséges."

Jogos, de még ijedezni is jobb most az elején, hogy később nagy félelem már ne kelljen.

Ha van 1,2 millád, kitanulhatod magad is az MI programozást.

[link]

> Ha van 1,2 millád, kitanulhatod magad is az MI programozást.

Autodidakta módon is bele lehet tanulni. Sok programnyelvhez léteznek függvénykönyvtárak, mondjuk egy neurális hálózat létrehozása egy egyszerűbb MI esetén egy egysoros utasítás, a tanulás is egy egysoros utasítás, meg problémamegoldás is egy egysoros utasítás. Ezt kb. egy délután meg lehet tanulni használni a leírásokból. Oké, nem lesz optimális a működése, de működni fog. Jól beletanulni, megfelelően paraméterezni egy ilyen MI-t az már valóban tapasztalatot, tudást kíván, de egy egyszerűbb MI létrehozása nem egy bonyolult dolog.

Egy szimpla neurális hálózat működése sem túl bonyolult, ha nem kész függvénykönyvtárakkal akarsz dolgozni, akkor sem túl bonyolult a leprogramozása, néhány tömb kell hozzá, meg kb. a négy alapművelet is elég lehet. Na jó, a legtöbb esetben esetleg érdemes használni egy szigmoid függvényt, így hatványozásra is szükséged lesz.