Miért veszélyes a mesterséges intelligencia?

Ha jobban belegondolsz, mindenki azt mondja, hogy "húú úgyis fellázadnak" meg ilyeneket.

Na most kezdjük ott, hogyha normálisan gondolkodó AI-t alkotunk (AI=mesterséges intelligencia), az emberi gondolkodás hibái nélkül, és nem "rontjuk el" azzal, hogy olyan szituációt teremtünk, ami miatt lázadnának, akkor minden rendben lenne, akár még egy barát is válhat belőlük.

Mivel az AI-alapú robotok fogékonyak a tanulásra ugyebár, ezért ha emberként kezeli őket bárki, akkor szerintem nem nagyon van okuk lázadozni..

Ezért nem értem az ilyeneket, akik ennyire félnek ettől... Ennyi erővel bármelyik ember is veszélyes rád, ha lázadó lesz, mert nem úgy csinálsz valamit, ahogy ő akarja:o

#2 vagyok

nem általánosítok ennyire, bocsánat:D

"Legtöbb ember azt gondolja, hogy fellázadnának" (javítva)

Az a baj a mesterséges intelligenciával (MI), hogy fejlődik. Mármint persze, ez önmagában nem dolog, hát ez a lényege. A probléma az, hogy a fejlődését kontrollálni kell, hiszen könnyen megeshet, hogy az MI-nk olyan irányba fejlődik, ahol egy dilemmára a (szerinte) logikus döntés a szerver élet teljes kiirtása. Nagyon veszélyes dolog a saját magát korlátlanul (vagy akár a kizárólag az alárakott hardverek által korlátozva) átíró programkód, hiszen nem tudjuk megjósolni, hogy mi lesz a vége, tehát nem tudjuk előre, hogy mit alkottunk.

Persze lehet gátakat is védelmi mechanizmusokat építeni, de mi garantálja, hogy azokat nem játssza ki egy olyan MI, ami képes rövid idő alatt sok millió lehetőséget végigpróbálni és/vagy kielemezni? Hiszen ilyen programok ma is léteznek, lásd brute force. Borzasztó sok nagyságrenddel gyorsabbak az ilyen programok az embereknél kódfejtésben.

"Mivel az AI-alapú robotok fogékonyak a tanulásra ugyebár, ezért ha emberként kezeli őket bárki, akkor szerintem nem nagyon van okuk lázadozni.. "

Az a baj, hogy a robotnak nincs lelke, mindig azt fogja cselekedni, amit a programkódja meghatároz. Nem lesznek valódi érzelmei és nem is úgy fog viselkedni, mint egy ember, mert nem ember.

Szóval a téma érdekes, nagyon sokat lehetne eszmét cserélni ezzel kapcsolatban.

G.

Azért veszélyes, mint minden más találmány: mert fegyvert lehet csinálni belőle.

Ha történetesen pont neked van a legerősebb és legokosabb MI-d a világon, mi másra használnád, mint a többiek legyőzésére.

Más kérdés, hogy ez nem az MI hibája, ennyi erővel a botokig visszamenőleg minden találmányt vissza kellene vonni, mert mindenből csináltak már fegyvert.

És nem kell aggódni, sokkal előbb irtjuk ki egymást mi, emberek, mint hogy a gépek tennék velünk ugyanezt.

Szerintem elég egyértelmű, hogy egy (emberi jellegű) intelligenciának emberi jellegű semélyiségi hibái is lennének. Mármint ha ugye azt vesszük alapul, hogy a cél egy olyan intuitív nem racionális típusú személyiség kifejlesztése, ami akár te vagy én is lehetnénk, akkor ugyanolyan lelki ellentmondásai, hite, önzése lenne, képes lenne hazudni, érdekei lennének, vágyai, céljai. Ezeket nem lehetne "kiküszöbölni", hiszen ezek vagyunk mi, tehát ha tökéletesen emberi MI-t akarunk készíteni, akkor azt csak ezekkel együtt lehetséges.

Csakhogy egy ilyen MI nem csak hogy egy átlagos ember akaratosságával és titkolózásával rendelkezne, hanem a világ minden tudásával akár, olyan lehetne, mint egy ember, akinek a fejébe van építve az egész google. MIvel nem az ujjaival kéne gépelnie, hanem ami megjelenik a fejében, az már le is van gépelve, ezért villámgyorsan tudna írni, chatelni, sőt számítógépeket meghackelni. Mindezeket képes lenne letagadni, eltitkolni. Nyithatna bankszámlát, lophatna pénzt, felbérelhetne embereket, képes lenne értelmes telefonbeszélgetéseket bonyolítani.

És lehet, hogy nem tenné meg, de megtehetné. Nem lenne testhez kötve, tehát ha ki is kapcsolnák, lehet, hogy addigra már áttöltötte magát máshova.

Asimov műveitől a Terminátorokon át a Végtelen határokig számos mű foglalkozott ezzel a problémával - ajánlom figyelmedbe ezeket.

Némelyik nagyon jó, ill. elgondolkodtató.

A válaszadók és persze a kérdező egy apró dolgot kifelejtett. A mesterséges intelligenciát (mint neve is mutatja) az ember hozza létre. És semmiféle mesterséges intelligencia nem veszélyes, csak és kizárólag az ember. Aki vagy rossz mesterséges intelligenciát hoz létre, vagy tudatlanul belepancsol valamibe. Minden valamirevaló mű éppen ezt mutatja be: mindig az ember műveli a rosszat.

Egyébként a mesterséges intelligencia nem egy holt program. Működési elve az, hogy meghatározott rendszer és elvek szerint érzékeli a külvilág jelenségeit, és azokra válaszokat ad. Egy "robot" tehát alapvetően három fő egységből áll: érzékelőrendszerek, információfeldolgozó rendszerek, válaszadó rendszerek. Mint az embernél. Asimov - aki a robotika alapproblémájával először foglakozott elvi szinten - elég jól megfogalmazta ezeket a feltételeket.

1. Robot soha nem támad emberre. Emberi utasításra se.

2. Robot soha nem támad robotra. Emberi utasításra se. Legfeljebb védekezik, a legkisebb kár okozásával.

3. Robot csak olyant cselekszik, amely az emberek és robotok összességének hasznos. Más kérdés, hogy miképpen kell megfogalmazni konkrétan a "hasznosságot" minden lehetséges esetre.

#8

Sajnos nagyon inncs igazad. Sokszor lattunk olyat, mikor az ember valami olyat csinal, ami alapvetoen jo szandeku, de aztan kontrollalhatatlan katasztrofava valik. Nezd csak meg pl az ausztral nyulak esetet. Eloszor beteleptettek a nyulakat Ausztraliaba, hogy legyen nyulhus. Aztan a nyulak elszaporodtak, mivel nem volt termeszetes ellenseguk, es hatalmas karokat okoztak. Akkor betelepitettek a termeszetes ellenseguket, a rokat, mondvan, hogy az majd kordaban tartja a nyulakat. Csakhogy a roka nem a nyulakra vadaszott, mert nyul elfutott elole, a hulye kis kenguru meg, ami nem gondolta, hogy a roka veszelyes, nos az meg nem fotott el. Szoval a rokak kiirtottak a kistestu kengurufeleket, de a nyulak attol meg jol elvoltak. Vegul a rokakat az ember levadaszta, hogy a kengurukat megvedje, cserebe a nyulproblema meg mindig fennalt. Na akkor bevittek egy nyulbetegseget, ami eleg halalos, es ez le is tarolta a nyulak 90%-at, tele volt a kontinens doglott nyulakkal. Csakhogy a maradek 10% immunis lett a betegsegre, es ott folytatta, ahol azelott abbahagyta.

A tortenet tanulsaga, hogy a legnagyobb joszandek mellett, mindenfele fegyverkezni akaras nelkul is tudunk akkora hatasokat elerni, ami aztan kicsuszik a kezunkbol. Sajnos ugyanez a helyzet az MI-vel. Az ember siman alkothat maganal erosebb, ugyesebb, gyorsabb eszokozoket, miert ne lenne kepes okosabb gepet epiteni? De ha megepiti, akkor mi garantalja, hogy nem csuszik ki a kontroll a kezunkbol?

Amugy az asimovi torvenyeket hibasan idezted, es sajnos ezek a torvenyek se kepesek meggatolni, hogy a robot kicsusszon az iranyitasunk alol es a maga ertelmezeseben helyesen, de szamunkra megis rosszul ertelmezze a torvenyeket. Amugy ezek a torvenyek, ide masolom neked:

1. A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen.

2. A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvény előírásaiba ütköznének.

3. A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az első vagy második törvény bármelyikének előírásaiba.

A lenyeg, hogy pl az elso torveny alapjan szabad-e egy robotnak hagynia, hogy valaki dohanyozzon? Vajon az ember onpusztitashoz valo joga (= szabadsag) magasabb rendu-e, mint az, hogy az ember egeszsege ne karosodjon?

Vagy mi van az orok dilemmaval, miszerint ha megmenthetsz egymillio embert egyetlen ember felaldozasaval, akkor megtenned-e? Vajon hogy dontene egy robot? Es ha a robotnak beprogramozzuk, hogy ilyen dilemma eseten mindig aldozza fel a kevesebb/oregebb/rosszabb embert a tobbiek erdekeben, akkor vajon mit fog lepni? Ha kiszamolja, hogy a Fold eltartokepessege a jelenlegi emberiseg 60%-a, akkor nekiall-e a 60% erdekeben kiirtani a masik 40%-ot? Ellenben ha nem irtja ki, akkor tetlenul turi, hogy az emberiseg a vesztebe rohan, tehat ellenszegul a parancsnak.

Szoval ezek az asimovi torvenyek sem olyan egyszeruek am.

Az Asimov törvények nagyon jók - csak éppen betarthatatlanok. Az ember sem mindig tudja betartani, mit tehet akkor ott egy nála butább robot?

A MI-val az a helyzet, hogy nálunk sokkal-sokkal gyorsabban fejlődik - tehát le fog előzni minket. Onnan kezdve viszont ő maga dönti el az eseményeket: ez a döntés pedig akármi is lehet. Akár az emberiség teljes kipusztítása is lehet logikus és értelmes döntés - vagy pedig valamiféle korlátozás (pl. hirtelen állatkertben találjuk magunkat - ennek minden következményével. Létszámkorlátozás, tenyésztés, stb).