Miért veszélyes a mesterséges intelligencia?

"Egyébként a mesterséges intelligencia nem egy holt program. Működési elve az, hogy meghatározott rendszer és elvek szerint érzékeli a külvilág jelenségeit, és azokra válaszokat ad."

Ez a definíció nem elég pontos, ezt csinálja egy alkonykapcsoló is, mégsem lehet intelligensnek nevezni (tekintsünk most el attól, hogy az áltudományos bulvársajtó szerint a mosópor is lehet intelligens).

Az ipari berendezések vezérlései is így működnek ahogyan írod. De azok sem intelligensek.

Szerintem egy intelligens gép képes:

- Tanulni

- Logikai alapú következtetésekre jutni és azok eredményét később felhasználni

- Felismerni a helyzetet, analitikus, elemző képessége révén

- A problémamegoldásra (amelyek megoldási módjai előre nem programozottak)

Magam is látok veszélyt az MI-ben.

Ha túl sok befolyása van (sokmindent megtehet).

Ha nem tudja megfelelően kezelni a paradoxonokat és egymásnak ellentmondó, megoldhatatlan feladatokat, akkor akár veszélyes is lehet.

Nem is beszélve a morális problémákról amiket adott esetben okozhat.

Én azt mondanám, hogy:

"A mesterséges intelligencia ma még gyerekcipőben jár. A természetes hülyeség azonban elképesztő dolgokra képes!"

Csak ehhez szeretnék pár szót szólni, mert a többi aspektus szerintem már nagyon jól ki lett tárgyalva.

"A mesterséges intelligenciát (mint neve is mutatja) az ember hozza létre. És semmiféle mesterséges intelligencia nem veszélyes, csak és kizárólag az ember. Aki vagy rossz mesterséges intelligenciát hoz létre, vagy tudatlanul belepancsol valamibe. Minden valamirevaló mű éppen ezt mutatja be: mindig az ember műveli a rosszat."

Áttételesen igen, minimum azzal, hogy az ember készítette.

De gondolj bele a nem is távoli jövőbe, mikor mondjuk katonai drónok önálló döntési jogot kapnak, hogy programjuk alapján kiválasszák, mire lőnek.

Egy jó szándékú programozó csapat abszolút jó szándékkal elkövetett véletlen hibája miatt egy ilyen kis aranyosság mondjuk elkezdi irtani a saját csapatokat, neadjisten a lakónegyedet, mondjuk egy olyan drón, ami már remekül el van látva önvédelemmel is, hát, kérlek, elég szép rendet tudna vágni, mielőtt a lőszerből és/vagy az üzemanyagból kifogy.

Na akkor most képzeld el, hogy kicsit előrébb a jövőben ezeket a drónokat már teljesen automata gyártósor produkálja és a jóhiszemű de gyilkos hiba már a gyártásprogramozás szintjén van.

Máris van egy nagyon tutin halálos drónhadsereg.

És akármennyire elvileg alapvető szükséglet minden automata gépnél, egyáltalán nem biztos, hogy mindezt egy szép nagy piros vészgombbal egy pillanat alatt le lehet állítani.

Vagy képzeld el, hogy mesterséges intelligencia kezébe adják a nemzetközi gazdaságot. Hurrá, nincs többé korrupció, zsarolás, hatalomvágyból indukált rosszhiszemű gazdasági trükk. De vannak teljesen jóhiszemű programozók, akik halandó, hibázó emberek.

Gondolj el egy ilyen okból kiinduló globális gazdasági válságot.

És még csak rosszat sem akart senki.

Már most is olyan mértékben függ világunk az informatikától, hogy nélküle megállna minden, hát még ha ez fokozódik.

A sci-fi rész már az öntudatra ébredő és utána kontrollálhatatlan saját döntéseket hozó intelligenciáról szól. Ez még sci-fi. De nem biztos, hogy sokáig.

És gondold el, mennyire tudsz kontroll alatt tartani egy szoftver-eszközt, aminek lehetőséget hagysz a saját szoftverének módosítására. A hardver-kontroll pedig igencsak korlátozott.

Mi a véleményetek az új sorozatról, az Extant-ról?

Szerintem kicsit lassú és paranoid, de azért izgalmas is, nézhető.

(Robotgyerek megmenti "anyucit"?)

Off: Most, hogy utána néztem érdekesnek tűnik a sorozat, de mit tegyen az ember, ha még 11 másik vár a megnézésre? :D

G.

Örülök, hogy ilyen válaszok születtek, mert ez ad lehetőséget a viszonválaszra (azaz a viszonválaszról nem kell bizonygatni, hogy a hibás elképzelések a károsak, nem a MI).

Az asimowi törvényekről előzetesen annyit, hogy a lényegét idéztem, nem volt kedvem a szó szerinti szöveget előkeresni.

A hibás emberi gondolkodás az ember hibája és nem a roboté akkor is, ha a robot annak szabályai szerint cselekszik. Nézzük rögtön #9 ausztrál példáját – amelyek az én állításaim cáfolata lehetne. Nos, van jó szándékú tévedés. De itt inkább az emberi viselkedés egyik fontos jellegzetességéről van szó. Akkoriban azért már tudták, mi az az élelmiszerlánc. De ezt felülírta az emberi mohóság. Az a típus győzött, amelynek csak a saját haszna számít, a következmény nem. Akkor se, ha őt is érinti, mivel ezt ő nem képes felmérni (viszont más képes).

A filozófia tele van paradoxonokkal. Pedig nincsenek ilyen paradoxonok, csak egy adott dologról az emberek véleménye megoszlik. Így a paradoxon az lesz, hogy egyesek szerint A az igaz, mások szerint annak ellentéte, B az igaz. Ami ugye nem lehet egyszerre. Statikus gondolkodással a dohányzás (drog, alkohol, stb.) lehet ilyen kérdés. Itt az a probléma merül fel, hogy ha több szabály (elv) van, akkor szükség lehet azok sorrendjére. És a kérdés, mi legyen a sorrendiség mércéje. Itt például az emberiség nem visszafelé menetelése. Első elv: az ember alanyi joga az önrendelkezés. Második elv: az ember viselkedésével nem veszélyeztethet másokat. Itt a kettő együtt annyi (kissé leegyszerűsítve), hogy az ember dohányozhat, de nem másokkal egy légtérben. Az egy, vagy millió problémája álprobléma. Akkor lehet ilyen dilemma, ha korábban valakik hibás lépéseket követtek el. A dilemma nem természetes állapot, hanem emberi hibák következménye. Emiatt nem a dilemmát kell megoldani, hanem az okot kell megváltoztatni.

Wadmalac drónjaihoz: lehetséges, de szintén mesterséges (kreált) probléma és nem a természetes folyamatok következménye. Hogy Wadmalacnak segítsek, vizsgálható emiatt az, hogy vajon természetes folyamat-e az ember jószándékú tévedése. Igen, az! De mivel ezt tudjuk, egy alkotás létrehozásánál mindig azt kell vizsgálni, milyen súlyos következményei lehetnek egy vétlen tévedésnek (a vétlenség az jelenti, hogy nem okolható az elkövető). Az ilyen drónhadsereg úgyszintén az emberi mohóság következménye. Van ellenpélda, az atombomba. Sok amerikai akciófilm szól a volt szovjet bázisok terroristák általi széthordásáról, valójában – ismerve a terrorizmus működési elvét és mozgatórugóit – azt kellene látnunk, hogy már rég robbant egy „vétlen” atombomba. De eltelt 25 év, és nem robbant. Mert akkor – bár halálos ellenségek voltak – mind a szovjet, mind az amerikai fél tudta, bomba van, de működtetéséhez olyan mechanizmusok kellenek, amelyek ezt (csaknem) lehetetlenné teszik. Ennek pont az a lényege, hogy ha be is következik katasztrófa, az lokális és főleg kontrollálható. Ha mégse, rosszul lett kitalálva. Ha jobbat nem tudtak (mert még nem találta ki az emberiség), akkor nem csinálták (mert ez is a mechanizmus része). És eddig működött, semmi okunk feltételezni, hogy – minden elképzelhető (de jószándékú) hiba ellenére nem lesz kontrollálható. Ez nagyjából ugyanúgy jön ki, mint ahogy a tudomány szerint isten léte nem bizonyítható, és az egy másik értelmezési tartomány, a hit része.

Tehát fenntartom, hogy a MI lehet ugyan bármilyen káros, de ez minden esetben az ember tulajdonságaiból következik, és ha kontrollálhatatlan, az mindössze azt bizonyította, hogy az ember működési elvében az önpusztító igény minden mást felülír. Ez nincs bizonyítva, tehát nem mondhatom, hogy hamis. Mindössze azzal a hipotézissel élek, hogy az ember működésénél hasznosabb az az állítás, hogy az önpusztítás igénye nem természettörvény, csak néhány tudatlan ember ostoba gondolata.

Az Extanthoz: mindig vannak az emberiségnek az adott pillanatban megválaszolhatatlan problémái. ÉS keresi a választ. Ha nem keresné, soha nem jutna el a válaszhoz. Asimow is többé kevésbé ezért írta regényeit. És mások, például annak idején Huxley. Nem feltétlenül adnak mindig helyes választ, sokszor nem is akarnak választ, csak problémát vetnek fel. Ez így jó! Gondolkodjunk, próbáljunk ki variációkat, amelyeken akár vitatkozni is lehet. Csak lehetőleg, míg nincs kiforrott válasz, filmekben tegyük. Régebben könyvekben. Ott lehet viszonylag következmények nélkül kísérletezni később abszurdnak tűnő válaszokkal is. Ez pontosan az emberi tanulás folyamata. Az idézett film egyeseknek jó, másoknak nem. De mindenképpen már létező problémát feszeget, ez tehát mindenképpen jó. Hogy filmtechnikailag, vagy mint néző, jónak tartom-e, az itt sokadlagos kérdés. A fontos, hogy van, hogy elgondolkodtat, és sok embert vitára késztet. Így lesz hasznos eredmény.

Aki ezt végigolvasta, köszönöm neki.

A robot szerszám, az AI entitás, a gép kifejezést kell meg vagy újra kell definiálnod, vagy az élet kifejezést kell kitágítanod (én az első mellett vagyok, az élet maga is csak egy gép).

Nem minden AI tudja, hogy ő az, és azt sem kell feltétlenül tudnia hogy egyáltalán létezik. A világ és én projekció sem kell valid legyen, mi nőttünk fel évilliók óta úgy, hogy a világ kívül van. Egy AI számára teljesen kivitelezhető modell, ha már feltéltlenül unalmas önvizsgáló tudattal kell bohóckodnunk, hogy "a világ én vagyok".

Nem kell teste legyen (megint egy rettentő beszűkölt emberi beidegződés), és nem kell hogy egyetlen teste legyen egyszerre, sőt ez taktikailag elég szar húzás is.

Éppen azért kell létrehozni ilyet, hogy mi magunk többé váljunk. Talán nem maradunk ugyanazok, de az evolúció már csak ilyen, aki nem változik, az elpusztul. Csak annyiban változik a játék, hogy nagyobb szerepünk lehet az evolúció irányításában (eddig is volt, csak a reakcióidő nagyon lassú, generációk százaiba kerül).

Csak a lokális vs globális problémáról:

AI-vel egyetlen jelentős gond lehet az eddigi, emberiséget veszélyeztető technikai dolgokkal, fegyverekkel szemben.

Azok, a fizikális károkozó fegyverek vagy szinte fegyverré vált fenyegetések (atomerőmű-balesetek pl.) valóban kisebb, vagy nagyobb méretben, de súlyosan valóban csak lokális veszélyt jelentettek.

Az AI, ha veszélyessé válik, nem fog lokális maradni. Nem kell fizikailag elérnie mindenhova.

Kiépítettük neki a globális, fénysebességű közlekedési útvonalat, amit még csak el sem tudunk rendesen barikádozni: úgy hívják, internet.

Egyébként, a saját véleményem az, még ha biztonsággal tudjuk, mekkora veszélyeket hordoz magában egy ilyen emberfeletti tudású, önálló és önállóan döntésképes mesterséges értelem létrehozása, akkor is meg fogjuk csinálni. És szerintem az emberiséget mozgató fő vágy miatt mindenképpen létre is akarjuk hozni.

Mi az ok?

Az ok: hogy egyedül vagyunk, mint értelmes lények. És egyedül lenni rossz. Keressük a másik értelmet. Mindenhol. A világűrben, a delfineknél, a süketnéma beszédet tanuló gorilláknál....

És ha nem találjuk, hát megteremtjük. Még ah meg is öl minket, meg kell teremtenünk.

Mert az értelem létezése talán fontosabb az ember létezésénél. Ha mi eltűnünk, az AI lesz helyettünk az értelem és ha az megmarad, az emberiség létezése nem volt "pusztába kiáltott szó".