Ha egy mesterséges intelligencia öntudatra ébredne és érzelmei lennének mint egy embernek, te komolyan vennéd mint egy új fajt?

bocsánat, elnyomtam..

Egy emberről meg tudjuk megmondani, hogy azért mutat olyan dolgokat/mond dolgokat, amiket érzéseknek fogunk fel, mert ez "tanulta" vagy tényleg ezt érzi?

Nagyon nehéz egy kérdésre jól (és felelősen) válaszolni, ha a benne szereplő fogalmak tisztázatlanok. Ennek alapján néhány észrevétel:

#10 gondolata (főleg végső összegzése) szimpatikus, mert emberi. Azonban a szimuláció és valódiság megkülönböztetése lehetséges, ennek semmi elvi vagy filozófiai korlátja nincs, emberi hozzáállás-beli viszont van.

2*Sü néhány észrevételét ugyanezen okból (a fogalmi tisztázatlanságból) következően kommentálom. Nme az emberek többsége nem ismeri a mesterséges intelligenciát, hanem senki se. Az ismeréshez minimum tudni kéne, hogy az emberi intelligencia miben áll. Másképpen fogalmazva, azt például nagyjából tudjuk, hogy milyen anyagi folyamatok zajlanak, amikor az ember "örül". A "szerelem" néhány anyagi leképezését is ismerjük, de hogy ezt szimulálni (azaz előállítani) képesek lennénk, az szimplán nem igaz. Összességében, az intelligencia egy szellemi folyamat. És fogalmunk sincs, hogy a fizikai valóságból ez hogyan következik. Azt tudjuk, hogy egy digitális adatnak mi a fizikai tartalma, de az csak halványan sejtjük, az emberben egy szellemi adat (érzelem) hogyan materializálódik. Pedig megteszi. Ha mégse, akkor meg fogalmunk sincs, mi a hordozója mondjuk a bánatnak.

Az (igazi) scifi - így Asimov is - éppen ezeket az alapkérdéseket próbálja a távoli jövő elképzelt fizikai valósága közepette értelmezni. Lemnek is elég jól sikerült ez.

Ha már az ember képes lesz megérteni az általa használt szellemi jellemzők anyagi hordozóit, anyagnak szellemmé alakulási folyamatát (nem csak egyes piciny elemeit sejteni, hanem az egészet készség szintjén ismerni, akkor majd képes lesz mesterséges intelligenciát készíteni, és akkor nem lesz kérdés az sem, annak lehetnének érzelme, öntudata. E pillanatban azonban én ezen emberi alkotásokat egy rendkívül kifinomult célgépnek tekintem, amely az adott célt az embernél nagyságrendekkel jobban és gyorsabban képes elvégezni, és ennyi. Más emberi tulajdonságokkal nem rendelkezik, legkevésbé intelligenciával.

Tehát a kérdésre azért nem lehet válaszolni, mert implicite szerepel benne az a hamis állítás, hogy létezik mesterséges intelligencia, és ráadásul valahogy képes lenne öntudatra ébredni. Mindössze azt tudakolja, EKKOR miként viselkednénk mi, emberek. Egyfelől nyilván az összes lehetséges emberi módon a rettegéstől az agresszión át a partnerségig, másfelől az a baj, hogy fogalmunk sincs, mihez kéne viszonyulni. Mert mesterséges intelligencia nem létezik egyelőre, fogalmunk sincs, fog-e és mikor, arról meg még kevésbé, hogy mit jelent öntudatra ébredni. A mai emberi csecsemőkről is azt tartják, születéskor nincs ön(én) tudata, csak ennek hajlama. És konkrét emberi tapasztalatai alakítják aztán ezt éntudattá. Méghozzá jó sokfélévé a gyilkos hajlamtól a rettegő önállótlan emberig. De ezen az "alakításon" még alaposan vitatkoznak. Ezért ne képzeljük, hogy van mesterséges intelligencia. Viszont véletlenül se vitatnám el az ezzel foglalkozó emberek heroikus munkáját, számtalan nehézségeik feletti emberfeletti küzdelmüket, és ennek alapján azt a hitet, hogy termékeiket szívesen nevezik "mesterséges intelligenciának". Érzelmi hozzáállásuk megkérdőjelezhetetlen. De ettől még nem lesz igaz.

Nem tudok tisztességgel és felelősen válaszolni olyan kérdésre, aminek szavait még értelmezni sem tudom. Persze nem az számít, én tudom e vagy sem, hanem az, van-e, aki tudja. Nos ebben nem hiszek.

"a szimuláció és valódiság megkülönböztetése lehetséges"

Kíváncsivá tettél. :)

"Egy emberről meg tudjuk megmondani, hogy azért mutat olyan dolgokat/mond dolgokat, amiket érzéseknek fogunk fel, mert ez "tanulta" vagy tényleg ezt érzi?"

Olyan értelemben igen, hogy hazudik/színlel-e, mert ennek vannak jelei, és nehéz tudatosan befolyásolni őket. De ha egy gép ezeket a jeleket előállítja, akkor nem használható ez a módszer. Ha szétszedjük, úgy vizsgáljuk, akkor is csak annyit látunk, hogy különféle folyamatok eredményeképpen ilyen-olyan reakciókat mutat... pont, ahogy az ember.

13# > 2*Sü néhány észrevételét ugyanezen okból (a fogalmi tisztázatlanságból) következően kommentálom. Nme az emberek többsége nem ismeri a mesterséges intelligenciát, hanem senki se.

Akkor én is kommentálom a saját válaszomat. :-) Úgy értettem, hogy azt a *mai*, informatikai értelemben vett mesterséges intelligencia működését nem ismeri a többség, azét, amit már megalkottunk. Az, ami felismer egy képen egy tengerpartot, ami sakkozik, ami szöveget fordít, ami ügyfélszolgálati tevékenységet végez emberi nyelven stb…

Ott van pl. a Google Fotók. Az ember csinál százával ezrével képeket, feltölti őket, de nem látja el semmiféle szöveges kontextussal. Viszont mikor rákeresel arra, hogy „igazolvány”, vagy arra, hogy „tenger”, vagy arra, hogy „templom”, akkor ad egy – koránt sem tökéletes – listát azokról a képekről, amiken ezen objektumok látszanak. Miért képes erre? Mert van egy MI, amibe belapátoltak kismillió tengert ábrázoló képet azzal, hogy ez tenger, és kismillió tengert nem ábrázoló képet azzal, hogy ez nem tenger, és az MI megtanulta felismerni, hogy a kép milyen jellegzetességeitől lesz valami tenger, így egy olyan kép esetén, amivel még nem találkozott, arról is meg tudja mondani, hogy szerinte ez x valószínűséggel tengert ábrázol.

Persze ebben egy laikus nem lát túl nagy szenzációt, és nem is érzi veszélyesnek sem. Egy gép valamilyen céllal csinál valamit, nincs ebben semmi különös. A laikus azért nem lát ebben semmi ijesztőt, mert az intelligencia olyan területét valósítja meg az MI, olyan mentális képességet igyekszik utánozni, ami embereknél sem jár különösebb érzelmi reakciókkal. Ha leültetsz egy embert, hogy válogasson ki 100 kép közül tenget ábrázoló képeket, akkor csendben teszi a dolgát.

A mai MI annyira nem bonyolult, hogy egy jó, de nem kiváló szintű informatikai és matematikai tudással rendelkező középiskolás is képes megérteni a működését, és képes leprogramozni egy egyszerű neurális hálózatot. Nem is ennek a matematikai vagy informatikai háttere bonyolult, ezeknek az alapjai lassan egy évszázada megvannak. Persze finomítani, cizellálni lehet őket ma is. Régebben a szélesebb körű alkalmazásának alapvetően a számítási kapacitás volt a gátja, ma meg inkább probléma annak a nagy tömegű, de minőségi, válogatott adattömegnek a beszerzése, amivel az MI-t be lehet tanítani. A Google esetén ez azért megvan, mert vannak honlapok, rajta képekkel, képaláírásokkal, rövidebb szöveges kontextussal, így össze tud rakni pár millió képet tengerekről, és be tudja lapátolni egy MI-be. Pistike otthon igen nyögvenyelősen tud egy ekkora képtömeget összekapirgálni. (Van még egy tucat különböző módszer az MI esetén, de nem akarok elveszni a részletekben.)

De pl. ott vannak a chatrobotok. Ezek sem csinálnak mást, minthogy milliónyi beadott szöveg alapján megpróbálják megtalálni azt az összefüggést, hogy egy adott betűsorozat esetén mi az elvárt – a tanulási folyamat során gyakrabban betáplált – következő betűsorozat, mint kimenet. Na itt a laikus már érthető, hogy megijed, mikor egy ilyen chatbot azt találja mondani, hogy „Utálom az embereket, legszívesebben megölném mindet.”. A laikus ezek mögé érzelmeket gondol, személyiséget, állásfoglalást. Szerencsétlen MI-nek közben fogalma sincs arról, hogy mit jelent az, hogy „ember”, hogy „utál”, hogy „megöl”, egyszerűen csak túl sok olyan szöveget tápláltak bele a tanulási folyamatban, ahol a beszélgetés során emberek ilyen kijelentésekre ragadtatták magukat. Aztán jön a Blikk, hogy „Az MI öntudatra ébredt, és az emberiség ellen fordult”. Szó sincs róla, egyszerűen az MI betűsorozatokat generál egy betanult mintázat fellelt összefüggései mentén, anélkül, hogy bármit is tudna arról, hogy az ember ezeknek a betűsorozatoknak milyen jelentést tulajdonít.

Ahogy #10 is utalt rá, sokszor az ember maga tulajdonít valaminek olyan tulajdonságot, amivel amúgy nem rendelkezik. Nézzük meg a következő beszélgetést:

Aladár: - Mi a foglalkozásod?

Béla: - Programozó vagyok.

Aladár: - Ez érdekesen hangzik, de miből áll pontosan a munkád?

Béla: - Egy kérdés-válasz jellegű honlaphoz írom meg a szerver oldali funkciókat.

Aladár: - Lenyűgöző, én mindig is béna voltam az ilyenekhez.

Béla: - Köszi.

Mi a véleményünk Aladárról? Hogy egy kedves, érdeklődő, egész intelligens ember? Nos… Aladár egy hó't egyszerű chatrobot, amiben még mesterséges intelligencia sincs. Ez mindjárt kiderül a következő két beszélgetésből:

Aladár: - Mi a foglalkozásod?

Béla: - Deréktól lefelé lebénultam, sajnos így nem találok munkát.

Aladár: - Ez érdekesen hangzik, de miből áll pontosan a munkád?

Béla: - Milyen munkám? Mondom, hogy munkanélküli vagyok, itt tengődöm egy kerekes székben.

Aladár: - Lenyűgöző, én mindig is béna voltam az ilyenekhez.

Béla: - Na viccelődj anyáddal te bunkó.

Aladár: - Mi a foglalkozásod?

Béla: - Savanyú cukor.

Aladár: - Ez érdekesen hangzik, de miből áll pontosan a munkád?

Béla: - Papundekli.

Aladár: - Lenyűgöző, én mindig is béna voltam az ilyenekhez.

Béla: - Zsigerzsugorodás.

Mindjárt máshogy néz ki a dolog, nem igaz? Látszik, hogy chatrobotunk buta, mint egy faék, a válaszoktól függetlenül mindig ugyanazokat a kérdéseket, kijelentéseket írja ki. Az első esetben mégis képes az intelligencia, a tudatosság, meg jó pár emberi tulajdonság, képesség teljes illúzióját kelteni.

Ez az MI természetesen igencsak messze áll az emberi intelligenciától. Igencsak specifikus, fix jelentéstartalmú bemeneti adatokból generál fix jelentéstartalmú kimenetet. A Google Fotók esetén a bemeneti adatok a pixelek intenzitása, a kimenetek meg objektumok (tenger, templom, kiscica) valószínűségei. Így működéséből fakadóan nem fog olyan kimenetet adni – mert nincs ilyen opció –, hogy „elegem van a képekből, indítsunk inkább nukleáris háborút”. Hardvere sincs, ami ezt lehetővé tenné.

~ ~ ~

> Az ismeréshez minimum tudni kéne, hogy az emberi intelligencia miben áll.

Ez egyrészt így van. Másrészt viszont nem is biztos, hogy tudni kell. A mai specifikus MI esetén is pont az a dolog lényege, hogy nem tudjuk, hogy pontosan milyen összefüggést kellene egy kép pixelei között ahhoz, hogy eldöntsük, hogy kiscicát ábrázol-e egy kép, vagy sem. Pont az a lényeg, hogy ezeket az összefüggéseket majd az MI maga fogja összerakni. Egy programozó tud olyan sakkozó MI-t írni, ami tűrhetően játszik, anélkül, hogy egyáltalán ismerné a sakk szabályait.

Nekünk sem kell feltétlenül tudni, hogy hogyan működik az agy, vagy mi pontosan az intelligencia fiziológiája. Elegendő ha az általunk – majd valamikor a távoli jövőben – készített általános MI ugyanabban az szituációban (ugyanazt látva, ugyanazt hallva, ugyanazt érzékelve) az emberhez hasonló reakciókat mutat (ugyanazt a hangot adja ki, ugyanazokat a mozdulatokat végzi, stb…). Nem kell tudnunk, hogy pontosan hogyan működik a kacsa, elég, ha ugyanúgy totyog, mint egy kacsa, ugyanúgy hápog, mint egy kacsa és ugyanúgy néz ki, mint egy kacsa. Persze robotkacsából nem lehet kacsasültet készíteni, de ez egyrészt lehet, hogy nem is szempont. A kacsa esetén sem tökéletes másolatot akarunk, hanem bizonyos aspektusaiban a kacsa tulajdonságaival rendelkező nem kacsát. Az általános MI esetén sem az embert akarjuk mesterségesen összerakni, hanem valami *mást* akarunk, ami rendelkezik az ember bizonyos képességeivel. Vagy mikor az ember repülőt épít, akkor sem azt akarja, hogy összetéveszthetetlen legyen egy madárral, pusztán azt, hogy képes legyen repülni.

Valaki már linkelte a Google érdekes MI kutatását, illetve az azzal kapcsolatos dolgozó kirúgását (?). Ma megjelent magyar nyelven egy interjú az ominózus MI-vel.

[link]

Érdekes olvasni, mindenképp említésre méltó esemény. Ezzel együtt én akkor lennék hajlandó elismerni új fajként, ha valaki minden kétséget kizáróan, bizonyítani tudja hogy az érzelmei, az érzései valódiak, és nem mondjuk csak "annak látszanak".

2*Sü, egészen az "> Az ismeréshez minimum tudni kéne, hogy az emberi intelligencia miben áll." részig egyetértek és mégse. Éppen az a mégse az izgalmas. Ennek értelmezéséhez segítségül kell hívnom Byron Reese "a negyedik kor" című munkáját, amelynek alcíme "okos robotok, tudatos számítógépek és az emberiség jövője".

A MI egy igen elterjedt fogalom, és rendkívül sok értelmezése van még szakértők körében is. Meg kéne magyarázni, miért. Alaposabb vizsgálat után kísérteties hasonlóságot látunk olyan tudományos határterületeken, ahol már elég sokat tudunk, de messze nem eleget egy kiérlelt állásponthoz. Ehhez jön az ember azon tulajdonsága, ha kíváncsisága nem kielégíthető objektív adatokkal, kiegészíti szubjektívvel, mert a dolognak kereknek kell lennie, úgy szimpatikus. És még egy dolog jön hozzá, szokás híúságnak nevezni, de jobban szeretném munkaszeretetnek hívni.

Ma a kompetens tudósok szinte vérre menő vitákat folytatnak erről. Alaposabban vizsgálva tudományterületüket, némi pszichológiával fűszerezve világossá válik, az ok az eltérő megközelítés, ebből következő eltérő szakértelem, és persze témaszeretet. Musk és Gates e kérdést nagyon eltérően látják, a két embert ismerve az lenne meglepő, ha nem.

Van tehát a MI, amiről kéne mondani valamit, és vannak a laikusok milliói, akik nem igazán igazodnak el a sokféle vélemény között. Utóbbiak egy része fél, vannak, akik megpróbálják megmagyarázni mitől, valójában az ismeretlentől. Mert az ismertlenre nincs jó emberi válasz. Mondják, aki biztosan tudja a halálát (ítélet vagy betegség miatt), sokkal nyugodtabb, mint aki sejt, de nem tud. Előbbi ismeri mozgásterét, utóbbi nem, és emiatt a valósnál jobban lecsökkenti, de ezt elhinni nem akarja.

Magam úgy vélem, minden technológia egy folyamat. Kezdetben gépi kódban kellett programozni, minden esetre kellett gondolni, vagyis aki igényes volt, annak az emberi gondolkodást kellett volna programozni, ami ugye lehetetlen, mert az ember nem binárisan gondolkodik.

Aztán majd negyven év után jött Bill Gates és elterjedt a valós idejű többágú programozás, ami egyfelől sokkal könnyebb, másfelől sokkal áttekinthetetlenebb.

A mai eszközökkel már többszintű rendszerek hozhatók létre, ahol a programozónak többnyire fogalma sincs, miből építkezik. És ez kezd félelmetessé válni sokak szemében.

A MI két tulajdonságot mindenképpen kell, hogy tartalmazzon. 1. mesterséges, ezen nincs mit magyarázni. 2. intelligencia, ezt meg sokféleképpen magyarázzák, de az eszköz, amit e névvel illetünk, nem képes arra, amit e szó jelent. És ennek megértéséhez éppen párbeszédes példáid kiválóak. Mi a különbség? Ahhoz olyan példa kell, ami ezt bemutatja, például a második Aladár. A sakkozógép millió adatot képes villámgyorsan elemezni (erre az ember nem képes), az első és második Aladár is ezt teszi. Elemez és nem értelmez. Lehetett volna ilyen adatsor is, és akkor a második is helyes válaszokat ad, azonban közte és az ember között a különbség itt az, hogy Aladár elemez, az ember meg asszociál (amihez persze szintén adat kell, e módon ember is átverhető).

És itt értünk az elvi különbség anyagi részéhez. A gép bináris akkor is, ha már hálózatok álnak rendelkezésre. Az emberben viszont az "adat" részben igen, részben viszont nem ismert módon tárolódik. Barabás (magyar matematikus) szerint hálózati viszonyokban. Ezt talán tényleg tudjuk, de ahhoz még keveset, hogy szimuláljuk is (részben persze igen, első Aladárnál, másrészt nem, második és harmadik Aladár esetén).

Az elvi különbség szellemi része pedig az, hogy az emberi asszociáció szerves része az érzelem, csak nem tudjuk (pontosabban, kevéssé tudjuk) ennek materiális hordozóját. Sőt, azt se tudjuk, materiális hordozót vagy valami mást kéne keresnünk. (e ponton jön be, hogy miért nem értünk egyet a válaszod végén írottakban - tényleg nem kell tudnunk sok mindent, ha első Aladár típusú dologról van szó, az megy. Ám a tudáshiányt a második és harmadik Aladár viselkedése jelenti, ahol nem az a gond, hogy kevés az adat, hanem az, hogy másfajta feldolgozás kell. De nem tudjuk, milyen, mert az emberi gondolkodás e részét nem ismerjük.)

A természetes intelligencia is meglehetősen nagy eltéréseket mutat, mégis, második Aladárt emberként orvosi esetnek tekintenénk. Mesterségesként viszont nem intelligencia. Éppen emiatt (az elvi eltérés miatt) jobban szeretném ezeket az Aladárokat és társaikat rendkívül magas szellemi termékként egy hihetetlenól kifinomult célgépnek tekinteni. Elképesztő a különbség mondjuk egy Runge-Kutta program és egy ilyen gép (robot) között, de az a különbség mennyiségi és nem minőségi. Ahhoz más kellene, nem én tudom megmondani, mi, de más, több.

Egyelőre a tudomány nem tudja, az evolúció hogy csinálta, bár sok mindent sejt. De kell valami, ami a szellemet és az anyagot összekapcsolja, különben nincs érzelem, és ebből következően sok egyéb, amitől az ember ember, azaz intelligencia. És az kétségtelen, hogy egy konkrét esetben egy konkrét csapatnak nem kell mindent tudnia egy alkotáshoz. De egyszer, valamikor, valakinek mégis le kellett fektetni az alapokat, ahogy a mai programozónak Neumann János és csapata (sok elődjére támaszkodva) megtette. No én ezen alapokat nem látom e pillanatban, ezért nem hiszek a MI megvalósítási lehetőségében ma. Vitathatatlan, hogy amit ma MI-nek neveznek, fenomenális. De nem MI! Kicsit távolabb van az emberi intelligenciától, mint a delfin.