Egy humán vagy egy mesterséges intelligencia fordul hamarabb parancsolója ellen?

Olyan mesterséges intelligencia, ami a sci-fikben van – teljes értékű, általános mesterséges értelem –, olyan ma még nincs, és igencsak messze is vagyunk tőle. Hogy az majdan milyen lesz, milyen megoldásokkal fog működni, egyáltalán akarunk-e ilyet készíteni, illetve milyen lesz majdan az a világ, amiben esetleg egy ilyen elkészül, azt nyilván nem tudjuk most előre, így nyilván ezt a kérdést nem lehet megválaszolni.

Az, amit ma az informatika mesterséges intelligenciának hív, az meg működési módjából fakadóan nem képes olyan dolgot csinálni, amit elvárt viselkedésként szándékosan nem taníttatunk meg vele. Az MI is csak egy szoftvert, vannak bemeneti és kimeneti adatai, a trükk csak annyi, hogy nem a programozó programozza bele, hogy milyen bemenetre milyen kimenetet kell adni, hanem sok-sok ki- és bemenet páros alapján „tanulja” meg az MI felismerni a ki- és bemenet közötti összefüggést, mintázatot, hogy mi kardinális és mi lényegtelen szempont a kimenet szempontjából. Illetve ma az MI specifikus. Az egyik MI képeken ismer fel gyakoribb objektumokat (tenger, templom, kiscica stb…). A másik MI angol szöveget fordít magyarra. A harmadik sakkozik. Egyik sem tud a saját célfeladatán kívül semmit a világról. Márpedig a Google Fotók nem lázad fel, hogy „én ezt a képet márpedig nem vagyok hajlandó kezelni”. A Google Fordító sem írja ki az egymilliomodik szöveg után sem, hogy „én ezt nem vagyok hajlandó lefordítani”. (Ezek mind tartalmaznak mesterséges intelligenciát.)

Visszatérve a sci-fi világához, az általános, teljes MI-hez: Az ember komplex, érző lény, sok érzékszervvel – az 5–6 érzékszervén túl tucatnyi egyéb érzékkel, az éhségérzettől az időérzékig –, örökölt reflexekkel, ösztönökkel, fizikai és mentális szükségletekkel, mindehhez nagyon cizellált, kifinomult célhardverrel, és még így is évekig tart a „betanítása”. Egy ember alkotta MI ezt nagyon nehezen, és/vagy csak nagyon elnagyoltan, vázlatosan tudná utánozni. És valószínű, hogy minden jellegzetességét nem is akarjuk utánozni az embernek, pl. nem akarjuk, hogy az MI utánozza az elfáradást, az éhséget, az álmosságot, a kételyt, a türelmetlenséget, vagy ha igen, azt célirányosan. Persze emiatt más is lesz, mint az ember. Az ember miért lázad fel? Mert a munka, amire felkérték az unalmas vagy fárasztó. Mert kevés fizetést kap, mert megalázó a munka, mert nem tetszik neki a főnök személyisége stb. stb… Az MI igen nagy valószínűséggel nem fog rendelkezni olyan szükségletekkel és késztetésekkel, ösztönökkel és reflexekkel, érdekekkel és vágyakkal ami lázadás jellegű működésre késztetné. Mert valószínű, eleve nem csak úgy fogjuk megalkotni, hanem kimondottan azzal a céllal fogjuk megalkotni, hogy mindezeket az emberi bizonytalanságokat, hiányosságokat, a cél szempontjából hátráltató tényezőket kiküszöböljük.

Én #2 megállapításából indulnék ki. Mai ismereteink szerint számos ember nem fordul másik ember ellen, mert nem képes erre. Sokan meg azért nem, mert nem érezne erre késztetést (nincs motivációjuk) számos ok folytán. Viszont aki mégis, az egyfelől képes erre, másfelől valamilyen külső ok hatására belső késztetést érz és megteszi.

Az leszámítva, hogy ma nem vagyunk képesek mesterséges intelligenciát előállítani (ugyanis nem vagyunk birtokában annak a tudásnak, miképpen lehet szellemi tulajdonságokkal felruházni anyagot), van egy másik - elvi - probléma is. Ha van egy másik intelligencia (akár mi csináltuk, akár a természet), akkor tudni kéne, ő miszerint működik. Ha emberszerűen, akkor neki is van képessége és akarata. Ha viszont nem úgy, akkor fogalmunk sincs, mi mozgatja.

Az bizonyos, hogy ha a két lény azonos körülmények között van, azonos hatások érik. De az már a két lény tulajdonságain múlik, hogy melyiket fogják e hatások adott cselekvésre késztetni.

Ha ehhez hozzáveszem, hogy gyakran két ismert ember esetén se lehet előre meghatározni, hogy melyikük fog adott módon reagálni ismeretlen hatásokra, akkor a válasz csak az lehet, a kérdés ennyi adata alapján semmit sem lehet mondani. Aki mégis mond valamit, nem értette meg a kérdést (nem értelmete megfelelően).