Mit gondoltok, inkább előny vagy hátrány, hogy a mesterséges intelligencia fejlődése még az exponenciálisat is meghaladja?

"2*Sü" barátunk hajlamos úgy gondolkodni, mint azok, akik a természetet és/vagy az embereket birtokolható tárgyként kezelik.

Mint ahogy ez a tárgyiasítás a múltban is már sokszor visszaköszönt, annál inkább - és ráadásul sokkal meghatározóbb módon - majd visszaköszön a mindent lassan leuraló infoszféra is!

> "2*Sü" barátunk hajlamos úgy gondolkodni, mint azok, akik a természetet és/vagy az embereket birtokolható tárgyként kezelik.

Az embereket? Miért is? Csak mert tárgyként kezelek valamit, ami tárgy? Nem én tárgyiasítom az embert, hanem te antropomorfizálsz egy szoftvert.

~ ~ ~

Vegyünk egy majd lentebb részletezett működésű társalgó alkalmazást:

Gép: - Mi a foglalkozásod?

Ember: - Asztalos vagyok.

Gép: - Hű, ez érdekesen hangzik. De miből áll a munkád?

Ember: - Egyéni megrendelésre készítek jellemzően bútorokat, [stb…]

Gép: - Fantasztikus. Én mindig is béna voltam ehhez.

Mi az élményed? Nyilván az, hogy ez a gép kedves, érdeklődő, hogy lenyűgözőnek tartja a szakmádat stb… De nézzük meg ennek az alkalmazásnak egy másik beszélgetését:

Gép: - Mi a foglalkozásod?

Ember: - Munkanélküli vagyok.

Gép: - Hű, ez érdekesen hangzik. De miből áll a munkád?

Ember: - Mondom, hogy munkanélküli vagyok, egy baleset miatt kerekesszékbe kényszerültem és nem találok munkát.

Gép: - Fantasztikus. Én mindig is béna voltam ehhez.

Mi az élményed? Gondolom az, hogy ez a gép érzéketlen, gúnyolódik rajtad…

Pedig mindezt az az ember teszi mögé, aki nem ismeri a program működését. A szoftver valójában egy faék egyszerűségű chatbot, ami a beszélgetés egy véletlenszerű pontján kiírja ezt a három sort, bármit is ír be a beszélgetőpartner. Nem is értelmezi azt, amit beírsz, egyszerűen csak kiírja ezt a három betűsort.

~ ~ ~

A ChatGPT lényege az, hogy megjósolja egy szövegben a szöveg következő szavát. Valójában a szavakat, ragokat, szótöredékeket tokenekre (számokra) alakítja át, és ennek a számsornak a következő elemét próbálja kitalálni és kiírni az ennek megfelelő szót, betűsort. A betanítás során megtanulja, hogy melyik szót melyik szó szokta követni, melyik szó milyen távolságra van egy másik szótól. Így aztán miután megalkotta a választ addig, hogy „A banán színe”, tudja, hogy ezt a lehető legritkább esetben szokott egy szöveg a „kék” szóval folytatódni. A legtöbbször a „sárga”, bizonyos – jelenleg fenn nem álló – kontextusban esetleg a „zöld” szó. Nyilván ennél azért picivel – de tényleg csak picivel – bonyolultabb a működése, vannak még itt trükkök, de a működésének a gerince, lényege ez.

Pl. az egy külön trükk, hogy ezt a „következő szó előrejelző” szoftvert sikerült úgy alakítani, hogy látszólag kérdésekre, utasításokra válaszol. (Nota bene a ChatGPT korai verziói kényszeresen megismételték a kérdés kulcsszavait, hogy legyen egy alap szöveg, amit folytatni lehet. Ha megkérdezted, hogy „Mi Franciaország fővárosa?”, akkor nem azt válaszolta, hogy „Párizs”, hanem azt, hogy „Franciaország fővárosa Párizs”.)

Mivel annyiféle tokent kezel a rendszer, és akkora méretű adathalmazzal tanítottuk be, ezért az eredmény roppant meggyőző. Tényleg képes komplett esszéket írni egy adott témáról, vagy komplex feladatok megoldását legenerálni. De ettől ez még szöveggenerálás marad.

Egy laikus, az MI működését nem értő ember egy raklap olyan tulajdonsággal ruházza fel, amivel nem rendelkezik. A ChatGPT nem gondolkodik, nincsen személyisége, nincs véleménye, nincsenek vágyai, tervei, nincsenek érzései, ízlése, nincs öntudata stb… Mindezt csak mi gondoljuk, érezzük mögé az alapján, amit *számunkra* az általa legenerált betűsor jelent. Valójában ezek nem az MI tulajdonságai, hanem a mi percepciónk, élményünk tulajdonságai.

Van egy raklap MI, aminek a forráskódja nyílt és relatíve kisebb a hardverigénye. Ezeket letöltheted, betaníthatod a saját adathalmazoddal, bármikor elindíthatod, leállíthatod. Nem embertelenség ez, mert nem egy embert, hanem egy szoftvert piszkálsz. Bármennyire is hasznos és hatékony az a szoftver.

2*Sü - bár a véleményeddel nem értek egyet - de a gyermeteg naivitásodat csak csodálni tudom! Egyáltalán honnan veszed, hogy egy kutatócsoport által pallérozott MI nem képes ugyanolyan komplex és valóságalapú gondolati sémákkal dolgozni, mint egy emberi agy?

Mellesleg ez alkalommal azt is megkérdezném, hogy láttad-e ezt a filmet:

[link]

> honnan veszed, hogy …

Programozó vagyok, írtam már ugyan neurális hálót, de nem vagyok a terület szakértője, nem ezen a területen programozok. Viszont mind a technológia, tudomány iránt érdeklődőként, mind informatikusként olvastam szakmaibb írásokat, néztem előadásokat, eléggé jó rálátásom van arra, hogy hogyan működik az MI, mik a fejlemények és mik a kihívások ezen a területen.

> egy kutatócsoport által pallérozott MI nem képes ugyanolyan komplex és valóságalapú gondolati sémákkal dolgozni, mint egy emberi agy?

Ezek így eléggé aluldefiniált fogalmak. Bizonyos szempontból az MI-nek vannak komplex gondolati sémái. Bizonyos szempontból pedig nincsenek.

Én nem tudom megmondani, hogy mit jelent az öntudat. De hogy a mai MI-k nagyon-nagyon messze vannak ettől, az bizonyos. Az MI egy szoftver, ami egy adott bemenetre egy kimenetet generál. Tudod mit csinál akkor, ha nem kap bemenetet? Azt, amire az ember képtelen, de amit egy Excel is csinál, ha magára hagyják: semmit.

~ ~ ~

> Mellesleg ez alkalommal azt is megkérdezném, hogy láttad-e ezt a filmet:

Nem láttam, de ahogy nézem, ez egy dokumentumfilm, a középpontban Kurzweil gondolataival. Kurzweil nevével, meg a technológiai szingularitás fogalmával szerintem találkozott az, aki egy kicsit is informálódott a témakör iránt.

Én erősen szkeptikus vagyok ezzel a technológiai szingularitással. Anno Londonban is hatalmas problémákat jeleztek előre, mert a lovaskocsik száma egy időben exponenciálisan kezdett növekedni, és mi lesz, ha mindent elönt a lócitrom. De aztán máshogy lett a dolog. Anno a gének felfedezésekor is, az első sikeres klónozásnál is előre jelezték, hogy itt mekkora fordulatok várhatók. Egyenlőre nem történtek meg és a jogi szabályozás miatt bizonyos elképzelések nem is fognak. Vagy mikor feltalálták a pásztázó elektronmikroszkópot, akkor is azt vizionálták, hogy eljött a nanotechnológia kora, majd atomi méretű gépek fognak dolgozni mindenhol. Aztán kiderült, hogy drágább és macerásabb ez, mint amennyi haszna van, nincsenek ma sem nanorobotok.

Az, hogy egy folyamat egy adott szakaszában exponenciális természetű, az egy dolog. Egyáltalán nem következik belőle, hogy úgy is fog továbbhaladni. Sőt az emberiség történelme során számos olyan folyamat volt, ami egy ideig exponenciális természetűnek tűnt, aztán lineárissá vált, majd ellaposodott, végül stagnálás vagy éppen hanyatlás következett. Mert rendszerint van valami korlát, ami megállítja a folyamatot és az a bizonyos szingularitás soha nem következik be. Mondok egy példát, az autók száma is volt idő, mikor exponenciálisan növekedett. Ki lehetett volna belőle számolni, hogy mikor fogja a Föld felszínének minden egyes pontját autó borítani. De nyilván van itt egy korlát, az emberiség népessége. Az autók száma – mondjuk Magarországon – emiatt bár exponenciális növekedéssel indult, de ma a platózás szakaszában van. A legtöbb folyamat így néz ki: [link]

Mi lassan – némi túlzással – a fél internetet beadtuk tananyagként az MI-nek. Innen nincs folytatás, elfogyott a betanításul szolgáló anyag. Márpedig az MI-nél nem annyira az algoritmusokon van – azokat már elég jól kidolgozták a 60-as, 70-es években, és azóta csak csiszolgatjuk őket, de hatalmas paradigmaváltás nem volt –, hanem a betanításhoz szükséges adathalmazon. A 2000-es években már lett volna elég számítási kapacitás egy ChatGPT-hez. Adat nem volt elég hozzá.

Ráadásul ott az adattisztaság kérdése. A netet ellepik jelöletlenül az MI által generált tartalmak. Sok helyről hallott példát hozok, eddig az MI megtanulta, hogy hogy néz ki a Balaton. Mi meg generálunk vele egy csomó képet, amin pl. cápák vannak a Balatonban. Jópofa. De mit fog a következő generáció MI megtanulni a netről összegyűjtött képekből? Hogy a cápa őshonos faj Magyarországon és a Balatonon? Most, hogy jelentős mértékű az MI által generált tartalom, sokkal nehezebb lesz tiszta, hiteles adathalmazt összelapátolni.

Lehet még persze játszani azzal, hogy magunk állítunk elő adatokat. Bizonyos területeken ez működhet, de máshol komoly problémát okoz. Tegyük fel, hogy egy MI 90%-os valószínűséggel ismer fel egy kutyát egy képen. Tegyük fel, hogy valamiért a pulit nem képes kutyaként felismerni. Ha most megfordítjuk vele a folyamatot, és az MI-vel generáltatunk kutyás képet, akkor olyan képeket fog generálni, amik pont ebbe a 90%-ba esnek, azaz a képen nem nagyon lesznek pulik. Hiába lesz százszor annyi kutyás képünk, ha abból a hiányosságait tanulja el újra egy következő MI, és ugyanúgy nem ismeri fel kutyának a pulit.

Lehet még trükközni, pl. konkurens MI-ket vitáztatni ahhoz, hogy jobb válaszokat kapjunk és hasonlók, de nagyjából a plafon környékén vagyunk lassan, komoly és hosszabb távon sem megoldható akadályt kellene megugorni ahhoz, hogy jelentősebb fejlődést érjünk el.

Lesz persze fejlődés, meg lesznek újdonságok, de abban is biztos vagyok, hogy az MI minőségi fejlődése lelassul, sokkal inkább a specializált tudású MI-kre kerül a hangsúly, de azok az élet minden területére be fognak épülni. Részben már meg is történt, van egy raklap specializált MI, ami a háttérben végzi a munkát, levélszemetet ismer fel, kulcsszavakkal kereshetővé teszi a felhőbe – mondjuk a Google Fotókba – feltöltött képeinket stb…

2*Sü - látom nem vagy képes továbbgondolni bizonyos dolgokat. Nincsenek nanorobotok? Hát a számítógépeinkben tevékenykedő virtuális gépek voltaképpen micsodák? Ezek munkája tán nincs óriási kihatással a makrovilágunkra? Óriási a kihatásuk!

Arra nem gondolsz, hogyha a viszonylag jól szabadjára engedett "mesterséges" számítási kapacitás sok nagyság-rendel meghaladja a biológiait, akkor abban törvényszerűen megjelenik a biológiainál sokkal hatékonyabb szuper-intelligencia?

Ajánlok még egy filmet, melyet igencsak bődületes baromságnak tartottam, amikor gyermekkoromban a TV leadta. Ma már megdöbbent, hogy milyen nyílt gondolkodású emberek hozták létre ezt az igazán zavarba ejtő szellemiségű filmet:

[link]

🤔

Amúgy kedves 2*Sü - nem aggódsz néha, hogy valaki titokban kettyinti a feleséged? Na, talán majd ez után a film után!

😆

> Nincsenek nanorobotok?

Ne keverjük a nanorobotokat a nanotechnológiával, pláne azzal, hogy valaminek nanoméretű struktúrája van.

A nanorobot egy ember tervezte, ember építette, alapvetően mechanikai működésű robot, ami nanométeres méretnagyságrendű alkatrészekből (motor, csapágy, kar stb…) áll. Mondjuk olyan robotok, amik egy ivóvízhálózatban képesek felismerni és behegeszteni a mikrorepedéseket. Vagy képesek a véráramban egy adott hatóanyagot az általunk meghatározott célhoz eljuttatni.

Na ilyenek nincsenek. Persze vannak kutatások, meg minden évben jelennek meg cikkek áttörésről, meg a tömeggyártás esetleges lehetőségéről, de valójában az élet egyetlen területén sincsenek általánosan használatban nanobotok.

Valamikor a 30-as évek végén találták fel a pásztázó elektronmikroszkópot. Már akkor is pedzegették, hogy ezzel a módszerrel nem csak az anyag atomi méretű letapogatását lehetne megoldani, hanem egy kristályrácsban egy konkrét atom kicserélését egy másik atomra.

A 90-es években ez már reális lehetőséggé vált. Jött is a sci-fi irodalom, és megjelent a nanorobot, nanobot kifejezés. Mikor sikerült ténylegesen kicserélni egy atomot egy kristályrácsban, akkor jött a jövőlátás, hogy pár év – de maximum 10 év – és nanorobotok fognak körülöttünk szorgoskodni. A valóság meg az lett, hogy 15–20 évvel később odáig jutottunk, hogy az IBM csinált egy stop motion filmet. Lásd: https://www.youtube.com/watch?v=oSCX78-8-q0 . (Figyelem, ez nem „rajz”, ezek ténylegesen atomok úgy, ahogy azt egy elektronmikroszkóppal meg lehet figyelni.)

Azóta eltelt 10 év, de a nanorobotok még továbbra is a távolabbi jövő részét képezik, ma sem szorgoskodnak körülöttünk nanorobotok. Miért? Mert a linkelt film 242 képet tartalmaz, de 14 napig tartott az elkészítése, -268 ˚C-ra kellett lehűteni hozzá az anyagot, és kellett a létrehozásához egy sokmillió dolláros eszközpark. A „meg tudjuk csinálni” és a „kifizetődő megcsinálni” között meg elég nagy a különbség.

~ ~ ~

> Hát a számítógépeinkben tevékenykedő virtuális gépek voltaképpen micsodák?

Őőő… Tudod egyáltalán, hogy mit jelent az a fogalom, hogy virtuális gép?

~ ~ ~

> Arra nem gondolsz, hogyha a viszonylag jól szabadjára engedett "mesterséges" számítási kapacitás sok nagyság-rendel meghaladja a biológiait, akkor abban törvényszerűen megjelenik a biológiainál sokkal hatékonyabb szuper-intelligencia?

Ez nem törvényszerű. A számítási kapacitás csak egy aspektusa a témának.

De újabb példa, nézzük meg az űrhajózás történetét:

- 1957: Az első föld körüli pályára állt műhold (Szputnyik–1).

- Ugyanebben az évben: Az első élőlény az űrben (Lajka kutya a Szputnyik-2-n.)

- 1959: Az első ember alkotta tárgy, ami elérte a Hold felszínét (Luna-2).

- 1961: Az első ember az űrben.

- 1965: Az első űrséta.

- 1968: Először kerülte meg ember a Holdat.

- 1969: Holdra szállás.

Ez aztán a fejlődés. Mi volt az emberek többségének, meg egy raklap sci-fi írónak, sőt egy csomó kutatónak, tudósnak a jövőképe? Hogy az ezredfordulóra már legalább egy lakott holdbázis lesz, meg menetrend szerinti járat a Föld és a Hold között. Nézd meg a 70-es évek sci-fi irodalma milyen jövőképet festett fel a 2000-es évekre.

Mi történt ehhez képest? Az első holdra szállást a fél világ élőben követte. Az utolsó három küldetést meg törölték, de az utolsó sikeres holdraszállást már a helyi kábeltévé sem volt hajlandó élőben közvetíteni, mert egy random B kategóriás szappanopera epizódtól is nagyobb nézettséget vártak.

Nem hogy holdbázis nem épült, de még a Holdra sem tértünk vissza. Az addigi exponenciálisnak tűnő fejlődés lelassult, beleütközött egy korlátba. És ez a korlát nem technológiai természetű volt. Nyilván el tudtunk volna jutni újra a Holdra, megvolt hozzá a technológia, sőt a technológia rohamléptekben fejlődött is. A korlát nem technológiai, hanem pénzügyi természetű volt. El lehetett volna újra jutni a Holdra, csak éppen senki nem volt hajlandó ezt finanszírozni. Az USA-nak másra kellettek anyagi források, magánbefektetők meg nem látták, hogy hol térülne meg az ebbe befektetett pénz.

Nyilván az űrkutatás nem állt meg teljesen, megépült a Mir, majd a Nemzetközi Űrállomás, szondákat juttattunk el más bolygókra, holdakra, meg rovereket a Marsra stb… A fejlődés nem állt meg, de teljesen más irányba kanyarodott, mint ahogy azt a 70-es években elképzelték, és továbbra sem tudsz jegyet venni a menetrend szerinti Föld-Hold járatra és jó ideig nem is nagyon fogsz. Amit meg a 70-es években dilemmákat felvetettek az elképzelt 2000-es évekről, azok meg teljesen irrelevánssá váltak, teljesen más dilemmák, problémák állnak fenn ma ezen a területen, mint amit a 70-es években boncolgattak.

~ ~ ~

A ChatGPT-vel és társaival is az a gond, hogy jelenleg öntik bele a pénzt, azért tud működni. De pár hónapja jelentették be a ChatGPT Pro-t, ez már havonta 200 dollárba kerül – ami azért már nem kevés, az kb. 80 000 Ft havonta –, és az OpenAI beszámolója szerint így is veszteséges az üzemeltetése. Még éppen hogy csak kísérletezünk az MI-vel – egy áltag felhasználó nem hogy nem folyamatosan nem használja, de napi szinten sem –, de már most akkora a fogyasztása, hogy komplett atomerőművet kapcsoltak vissza miatta. Lehet, hogy ez most így az támogatásból finanszírozva ingyenesen is használható, de valójában hatalmas energiaigénye, fogyasztása, így eléggé borsos ára van az MI használatának.

Így is számos kihívás és eléggé fejvakarós probléma van az MI továbbfejlesztése körül (adatmennyiség, adattisztaság, felelősségi kérdések, szerzői jogi kérdések, a felhasználók bizalmatlansága a technológia iránt, etikai kérdések).

Már két éve is olyan állító kérdések jelentek meg itt a GYK-n, hogy majd 1–2 év, és az MI elveszi a programozók munkáját. A programozók meg köszönik szépen jól vannak, a verseny nem az MI és a programozók között van, hanem ha van is, akkor maximum az MI-t használó és az MI-t nem használó programozók között. Lehet, hogy technológiailag egyszer eljutunk oda, hogy egy MI képes lesz egy nem teljesen kezdő programozó munkáját is kiváltani, de kérdés, hogy megéri-e kiváltani.

Nézd meg az ipart. Számos olyan munka van, amit ember végez, noha elvileg automatizálható lenne. Mondjuk egy ropi gyártósoron egy ember válogatja ki a túl sós, vagy éppen só nélküli ropikat. Lehetne ezt automatizálni. Csak egy ilyen berendezés túl drága lenne, túl komplex, ugyanúgy kellene valaki, aki ellenőrzi a gép helyes működését, elvégzi a karbantartást, javítást. Így noha a folyamatot tudnánk automatizálni, rendelkezésre állnak az ehhez szükséges technológiai feltételek, mégis egyszerűbb és olcsóbb felvenni három embert, hogy válogassák ők a ropikat.

~ ~ ~

Szóval ha az a kérdés, hogy mi lesz itt 20–30–50 éven belül,akkor azt mondom, nem eszik olyan forrón a kását. Megint más kérdés, hogy mi lesz 1000–2000 év múlva, de erre meg egyrészt azt mondom, hogy az már nem a mi problémánk lesz, másrészt úgy is teljesen mások lesznek a körülmények, olyan tényezők és aspektusok lesznek meghatározók, amiket ma még elképzelni sem tudunk. (Pl. a 70-es évek sci-fi irodalmában nagyon nem látták jönni az internetet, ami viszont így, hogy berobban a világunkba, teljesen más megvilágításba helyez egy csomó kérdést.) Szóval erről meg tök felesleges most előre gondolkodni.

~ ~ ~

> Ajánlok még egy filmet, melyet

Az még oké, hogy Kurzweil írásai, publikációi helyett egy Kurzweilről szóló dokumentumfilmre hivatkozol. De hogy egy horrorfilmet vegyek komolyan, mint hivatkozási pont? Ez olyan, mintha a sárkányok létezéséről folyó diskurzusban valaki a Trónok harcát citálná be, mint hivatkozási alap.

> Amúgy kedves 2*Sü - nem aggódsz néha, hogy valaki titokban kettyinti a feleséged?

Ej, eddig egészen kulturált vitát folytattunk. Nem kellene elrontani…

2*Sü írta:

"Az még oké, hogy Kurzweil írásai, publikációi helyett egy Kurzweilről szóló dokumentumfilmre hivatkozol. De hogy egy horrorfilmet vegyek komolyan, mint hivatkozási pont?"

Válasz:

Nyilván képtelen vagy megérteni a filmnyelvet, ráadásul teljesen figyelmen kívül hagyod azt is, hogy az említett műalkotásba milyen merész meglátásokat vittek bele az alkotók:

1. Amikor ez a film készült, akkoriban a számítógépek gyakorlatilag csak grafikus kimenettel bíró kalkulátoroknak számítottak.

2. A filmben tökéletes kétirányú audio és videó interfészekkel bír a rendszer.

3. A mai gyors internetnek megfelelő hálózattal vannak összekötve a rendszerek, mely segítségével távolsági videófelügyeletet tud tartani a számítógép, ráadásul egy rakás bonyolult hardvert is irányítani tud.

4. A számítógéprendszer digitálisan kompatibilis a videó-kaputelefonnal és az "okos" ház alrendszereivel. Akkoriban az ilyen mértékű digitalizáció abszolút sci-fi koncepciónak számított.

5. Az említett videótelefonra valós időben generált deep-fake anyagot játszik be a számítógép, hogy emberi döntéseket manipuláljon.

6. A számítógép felderíti és építi az általa elérhető környezetet. Képes érteni az emberek gondolkodásmódját és tudatosan manipulálja őket. A számítógép személyes célokat tűz ki maga elé és azokat igyekszik bármi áron megvalósítani.

7. A számítógép - habár testileg nem függ a bioszférától - mégis sokkal inkább tiszteletben tartja az élő környezetet, mint az ösztönlényként élő emberek többsége. Az ökoterrorizmust erkölcsileg elfogadhatónak tartja, ellentétben az egyes emberi életek védelmével. Az embereket tárgyként kezeli, és ha azok az útjában állnak, akkor érzelemmentesen neutralizálja őket. (Természetesen a számára legnagyobb veszéllyel bíró számítógéptudóst nyírja ki, de feleslegesen nem gyilkol.)

Ha veszem azokat a dolgokat, amelyek ebből az elborultnak látszó fimből tényleg megvalósultak, akkor bizony meg kell jegyeznem, hogy az alkotók merész elképzelései közül meglehetősen sok megvalósult, vagy minden kétségen kívül már a megvalósíthatóság közelébe került!

> Nyilván képtelen vagy megérteni a filmnyelvet

Én rajongok a sci-fi irodalomért és filmekért. De ezek fikciók. Egy hard sci-fi nem feltétlenül azt a jövőt festi le, aminek a bekövetkezése a leginkább valószínű, hanem azt, amin keresztül egy adott – jellemzően a jelenre vonatkozó – dilemmát, kérdést a lehető legjobban reflektorfénye lehet állítani. Pl. Asimov robottörténetének egyike-másika boncolgat olyan kérdést, hogy mikortól kell egy robotot szuverén, élő entitásnak tekinteni, aminek jogai vannak. De valójában a kérdés az, hogy mi magunk emberek pontosan mitől is vagyunk emberek.

Ott a Mátrix. Jó film, érdekes témákat pedzeget. De a hátterének az alapja az, ami teljesen fals. Az ember nem funkcionál elemként, nem termel energiát, csak átalakítja azt, ami a táplálékban van, azt sem a legjobb hatásfokkal. A gépeknek nem lenne szüksége ilyen bonyolult eljárásra, ezerszer egyszerűbb és problémamentesem módon biztosítani tudnák a fenntartásukat. De megbocsájtjuk ezt, mert lényegtelen, hogy mi a díszlet a történet mögött, mennyire fals ez a díszlet, ha a díszlet előtt elmesélt történet és/vagy annak a tanulsága érdekes.

Vannak sci-fik, amik valami teljesen fals jövőképet vetítettek előre. Vannak, amik egész jól eltalálták azt, ami később történt. Sőt van olyan is, mikor egy sci-fi vet fel egy olyan ötletet, amiben fantáziát lát egy feltaláló, és a sci-fiből inspirálódva fel is talál valami hasonlót (lásd a Star Trek és az általa ihletett mobiltelefont).

Hogy most így utólag kimazsolázzuk azt, ami viszonylag jól ráérzett a jövő bizonyos aspektusaira, az mazsolázás, egyfajta megerősítési torzítás. Ebből nem következik az, hogy a még meg nem törtét aspektusaira is helyesen érez rá.

~ ~ ~

A pontok, amiket felsoroltál tök jók. De már korábbi művekben is fel-felmerültek részletek. Pl. egy számítógép irányította ház már ott van Asimov műveiben is. Ami viszont erősen kérdéses:

> 6. A számítógép felderíti és építi az általa elérhető környezetet. Képes érteni az emberek gondolkodásmódját és tudatosan manipulálja őket.

Hát de miért? Minek?

> A számítógép személyes célokat tűz ki maga elé és azokat igyekszik bármi áron megvalósítani.

Na pont ez az, aminek még csak nyoma, előképe sincs a mai MI-kben. Nincs mivel személyes célokat kitűznie. Nem is akarjuk, hogy személyes célokat tűzzön ki, semmi haszna nincs. De még ha le is akarnánk programozni, akkor is komoly problémát jelentene.

Mi az elvárásunk egy MI-vel szemben? Ahogy minden más szoftverrel szemben az, hogy elvégezze azt a feladatot, aminek az elvégzését rá bíztuk, oldja meg azt a problémát, aminek a megoldására leprogramoztuk. Nem akarjuk, hogy egy MI két feladat között gondolkodjon, tervezgessen, célokat tűzzön ki. Nem is azért, mert veszélyes, hanem mert nem hasznos, viszont pocsékolja az energiát. Pont ezért nem fogunk ilyen funkciót építeni bele, és ez nem olyan dolog, hogy „jaj, hát véletlenül »megtanult« gondolkodni, véletlenül öntudatra ébredt”. Ennek kb. akkora az esélye, minthogy a csiga véletlenül elrepül, vagy hogy egy kávéfőző véletlenül kávéfőzés helyett tükörtojást süt.

~ ~ ~

Igen, az embernek vannak félelmei. Fél pl. attól, hogy valami olyan dolgot indít el, vagy olyan dolgot szabadít magára, ami felett elveszíti a kontrollt és ebből kára van. Vannak olyan horrorfilmek, amiknél mezei háztartási eszközök törnek az emberek életére, mert sajt. De nem holmi MI-vel rendelkező, vagy számítógép vezérelte háztartási eszközök, hanem mondjuk egy kenyérpirító, amiben a legbonyolultabb elektronikai elem a kapcsoló. Hogy az egész tök megalapozatlan és irreális? Sebaj, a borzongásra van igény.

Ja, az emberek féltek anno a futószalagtól, a vonatoktól, az autóktól, a számítógépektől (még úgy is, hogy MI-re még csak utalás sem volt) stb… Attól, hogy ez az irracionális félelem megjelenik egy filmben is, attól még semmi nem teszi a dolgot racionálisabbá.

Ezért tök irreleváns hivatkozási alap egy film, egy könyv, ha abban pusztán felvetődik valami, mindenféle levezetés, következtetés nélkül.