A jelenlegi fejlődést látván kb hány évre lehetünk még az Általános Mesterséges Intelligencia (angolul Artificial General Intelligence, AGI) létrejöttétől?

Nem érdemes összekeverni az intelligenciát a képességgel. A mai robotoknak képességeik vannak, nem intelligenciájuk. Egy felkészült ember bármikor összezavarhatja őket. Az más kérdés, hogy ehhez ugyanúgy egy alkalmas ember kell, ami nem szakmai képességet, hanem annál sokkal többet, helyes reagálást igényel, és egy ilyen számos embert is össze tudna zavarni.

Ami Asimowot illeti, nem hinném, hogy ő humanoid robotot akart elképzelni, azzal legfeljebb néhány problémát kívánt megvilágítani. Szerintem Asimow éppen azt ismerte fel, hogy az ember képes olyan célgépet készíteni, amely (éppen alkotója emberi gonoszsága vagy tudáshiánya miatt) képes kiirtani az embert, mert egy célgép éppen abban kell hogy jobb legyen az embernél, ami a célja. Asimow tehát arra próbált választ találni, mielőtt az emberiség eljut arra a pontra, ahol erre képes lesz, mg kell alkotni azt az "alkotmányt", amely elvek szerint ilyesmi készülhet, éppen a világ kiirthatóságának elkerülése érdekében. Amit nem vett (nem vehetett) figyelembe, hogy ha az ember ilyen, akkor meg is fogja alkotni önnön kiirtóját. Ha viszont nem ilyen, akkor nincs mitől aggódni.

Még annyit, mindenki abban gondolkodik, miféle dolgot kell alkotnia az embernek, hogy az emberiségnek jobb legyen. Csak az a baj, akiknek lehetőségük van ilyesmit készíteni, nem ebben gondolkodnak.

#8 > Itt meg összekevered a gép fizikai paramétereit és a vezérlését.

Azt hiszem nem sikerült a lényeget megragadnod. Nem a vezérlésről meg a paraméterekről van szó. A kérdés az, hogy melyik a célszerűbb. Egy adott célra szánt, adott tevékenység alapján optimalizált eszköz (legyen szó teljesen statikus, fröccsöntött műanyagról, mechanikus szerkezetről, elektromos eszközről, szoftverről), vagy egy általános, többcélú, multifunkcionális eszközről.

Hozok mégy egy példát: A svájci bicska hasznos, mikor számít a súly és méret, de általában, ha van rá mód, mégis szeretünk késnek egy kést választani, fűrésznek egy fűrészt, ollónak egy ollót, csavarhúzónak egy csavarhúzót, mert bár egy nagyobb svájci bicskában mindegyik benne van, de mindegyik sokkal kevésbé hatékony és kényelmes, mint egy egy dolgot tudó, arra optimalizált céleszköz.

Ezzel teljesen analóg módon, ugyanolyan okok miatt egy hangot szöveggé alakító MI esetén sokkal egyszerűbb, könnyebb meghatározni a célt, az ehhez szükséges be- és kimenetet, összerakni a tanításához szükséges anyagot, ahol egzaktul meghatározható, hogy ilyen bemenetre ilyen kimenetet várnánk. Kevesebb munkaidő, kevesebb processzoridő, kisebb költség, stb…

Egy általános MI-től azt várnánk, hogy egy hang bemenetet egyrészt képes legyen szöveggé alakítani. Képes legyen megérteni és végrehajtani a beszédben elhangzó utasításokat. Képes legyen beazonosítani a beszélő személyét. Képes legyen meghatározni a hangmagasságot. Képes legyen felismerni mondjuk a depresszió kezdeti tüneteit. Közben képes legyen megtalálni a szöveg tartalmához leginkább illeszkedő szépirodalmi idézetet. De mikor melyiket csinálja? Néha az embernek is nehézséget okoz, hogy felismerje, hogy mikor kell komolyan venni a másik által elhangzottakat és mikor ironizált, mi idézet és mi saját vélemény. Teljesen más outputot várunk el egy embertől – így egy általános MI-től is – a „nem megyünk ki a strandra?” kérdésre egy nyári délelőtt és mást egy téli hóviharban. Az MI természetesen képes megbirkózni óriási mennyiségű inputtal, de hogy mik legyenek az inputok – pl. egy beszédértelmező esetén az időjárási adatok legyenek-e inputok –, az vagy emberi döntés kérdése, amit átgondolni is agyrém, vagy mindent inputként adunk be, ami meg baromira nem fog optimális eredményt adni, mindig alul fog maradni egy célorientált MI-vel szemben.

~ ~ ~

> Hanem az univerzális humanoid robot tudná kezelni a hagyományos porszívót, felmosót, tudna mosogatni, port törölgetni, kávét főzni, stb.

De tud-e egyidőben, egyszerre porszívózni, mosogatni, füvet nyírni és kávét is főzni? Asimov világában pl. a módosabb embereknek egy egész robotszemélyzete volt. Az adott robot ugyan tudott volna autót vezetni is, szobrászkodni is, társalogni is, mégis kizárólag a kerti munkákat végezte. Ez pazarlás. Nota bene aztán Asimovnál is megjelent a specializáció, vannak a regényében beszélni nem tudó bányarobotok is pl. sőt a nem humanoid robotok koncepciója is megjelenik.

> a robotporszívó nem tud lemenni a pincébe, vagy felmenni az emeletre.

Van olyan takarítógép, ami nemhogy lépcsőzni tud, de kimondottan lépcső takarításra lett tervezve. Oké, kicsit nagyobb, így pl. a szekrény alatt nem tudna kitakarítani. Volt, aki hobbiprojektként drónt csinált a robotporszívóból. Vannak koncepciók, amik megvalósíthatók és megoldják ezt a problémát. De kérdés, hogy meg kell-e oldani. Aki módosabb, az vesz magának két robotporszívót, egyet az emeletre, egyet a földszintre. Aki meg nem módosabb, az inkább felviszi maga a lépcsőn az eszközt, minthogy plusz 20–30 ezer Ft-ot fizessen ezért a funkcióért.

És bár a te házimunka robot elképzelésed eléggé multifunkcionális, de még mindig csak egy céleszköz. Tessék itt van egy általános célú robot. 8 millió forint. Baromi sok munka volt, mire megtanítottuk a mikrobiológiára, meg profi szinten sakkozni, de sikerült. Kettőt vennél, vagy hármat? Vagy itt van egy robot, ami sakkozni nem tud, szobrászkodni sem, a számvitelhez sem ért, meg a kozmológiához sem, nem tud beszélni, nem érez ízeket, nem egy általános MI, csak egy háztartási robot, ez csak 1 millió lesz. Te melyiket választod?

~ ~ ~

> Ezekre meg annyit tudok reagálni, hogy Agility Robotics, PAL, Tesla, Boston Dynamics, csak néhány cég, akik gőzerővel, hihetetlen sok pénzt és energiát beleölve fejlesztik a humanoid robotokat - óriási verseny van már most.

Vannak olyan feladatok, ahol tényleg jó a humanoid forma. De pl. az Agility Robotics egyik demo videójában dobozokat mozgatnak két lábon járó, látó robotok. Nagyszerű. De hatékonyabb ez, mint pl. ez: https://www.youtube.com/watch?v=4DKrcpa8Z_E .

Amúgy egy ilyen feladatot ellátó robottól tényleg általános intelligenciát várunk? Tudnia kell-e egy ilyen feladatot ellátó robotnak zongorázni tudni?

Vagy egy Boston Dynamics robotot soha nem fognak megtanítani terítőt hímezni. Miért? Mert nincs rá igény, a potenciális vásárló számára ez nem képvisel értéket, de a gyártó számára többletköltség lenne.

Ezek ugyan humanoid jellegű eszközök formailag, de a szoftver, az MI bennük célszerszám, egyáltalán nem cél, hogy egy általános MI működtesse őket.

~ ~ ~

De a végső kérdés mégis az, hogy miért akarnánk egy általános MI-t létrehozni. Mi az az értelmesen megfogalmazható cél, amiért egy MI-nek mindent/bármit tudnia kellene, nem elégséges egy jóval egyszerűbb, célirányos szoftver.

#11 > Ami Asimowot illeti, nem hinném, hogy ő humanoid robotot akart elképzelni, azzal legfeljebb néhány problémát kívánt megvilágítani.

Nyilván Asimov regényeinek, novelláinak pl. az egyik központi témája az, hogy mitől válik egy robot/MI egy emberrel egyenrangú lénnyé, hogy mikortól tekinthetünk rá kvázi emberként. De valójában itt a kérdés az az, hogy mi emberek mitől vagyunk valójában emberek, és milyenek is vagyunk mi emberek tulajdonképpen. Ehhez jól passzol egy külső megjelenésében is emberszerű robot. De…

De már nem tudom melyik regényében vagy novellájában felvetődik konkrétan a kérdés, hogy miért emberformájúak a robotok. És azt hiszem Asimov valóban úgy képzelte el a lehetséges jövőt, mint ami ott indoklásként elhangzik. Az eszközeinket az emberi testhez optimalizáltuk, a traktort is, a vasalót is, a kalapácsot is. Így a működés szempontjából a robot is akkor lesz optimális, ha a felépítése olyan, mint az emberé. Szerintem a robottörténetek írásakor Asimov fejében az a koncepció élt, hogy a robot az csak működteti az eszközöket, az eszközök meg maradnak olyanok, amilyenek, hasonlóan fejlődnek, mint addig. A robot és az általa használt eszköz két különálló entitás. Asimovnál a robot előveszi a porszívót a szekrényből és nem a porszívóban „lakik”, attól függetleníthetetlenül (mint pl. egy mai robotporszívónál). Nem merült fel benne komolyan az a koncepció – legalábbis nincs nagyon nyoma –, hogy az eszköz és az azt működtető automatikus vagy autonóm vezérlés egybeforr, egymástól elválaszthatatlan egységet képez, hogy minden céleszközhöz egy célszoftvert fogunk alkotni. Ami miatt persze egyrészt a „testnek” így már lehet optimálisabb, praktikusabb formát is adni, másrészt a „léleknek”, a szoftvernek sem kell túlságosan komplexnek és univerzálisnak lennie, mégis sokkalta hatékonyabb tud így lenni, mint amilyen egy humanoid robot által kezelt emberi testre tervezett eszköz. Utólag ez persze benne volt a levegőben akkor is, de valahogy Asimov nem így képzelte el a jövőt.

"És bár a te házimunka robot elképzelésed eléggé multifunkcionális, de még mindig csak egy céleszköz. Tessék itt van egy általános célú robot. 8 millió forint. Baromi sok munka volt, mire megtanítottuk a mikrobiológiára, meg profi szinten sakkozni, de sikerült. Kettőt vennél, vagy hármat? Vagy itt van egy robot, ami sakkozni nem tud, szobrászkodni sem, a számvitelhez sem ért, meg a kozmológiához sem, nem tud beszélni, nem érez ízeket, nem egy általános MI, csak egy háztartási robot, ez csak 1 millió lesz. Te melyiket választod?"

Én személy szerint egyiket sem, már egy mosogatógépet is teljesen felesleges kényelmi eszköznek tartok, ahogy pl kávéfőző gépem sincs, és szárítógépem se, GPS-t sem használok, véleményem szerint ezek csak a fizikai-szellemi ellustulást növelik az emberekben, ami nem jó, de ez az én egyéni agybajom.

Amúgy ez egy jogos érv, de kereslet egészen biztosan lesz mindkettőre.

Ahogy manapság is van, aki megveszi a gyémántokkal kirakott Lamborghinit meg a Ferrarit, meg Rolls Royce-t.

Nem azért, mert azzal jobban tud közlekedni A-ból B-be a városban, ahol amúgyis max. 50-el mehet, meg autópályán is max. 130-al, amire egy szétfingott 15 éves Suzuki is képes, hanem hogy demózza másoknak, hogy megteheti.

De ugyanez igaz az ájfon huszonynyolcra is, nem azért veszik meg a gazdag apupénzével virító külykök, akik megveszik, mert a szükségleteik alapján az jobban megéri nekik, ugyanúgy csak neteznek rajta, mint az 5 éves Samsung telefonon - azért veszik meg, hogy villantsanak.

Aki bárpultot építtet otthon, az sem azért csinálja, mert a konyhaszekrény tetején nem férnének el neki a whiskey-k meg a vodkák, hanem hogy ha átjönnek a haverok, akkor demózzon vele egyfajta státuszt.

Pont ugyanez lesz a jövőben az autonóm háztartási robotokkal - az alacsony/átlag jövedelmű ember majd megveszi a low-end alapmodellt, amivel nem lehet beszélgetni az időjárásról és nem tud sakkozni sem, sőt, egyáltalán beszélni se, csak megért néhány alapvető utasítást, a jól kereső orvos/programozó megveszi majd a középkategóriás modellt, amivel már lehet pár szót beszélgetni és el tud intézni egy online bevásárlást mondjuk, az ennél is gazdagabbak pedig majd megveszik a high-end modellt, ami már sakkozni is tud, meg társasjátékozik a gyerekekkel, meg vicceket mesél, stb.

"Mert megtehetem".

Ez elég érv nekünk embereknek bármire, sőt, egy elég erős drive.

Ha semmi más értelme nem is lenne egy AGI kifejlesztésének, csak annyi, hogy a Google/MS/akárki ezzel demonstrálja a világnak, hogy ennyivel előbbre jár a többieknél és ő a piacvezető, már önmagában ez is bőven elég indok lenne.

De természetesen egy AGI nem csak ennyire jó - valójában még szerintem maguk ezek a cégek sem tudják teljesen, hogy mennyi mindenre lehet kiaknázni, de azzal mindegyikük egyetért, hogy aki elsőnek ér célba ezen a pályán, az szinte behozhatatlan előnyre tehet szert.

Az amerikai politikai vezetés nyíltan hangoztatja is, hogy ebben meg kell előzniük Kínát.

"Vagy egy Boston Dynamics robotot soha nem fognak megtanítani terítőt hímezni. Miért? Mert nincs rá igény, a potenciális vásárló számára ez nem képvisel értéket, de a gyártó számára többletköltség lenne."

Erre és a hasonlókra még reagálni akartam.

Szerintem épp a lényeget téveszted el, az AGI attól AGI, hogy nem kell előre betanítani semmire, magától tanul meg bármit.

A gyártónak csak az AGI-t kell létrehoznia(már ha egyáltalán létre kell hozni, és nem pedig organikusan fejlődik ki, ahogy az emberi intelligencia is, ezt még senki sem tudja).

Minden mást az AGI már elintéz. És épp ez is az egyik indok az AGI létrehozása mellett gyártói oldalról.

Van egyetlen szoftver, ami bármilyen célra használható, mert magától tanulja meg elérni azt a célt.

Ja, és még egy érdekes dolog(agymenésem van így péntek reggel :D)

Hajlamosak vagyunk magunkat, az emberi intelligenciát valamiféle utolérhetetlen, szuperpotens AGI-nak gondolni, de azért ha jobban megnézzük, ugyan van AGI képességünk, azaz sokmindent meg tudunk tanulni, amit addig nem tudtunk, de sok területen elég gyatrán teljesítünk.

Pl. komolyabb matematikai műveletek elvégzésére, ami egy sima zsebszámológépnek is gyerekjáték, nem igazán vagyunk képesek.

A sakkozás "művészetét" is csak igen alacsony szinten tudjuk elsajátítani, ma már bármelyik nagymestert hülyére veri egy közepes képességű sakk engine is.

Viszonylag korlátos a memóriánk, egész egyszerűen elfelejtünk egy csomó dolgot, amit nem használunk állandó jelleggel, ellenben egy gép soha nem felejt el semmit.

És még több dolgot is fel lehetne sorolni, mi mindenben elég pocsék a humán intelligencia.

Tehát valójában mi is egyfajta specializált célgépek vagyunk, a specialitásunk pedig egyrészt a saját testünk nagyon kifinomult vezérlése, másrészt pedig a nagyon kifinomult, magas szintű szociális, közösségi funkciók, mint a nyelv, érzelmek, kommunikáció, azzal együtt, hogy meg vagyunk fejelve egy általános tanulási képességgel is, azonban azokon a területeken kívül, mint amikre évmilliók alatt huzalozott be minket az evolúció, elég gyengén muzsikálunk.

Attól függ, hogy az AGI kaput hova tologatjuk. A Sparks of AGI publikáció és előadás alapján a GPT-4 már szinte minden hagyományos kritériumot megugrott, úgyhogy innentől nem annyira a modell tudásán, mint az AGI definícióján múlik, hogy annak nevezzük-e vagy sem.

Szerintem amúgy simán az, hiányosságok ide vagy oda. Ez a "jósold meg a következő szót/pixelt/byte-ot" célkitűzés elég tág ahhoz, hogy általános intelligencia alapja lehessen, és a neurális hálós architektúrát + temérdek adatot alá tolva tényleg működik is. Általánosnak elég általános, intelligensnek elég intelligens, súlyos vakfoltok és korlátok ide vagy oda. Még így is bőven elég nagy átfedésben van az emberi intelligenciával ahhoz, hogy meg lehessen neki adni a pontot.

> Szerintem épp a lényeget téveszted el, az AGI attól AGI, hogy nem kell előre betanítani semmire, magától tanul meg bármit.

Csakhogy az MI nem tanul „magától”. Egy neurális hálózat annyiból az emberi agyat modellezi, hogy a megfelelő célhoz vezető neuronkapcsolatok erőssé, a nem a célhoz vezető kapcsolatok gyengévé válnak. Ehhez viszont az kell, hogy egyrészt tanuló módba kapcsoljuk, és olyan inputokat adjunk neki, amihez hozzá van rendelve az elvárt output.

Most képzeljük el az általános MI-t. Az input mondjuk az, hogy esik az eső. Mi az elvárt output? Miből tanulja meg, hogy mit kellene ilyen esetben tenni? Mert ha boltba mész, akkor elő kell keresned az esernyőt. De ha tudod hol van az esernyő, akkor ráérsz vele. Ha meg nem kell ma boltba menni, akkor mindegy, hogy esik-e vagy sem, mert nem kell kimenned a házból. Ha meg kint hagytad a laptopot a kerti asztalon, akkor ki annak ellenére, hogy sürgősen ki kell menned a házból, nem kell – nem célszerű – az esernyővel vacakolni.

Oké, adjuk be inputként a hűtő tartalmát, az esernyő, a laptop, meg még egy raklap dolog pozícióját is inputként. Akkor is kell egy minta, ami alapján ki kell találni, hogy mi a teendő. Egy csecsemő pl. pont ezt csinálja. Érzékel egy csomó dolgot, és látja a mintázatokat. Ha esik az eső, anya előveszi az esernyőt. Szép lassan összekötődik a kettő történés közötti korreláció, majd később ennek az okát is megérti. Egy MI sem tud máshogy tanulni, nem dughatod be egy házba, hogy „tessék, tanulj”, hanem adni kell neki folyamatosan a mintákat, amit majd el kell sajátítania.

De mik a jó minták? Hát ebben még az emberek között sincs egyetértés. Az egyik anyuka azt mondja, hogy hagyni kell a gyereket eldönteni, hogy mit akar enni. A másik szerint akkor is le kell tolni a torkán a spenótot, ha nem akarja. Az egyik anyuka szerint ha sír a gyerek, azonnal fel kell venni. A másik szerint meg ezzel rontja el az előző anyuka a gyerekét. És mik azok a minták, amik az MI-t a későbbi célja szerint optimalizálják?

Ha már minták, az intelligencia egyik aspektusa a mintafelismerő képesség. Érteni akarjuk a világot, azaz rá akarunk érezni a különféle jelenségek közötti mintázatokra. Ez néha jól megy. Néha meg ott is mintát találunk, ahol csak véletlen van. Egy MI a véletlenek összjátéka miatt lehet, hogy mintázatot vél felfedezni az előtte áthaladó macska színe, meg a későbbi adott dolog sikeressége között. Ahogy az ember is babonássá tud válni, vagy tévképzeteket tud kialakítani a világról, úgy egy általános MI-t, ha ugyanúgy tanítunk, ahogy egy embert, akkor ő sem védett ettől.

A számítási kapacitás, memória sem mérvadó itt. Mert attól, hogy egy MI-t tanítunk, nem fog többször eleredni az eső.

Aztán az ember egy raklap reflexszel, ösztönnel születik, amiknek a teljes „térképét” nem ismerjük, így betáplálni sem tudjuk előre egy általános MI „csecsemőnek”. Pedig ezek fontosak, meghatározók a működésünk szempontjából.

Aztán az emberi működés egy csomó aspektusa a biológiai létből fakad. Egy csecsemő azért sír, mert éhes, mert álmos, mert fázik, mert túl sok a fény, mert fáj az térde stb… Egy szoftvernek nincsenek meg ezek a belső inputjai. Márpedig egy csecsemőt az késztet egy csomó dolog megtanulására, mert célja van vele. A beszéddel az, hogy elmondja, hogy baromira nem ringatást akar, hanem kicsit hidegebb környezetet. Mászni, kúszni is azért tanul meg, hogy elérjen valamit, és ebben ne anyára legyen utalva, aki vagy kitalálja, hogy mi kell neki, vagy nem. Ezeket ha emulálni akarjuk, akkor össze kellene szedni őket, pedig nem tudjuk hány ilyen belső inputunk van. Sőt nem csak az input kell, hanem a visszacsatolás is, hogy ittam, tehát most már nem vagyok szomjas. Ha ezt emuláljuk, akkor korlátozza is az MI képességeit. Mondjuk nem lesz kedve porszívózni, mert éppen fáj a hasa. A fájdalom, ha valódinak akarjuk éreztetni, gátló tényezőként kell, hogy fellépjen, különben mit sem ér. Ha meg nem emuláljuk, akkor egy baromi passzív MI-t fogunk kapni. Lehet, hogy összeáll benne mintaként, hogy a „milyen napszak van?” kérdésre a helyes válasz az, hogy „este”, de hogy késztetést is érezzen arra, hogy ezt közölje…

Vagy pl. az emberi működésben nagy szerepe van a felejtés képességének. Bizonyos MI-k algoritmusában is implementálják vázlatosan ezt a működést. De nem olyan komplexitásban, mint ahogy az az emberben működik. Mert nem tudjuk, hogy az emberben pontosan hogyan működik, és nem is működik optimálisan, mert valami rohadtuk fontos dolog nem jut az eszembe, miközben élesen emlékszem, hogy milyen mintájú volt a fal a nagymamánál, mikor 5 éves voltam. És bizony ezek a hibák is mássá teszik az emberi intelligenciát, mint a gépi intelligenciát, márpedig egy általános MI-től azért valahol azt várjuk, hogy eléggé hasonlatos legyen hozzánk.

~ ~ ~

Szóval nagyjából röviden és tömören ennyit a „magától tanul meg bármit” kérdéskörről. Bizonyára lehetne még egy raklap további problémakört is találni, és ott is széttárni a kezünket, de szerintem ennyi is elég arra rámutatni, hogy ez így eléggé meredek fal. Lehet, ha belefektetünk 20 évet, és valaki az élete jelentős részét szánja az MI tanítgatására, akkor is elsőre aligha lesz a megoldás jobb, mint egy ember esetén, lehet 20 év alatt egy gyengébb képességű 5 éves szintjére sikerül feltornázni az MI-t és nem is lehet tovább, mert rosszul választottuk meg az MI alapvető paramétereit. (Ez amúgy fennálló probléma az MI-k fejlesztésénél, ha csak most kezdtél el MI programozással foglalkozni, akkor könnyen belefuthatsz abba, hogy bár továbbra is tolod bele a „tananyagot” tonnaszámra, az MI nem fogja az optimális eredményt adni és nem is fejlődik tovább, mert pl. a köztes neurális rétegek számát rosszul választottad meg, vagy más módon kell megfogni az inputot.)

Nem, én továbbra sem látom azt jönni, hogy valaki belevágja a fejszéjét egy ekkora fába, annak ellenére, hogy az első kísérlet igen nagy eséllyel maximum részsiker lesz, amire nem lehet alapozni egy üzleti modellt. Pláne nem 20 éven belül. Kvázi olyan a dolog, mint az első repülőgép esetén, ami ugyan repült pár száz métert, ami óriási lépés volt, de nem eredményezett egy eladható terméket. Nota bene kellett tíz év, mire a sorozatgyártás már észszerűnek tűnt. Csak a különbség az ott van, hogy egy repülőnél tervezésénél ha 5 év tervezgetés után nem érjük el a kitűzött célt, akkor a tapasztalatok alapján némi áttervezés, átépítés után lehet, hogy pár hét múlva tudjuk tesztelni a következő változatot. Egy általános MI fejlesztéséről meg lehet, hogy 10 év után derül ki, hogy elérte a képességei maximumát és ez még nem elegendő semmire, és itt mehetünk vissza a kályhához. Mindezt úgy, hogy tulajdonképpen nem is tudjuk, hogy pontosan mi a gond. Egy következő általános MI újra csak egy újszülött lesz, akinél a tanítgatást elölről kell kezdeni, az előző próblálkozás eredményét nem tudjuk átültetni egy következő változatba.

Mindenki előbb fog nekiállni egy konkrét célfeladatot ellátó MI-nek, mert nagyságrendekkel gyorsabban lehet hatékonyabb rendszert létrehozni. Úgy is évek kérdése egy valamirevaló MI-t létrehozni, és sokszor nem is a technikai korlátok jelentik a szűk keresztmetszetet, hanem a megfelelő minőségű „tananyag” összeállítása, amivel az MI-t be lehet tanítani.

(Amúgy pl. a sci-fikben a közeli jövőt sokkal fejlettebbnek képzelik el, mint amilyenné valójában válik. 2000-ben már a holdon fogunk élni. Meg repülő autóval járni. Meg a fene tudja még micsoda. Én így látom az MI-t is. Sokan 20 éven belül már teljes értékű humanoid robotokat vizionálnak, mint ahogy a sokadszorra felemlegetett Asimov is tette ezt az ezredfordulóra. A távolabbi jövőnél viszont fordítva van, ott a fejlődést hajlamosak vagyunk alulbecsülni. Mert nem látjuk jönni azt, ami paradigmaváltó hatású. Pl. a Star Trekben már az űrben vagyunk, de még mindig gyalog hozzák-viszik az adatokat valami adathordozón. Nem látták jönni a számítógép-hálózatok pláne az internet világát. Ha lesz is valaha általános MI, az nem olyan lesz, nem úgy jön el, nem azért jön el, mint amiről mi most beszélgetünk)

~ ~ ~

Vagy – annak ellenére, hogy informatikus vagyok – nem tudom hogyan kell elképzelnem egy általános MI tanítását az első bekapcsolástól kezdve. Mert ha általános MI-ről van szó, én aligha tudok mást elképzelni, hogy ahogy egy ember, úgy egy MI is a világot általánosságban tanulja meg megismerni.

De…

~ ~ ~

Azt viszont el tudom képzelni, hogy lesznek különféle specializált MI-k. Nyilván egyre több funkciót megvalósítva. El tudom képzelni, illetve már valamennyire ez a jelen is, vannak ilyenre példák, hogy különböző MI-k között lesz valamiféle adatmegosztó csatorna, egy nyelvi modul pl. felismeri, hogy valaki egy kép URL-t illesztett be, elküldi egy képfelismerő MI-nek, az visszaadja a kép különböző adatait – pl. hogy mi található rajta –, majd mivel felismeri, hogy ez egy közlekedési szituáció, ezért megkérdezi a „jogtudós” Mi-t, hogy jelen helyzetre milyen jogszabályok az irányadók, és így generál helyes választ.

Esetleg így kialakulhat egy viszonylag általánosABB célú MI, kvázi modulárisan, de ez még mindig nem teljesen fogja lefedni az általános MI-ről alkotott elképzelésünket, egy raklap olyan dolgot nem fog tudni, amit nem tartunk szükségesnek MI-vel végeztetni.

~ ~ ~

Ja igen, még egy érv a humanoid külső ellen. Egy humanoid robot pl. lehet, hogy meglát felvillanni egy feliratot a képernyőn. Ehhez neki elemezni kell a kamerán (a szemével látott) képet, aztán értelmezni kell azt, majd a döntés után ténylegesen tennie kell valamit (mondjuk megnyomni egy gombot). Ez így baromira lassú. Szükségszerűen lassú. Sokkal-sokkal lassabb, mintha eleve digitális jelet kapna bemenetként és nem kellene mozgatni semmit, csak kiadni egy vezérlőjelet. Időkritikus esetekben ez nem engedhető meg.

Ha egy humanoid robot száll be egy klasszikus autóba, neki is viszonylag magas lesz a reakcióideje. Lehet, hogy jóval-jóval kisebb, mint egy emberé, de mindig nagyobb lesz, mintha az autó maga tartalmazza a szoftvert.

Anno felkapott témává vált, hogy ha majd jönnek az önvezető autók, akkor milyen szempontok alapján döntsék el egy elkerülhetetlen balesetben, hogy kit üssenek el. A nyugdíjas néni „ér többet” vagy egy kislány? Két féllábú hajléktalan ér-e többet, mint egy Nobel-díjas tudós? Pedig értelmetlen a kérdés. Amúgy ha a kérdést eldöntenénk, annak pokoli következményei lehetnének áttételesen, de szerencsére eleve nem kell meghozni ezeket a döntéseket. Mert ehhez fel kellene ismerni a közlekedő személyek milyenségét, hogy ő öreg, ő fiatal, ő hajléktalannak tűnik, stb… Esetleg akár az internetről is össze lehetne szedni adatokat – a Nobel-díj vagy a végstádiumú rák pl. nincs senkinek a homlokára tetoválva –, de ehhez meg személyre szólóan kellene felismerni, hogy az előtted áthaladó ember az a város x százezer lakosából melyik. Erre nincs idő. Ha egy autó 50 km/h-val megy, és még ezt sikerülne is mondjuk 100 ms alatt mérlegelni, eldönteni, addigra az autó már megtett másfél métert, és még csak most kezdenénk tekerni a kormányt, lehet rég lekéstük az érdemi beavatkozás utolsó lehetőségét. Pont ezért a tervezők elsősorban nem a balesethelyzetekben való viselkedésre gyúrnak rá, hanem a balesetek elkerülésére, és ez így észszerű.

Ha most ebbe az egészbe beleiktatunk input és output oldalról is extra csatolási pontot egy autó és egy attól függetlenül működő humanoid robot közé, az további felesleges extra késleltetés. Ebben a témában mindig a humanoid robot által vezetett autó fog alulmaradni egy önvezető autóval szemben. Ha ráadásul ez a humanoid robotot egy általános célú MI működteti, az feleslegesen fog egy csomó számítási kapacitást lefoglalni, arra időt, energiát, áramot fordítani, ami az aktuális döntés szempontjából irreleváns, ezzel tovább késleltetve a cselekvésig eltelt időt. Az emberi reakcióidő is alapvetően azért nagy, mert az ember nem célszoftver, hanem általános intelligenciája van.

> Szerintem amúgy simán az, hiányosságok ide vagy oda. Ez a "jósold meg a következő szót/pixelt/byte-ot" célkitűzés elég tág ahhoz, hogy általános intelligencia alapja lehessen, és a neurális hálós architektúrát + temérdek adatot alá tolva tényleg működik is.

Sok esetben ez meggyőző eredményt ad. De nagyon komoly hiányossága a dolognak, hogy olyan szöveget generál, amilyenekkel addig találkozott. Tud válaszolni ilyen meg olyan kérdésekre, de nincs valódi fogalmi modellje a világról.

Ha beírod neki, hogy van egy Béla nevű barátod, aki idegsebészként dolgozott, akkor azt fogja mondani, hogy nagyszerű, van egy idegsebész barátod, akit Bélának hívnak és esetleg mond pár dolgot az idegsebészetről. Ha azt mondod neki, hogy Béla felmondott, és most munkát keres, de nehezen talál, mert nem végezte el a nyolc általánost, akkor sajnálkozni fog, és le fogja írni, hogy azért lehet nyolc általános nélkül is munkát találni, és ajánl is pár lehetőséget. Ha ezután megkérdezed, hogy lehet-e valaki idegsebész a nyolc általános elvégzése nélkül, akkor hosszasan kifejti, hogy miért nem lehet. (Amúgy ha nem lépésenként adod neki az információt, hanem egyben megfogalmazva, akkor meg lehet, hogy az idegsebész végzettségéhez fog munkaköröket ajánlani, a nyolc általános el nem végzettségét figyelmen kívül hagyva.)

És kész. Nincs mit hozzáfűznie. Külön-külön *látszólag* tud mindent, amiből rá lehetne jönni, hogy itt valami baromira nincs rendben, külön-külön mindenről helyes és releváns választ *fogalmaz* meg, de valójában nem tud semmit, ezért nem fog visszakérdezni soha, hogy „Mégis hogy a fenébe lehetett volna Béla barátod idegsebész a nyolc általános elvégzése nélkül?”

Ez szerintem nem apró hiányosság, hanem egy kardinális probléma. Egy nyelvi modell csak szöveget generál, nem képes információkat szintetizálni, ami szerintem azért jogosan lehet alapvető elvárás egy általános MI-vel szemben. Valami olyan lényegi dolog hiányzik a nyelvi modellen alapuló MI-kből, aminek a hiányában aligha lehet általános MI-nek nevezni.

Persze igen, igazad van, le lehet redukálni az ÁMI, meg az MI jelentését addig, hogy annak egy kavics is megfeleljen, csak nem biztos, hogy ennek van értelme. (Ugye egy időben jobb híján a statisztikai algoritmusokon alapuló szakértői rendszereket is hívták mesterséges intelligenciának, csak éppen az intelligencia olyan alapvető képességeivel sem rendelkeztek, mint pl. a tanulás, adaptálódás. Aztán lehet néhány évtized múlva meg az nem fogja kielégíteni a mesterséges intelligencia fogalmát, amit ma annak nevezünk, mert bár képes mintákat-összefüggéseket felismerni, tanulni, adaptálódni, de valami olyan hiányzik belőle, amit akkora már el fogunk érni.)

Olvasd el a Sparks of AGI cikket, de ha nincs rá időd, legalább nézd meg az előadást, tételesen beszél a pontjaidról. Van világmodellje, ugyanolyan valódi, mint a tied, és ha zavarosabb és inkoherensebb is, de kétségkívül van neki, képes belőle következtetni és általánosítani. A GPT nem egy az egyben böfög vissza szöveget, hanem de novo generál, hasonló alapon, mint ahogy te generálsz szöveget az alapján, amivel eddig találkoztál.

Senki nem redukált az AGI jelentésén semmit, sőt, épp az ellenkezője figyelhető meg: hand-waving a valódiságról meg fundamentális elvi alapokról, ködös új kritériumok állítása.