Ez nem tűnik fel nekik?

"Megtolták még néhány millió dollárral". Ja, mert nem láttunk még olyat az IT/Tech iparban, amibe hatalmas pénzeket toltak, de végül nem lett belőle semmi vagy csak ígérgetések egész hada.

Csak így hirtelen: Windows Phone, Google glass, 3D TV-k, HyperLoop, VR szemüvegek egész hada, Elizabeth Holmes (bár ő olyan szempontból kivétel, hogy ő tudatosan átverést csinált).

Egyébként meg teljesen felesleges volt feltenned egy irányított kérdést. Ráadásul olyan magas lovon ülsz, hogy ha nem neked tetsző válasz érkezik, akkor az az illető csakis hülye lehet szerinted. Nem tudom mit vársz így, de értelmes vita nem fog kialakulni, az biztos.

Egy nyers erővel működő sakkprogram végigszámolja a lehetséges lépéseket, az azokra adott lehetséges válaszlépéseket, stb… Itt részben igaz, hogy több számítási idő, nagyobb számítási kapacitás jobb lépést fog generálni.

Az ChatGPT viszont valószínűségi alapon próbálja megjósolni a válaszának a következő szavát. Itt van egy neuronhálózat, a számítási kapacitás ahhoz kell, hogy az inputból kiszámolódjon az output. Itt fix idő az, amíg az inputból kiszámolja az outputot. További számítási idővel önmagában nem tudunk mit kezdeni, nem tudjuk az output „jóságát” növelni vele, mert az nem a számítási kapacitáson múlik.

Olyat tudunk persze, hogy az extra számítási kapacitást arra fordítjuk, hogy egy még nagyobb neurális hálót hozzunk létre, mert az extra számítási kapacitás tükrében már azon is elfogadható válaszidőt fogunk kapni. De ott a válasz jóságát inkább fogja az meghatározni, hogy hogyan dolgozzuk elő az adatokat, mivel tanítjuk be az MI-t, mekkora és milyen minőségű adatmennyiség áll a rendelkezésre. Ezek viszont nem a fán teremnek, valamilyen – nem MI által generált – meglévő adathalmazzal tudjuk csak betanítani az MI-t, és már most merülnek fel problémák azzal kapcsolatban, hogy ezek felhasználásának milyen szerzői jogi, anyagi aspektusai vannak az MI által generált tartalomra nézve. (Azért nem jó ötlet MI által generált adattal betanítani egy MI-t, mert akkor csak az fogja megtanulni, amit már addig is tudott az elődje, újabb összefüggéseknek nem fog ebből a nyomára lelni. Ha pl. a ChatGPT 4-gyel generált szövegekkel akarnánk betanítani a ChatGPT 5-öt, akkor a probléma az lenne, hogy a ChatGPT 4 szisztematikus hibáit fogja csak elsajátítani.)

Itt meg kérdés, hogy ezen szövegbázisok mennyisége exponenciálisan növekszik-e. Ha jó válaszokra számítunk, a betanításhoz is jó, ellenőrzött tartalmat kell beadni. Ott van pl. a Wikipédia. Oké, hatalmas növekedésnek tűnik, hogy míg 2005-ben 1,2 millió szócikk volt, 2015-ben meg 34,7 millió, de a növekedés lassul. 2005-ben még egy év alatt 36,6%-kal növekedett a szócikkek száma, addig 2015-ben már csak 13,5%-kal. A növekedés exponenciális volt kezdetben, majd áthajlott lineárisba, majd inkább logaritmikus természetűvé vált. Nyilván mert kezd elfogyni az, ami releváns, de amiről még nem született szócikk, vagy nem vált valamelyik szócikk részévé.

"Általában elvárom, hogy az, aki hozzászól valamihez, abban a témában rendelkezzen némi nemű tájékozottsággal."

Mi meg ugyanezt várnánk el a kérdezőtől.