Ez nem tűnik fel nekik?

"Ezeknek az embereknek nem tűnt fel...?" De... de mi a meglepő abban, hogy a számítógép gyorsan ad választ? Ez a dolga...

"Akik nem hiszik, ..., nem tanultak matematikát?" De, sokan tanultak matematikát.

"Nem tudják mi az az exponencialitás?" De, sokan tudják.

Persze ettől még nem fogja a közeljövőben elvenni a jó fejlesztők munkáját a mások által is leírt okok miatt. Tehát nyugodtan beíratkozhatsz progmatra vagy mérnökinfóra.

> "Az ChatGPT viszont valószínűségi alapon próbálja megjósolni a válaszának a következő szavát."

> Dehogy is!

>Ez egy ökörség.

Gyakorlatilag tényleg csak statisztikai alapon generál szöveget. A bemeneti szöveg szavait – adott esetben toldalékait, írásjeleit – tokenekké, pontosabban tokenek szekvenciájává alakítja, és ebből generál válaszként token szekvenciát, méghozzá a GPT kimondottan autoregresszív módon. (Más LLM alkalmazhat más – pl. maszkoló – módszert is.) Mivel a betanításul szolgáló szövegekben a banán színének a kontextusában a sárga volt a leggyakoribb következő szó, így kvázi valószínűségi alapon a „A banán színe…” szövegnek megfelelő tokenszekvenciából nem a „kék” és nem a „zsigérzsugorodás”, hanem a „sárga” szónak megfelel tokent fogja előrejelezni, így a válaszban ez a szó fog szerepelni. A betanításul szolgáló szövegekben ez a leggyakoribb, így a helyes válaszban is ez a legvalószínűbb folytatás.

(De ez amúgy minden neurális hálóra igaz, a betanítás során a bemenő, a kimenő és a rejtett rétegek neuronjai közötti kapcsolatok erősödnek vagy gyengülnek – a kapcsolatok súlya változik –, így sajátos formában ugyan, de mégiscsak egy statisztikai természetű összefüggés alakul ki a helyesnek elfogadott be- és kimeneti adatok között, a működés során meg ezen statisztikai összefüggések alapján kvázi valószínűségi természetű kimeneti adatot ad egy ismeretlen bemeneti adatra.)

A GPT nyilván ennél azért némileg összetettebb, van néhány trükk a hatékonyabb, helyesebb eredmény elérése érdekében, de RLHF ide, MoE oda, finomhangolás emide, visszacsatolás amoda, a működésének a lényegi része mégiscsak ebben rejlik. Lásd: [link] :

„As language models, they work by taking an input text and repeatedly predicting the next token or word.”

Lehet, hogy tisztában vagy azzal, hogy pl. milyen korcsoport és mire használja a ChatGPT-t, meg lehet egy csomó felhasználói oldali tudással rendelkezel róla, csak úgy tűnik, hogy éppen a működését nem igazán érted.

De ha már olyan intelligensnek tartjuk a ChatGPT-t, esetleg kérdezzük meg őt is, mi az álláspontja ezzel kapcsolatban:

> A ChatGPT valószínűségi alapon próbálja megjósolni a válaszának a következő szavát?

ChatGPT (3.5): Igen, a ChatGPT és a GPT alapú modellek valószínűségi alapon működnek, amikor próbálják megjósolni a válaszuk következő szavát. Ezek a modellek a szöveg előrejelzésének problémáját tekintik megfordított nyelvi modellezésnek (reverse language modeling).

A működés lényege, hogy amikor egy adott szöveget generálnak vagy értelmeznek, a modell minden szóra vonatkozó valószínűségi eloszlásokat számol ki arról, hogy milyen szavak vagy szimbólumok jöhetnek a következőkben. Ezeket az eloszlásokat tanulmányozza, hogy meghatározza a legvalószínűbb következő szót, és azt a szót választja ki a generált szövegbe.

Ez a valószínűségi megközelítés teszi lehetővé, hogy a modell változatos és értelmes szöveget generáljon, mivel nem szigorúan szabályokon vagy sablonokon alapul. Azonban ez a megközelítés néha eredményezhet különféle hibákat vagy nem kívánt kimeneteket is, mivel a modell a tanítóadatokban talált mintákra és összefüggésekre támaszkodik.

Fontos az is, hogy a felhasználók vagy fejlesztők képesek legyenek irányítani és befolyásolni a generált szöveget, például azáltal, hogy specifikus utasításokat vagy korlátozásokat adnak a modellnek, hogy a válaszok megfeleljenek az adott szituációnak vagy kontextusnak.

8 😂

Erre én azt mondom, hogy a google vel is az elején sokmindent meg lehetett találni..Még azt is amit az ember nem is keresett..

Na ez lesz az AI val is...

Majd kap róla az átlagnép egy demoverziót hacsak már nem az a mostani is!